La Inteligencia Artificial es un tema que genera controversia. Unos d\u00edas, es vista como la soluci\u00f3n a muchos de los problemas del mundo; otros, como la amenaza que nos llevar\u00e1 hacia un futuro sombr\u00edo. La realidad, como siempre, se encuentra entre ambos extremos. Los efectos de la IA ser\u00e1n tanto positivos como negativos, por lo que hay que hacerse algunas preguntas para determinar el uso adecuado de esta tecnolog\u00eda.<\/p>\n
Para responder en profundidad a esta pregunta probablemente tendr\u00edamos que escribir un libro, pero no iremos tan lejos. En su lugar, podemos centrarnos en un caso de uso cada vez m\u00e1s popular y democratizado: los asistentes generativos de IA. A estas alturas, es probable que hayas utilizado ChatGPT o Bard o una de las diversas plataformas disponibles para cualquiera que tenga un ordenador. Pero, \u00bfpodemos esperar siempre una respuesta perfecta cuando les realizamos una pregunta?<\/span><\/p>\n La respuesta corta es “no”. En muchas ocasiones, estos <\/span>sistemas producen lo que llamamos alucinaciones<\/span><\/a>\u00a0y la IA se inventa respuestas. Las respuestas que proporcionan estas herramientas proceden del conjunto de datos de entrenamiento del algoritmo y, es posible que, en realidad, esos datos est\u00e9n desfasados y no se correspondan con los conocimientos de la vida real. Un buen ejemplo es la historia de un abogado que utiliz\u00f3 una herramienta de IA para presentar un escrito en un tribunal. Resulta que utiliz\u00f3 ChatGPT para redactar todo el escrito, pero la IA decidi\u00f3 citar casos falsos para apoyar el escrito<\/span>.<\/span><\/p>\n Cuando utilizamos una herramienta de IA, es probable que la supervisi\u00f3n humana vaya a ser necesaria siempre. Tanto si el modelo analiza los patrones meteorol\u00f3gicos para predecir las precipitaciones como si eval\u00faa un modelo de negocio, puede cometer errores o incluso dar respuestas que no tienen sentido l\u00f3gico. El uso adecuado de la IA, especialmente con herramientas como ChatGPT y similares, requiere de validaci\u00f3n humana.<\/span><\/p>\n Esta situaci\u00f3n resulta demasiado compleja para abordarla en este art\u00edculo, pero trataremos de proporcionar una explicaci\u00f3n sencilla con un ejemplo. Los algoritmos de Inteligencia Artificial pueden mostrar un comportamiento discriminatorio. Por ejemplo, se ha descubierto que una IA presentaba una alta tasa de error dependiendo del sexo o la raza de las personas. Tambi\u00e9n se ha observado que algunos clasificaban de forma err\u00f3nea el riesgo de los reclusos, mostrando tasas desproporcionadas de reincidencia.<\/span>2<\/sup><\/span><\/p>\n \u00bfLos ingenieros pueden ajustar su c\u00f3digo una vez que su modelo se ha publicado? S\u00ed, siempre es posible. Pero el proceso de verificaci\u00f3n y supervisi\u00f3n debe ser una actividad constante. En cambio, lo que pueden hacer los creadores de IA es centrarse en <\/span>reflejar los valores adecuados desde la concepci\u00f3n de sus modelos<\/span><\/a>. <\/span><\/p>\n Los algoritmos generan resultados basados en los datos con los que se han entrenado. Si estos datos no reflejan la poblaci\u00f3n a la que pretende evaluar, los sesgos inherentes se reflejar\u00e1n en el modelo una vez este se active. Aunque estos modelos son s\u00f3lidos, carecen de la comprensi\u00f3n humana b\u00e1sica de lo que est\u00e1 bien y de lo que est\u00e1 mal. Por esta raz\u00f3n, los creadores deben enfocarse desde el primer d\u00eda en fomentar los valores que la IA debe tener. Si bien es cierto que luego se pueden hacer cambios, lo mejor es que los valores est\u00e9n presentes desde el principio.<\/p>\n Hace unos a\u00f1os, una tragedia ocurri\u00f3 cuando un veh\u00edculo aut\u00f3nomo atropell\u00f3 a un peat\u00f3n. La pregunta que surgi\u00f3 de este incidente fue: “\u00bfqui\u00e9n fue el responsable del accidente?”. \u00bfEra la compa\u00f1\u00eda de Uber, due\u00f1a del coche? \u00bfO el conductor del coche? En este caso, el operador del veh\u00edculo fue inculpado de conducci\u00f3n temeraria. <\/span><\/p>\n Pero, \u00bfqu\u00e9 suceder\u00eda si el coche no tuviera ning\u00fan conductor y fuera totalmente aut\u00f3nomo? \u00bfY qu\u00e9 pasar\u00eda si ese coche no reconociera a un peat\u00f3n cruzando la calle porque el sem\u00e1foro estaba en verde? A medida que la Inteligencia Artificial se implementa en m\u00e1s y m\u00e1s situaciones, la pregunta de la responsabilidad se hace cada vez m\u00e1s urgente. <\/span><\/p>\n2. \u00bfPueden los creadores de IA corregir el sesgo algor\u00edtmico a posteriori?<\/span><\/b><\/h2>\n
3. \u00bfQui\u00e9n es responsable de las acciones de una IA?<\/span><\/b><\/h2>\n