El lado oscuro de la inteligencia artificial

¿La inteligencia artificial vino a salvarnos o a hundirnos? ¿Cómo podemos confiar en una herramienta autónoma? ¿Quiénes hacen posible ChatGPT?

Empecemos por el comienzo: GPT viene de Generative Pre-trained Transformer y fue creada por OpenAI, la empresa fundada por Elon Musk y Sam Altman. Se estima que su valor está en 29 billones de dólares, incluyendo una posible inversión de $USD 10 billones de parte de Microsoft.

El ChatGPT es un bot de diálogo basado en la versión 3.5 del modelo GPT. Tiene la capacidad de predecir el siguiente conjunto de palabras u oraciones a partir de una frase dada en lenguaje natural, proporcionando respuestas inteligentes a preguntas complejas y generando contenido de forma automática.

El sistema incorpora 175 millones de parámetros y fue entrenado con el mayor repositorio de lenguaje humano disponible: Internet, donde existe todo lo bueno y todo lo malo. Por ello, las primeras versiones de GPT, y muchas otras inteligencias artificiales, suelen generar contenido sesgado y discriminatorio.

No existe un método simple para eliminar las (grandes) partes llenas de racismo, sexismo, discriminación y odio de la nube, por lo que Open IA tuvo que incorporar un mecanismo de seguridad adicional. Fue necesario que la inteligencia artificial aprenda a detectar todo ese lenguaje tóxico con ejemplos reales de violencia, discursos de odio, abuso sexual y todo tipo de delitos. El problema es que, al menos por ahora, es una tarea realizable solo por inteligencia humana.

“Esta base de datos (internet) es la causa de las impresionantes capacidades lingüísticas de GPT-3, pero también es, quizás, su mayor maldición”, aseguran desde la revista TIME, en una publicación que describe el trabajo de las personas que deben bucear en lo peor de internet.

¿Por cuánto dinero aceptaríamos la tarea de ver, leer y escuchar los delitos más horrorosos de la humanidad y clasificarlos en distintas categorías? ¿Cuáles son los criterios por los cuales se determina que algo es o no apropiado? 

La investigación del TIME descubrió que OpenAI tercerizó esta tarea en una empresa que emplea a trabajadores de Kenia, quienes cobran menos de 2 dólares la hora y quienes denunciaron que no tienen la ayuda psicológica prometida para afrontar tamaña exposición.

Lejos de ser un problema aislado o una anécdota secundaria ante lo que se publicita como el comienzo del futuro, el caso de ChatGPT nos sirve para ilustrar que estas innovaciones tecnológicas no surgen por arte de magia; y por el contrario, se recuestan en cadenas de suministro masivo de trabajo humano y datos de dudosa proveniencia.