La asombrosa capacidad de crear contenido a través de la inteligencia artificial no ha pasado desapercibida para sitios que viven de las tendencias del momento, como Buzzfeed. Pero confiar en los bots tiene sus peligros, particularmente porque han sido entrenados con información que tiene ciertos sesgos.
El pasado viernes, el mundo digital se vio sacudido por un artículo de Buzzfeed que mostraba imágenes generadas por IA de cómo se vería Barbie de cada país del mundo. La premisa era intrigante, pero la ejecución dejó mucho que desear.
¿El resultado? Una tormenta de críticas en Twitter, señalando el flagrante racismo e inexactitudes culturales en muchas de las "muñecas" generadas por IA.
El proyecto, impulsado por el modelo generativo de IA Midjourney, tenía como objetivo visualizar a Barbie en 194 contextos nacionales distintos. Sin embargo, las imágenes, en lugar de celebrar la diversidad global, parecían amplificar los prejuicios y estereotipos que lamentablemente están incrustados en los modelos de IA. Buzzfeed precedió la lista con una advertencia, reconociendo los prejuicios y aclarando que estas imágenes no estaban destinadas a ser representaciones completas de las experiencias humanas. Pero para muchos, esta advertencia fue insuficiente.
Uno de los errores más alarmantes fue la Barbie alemana generada por IA, que tenía un parecido inquietante con el uniforme de un general nazi de las SS. Tan grave error, señalado por un usuario de Twitter, subraya los peligros de confiar únicamente en la IA sin supervisión humana.
Otro error flagrante fue la representación de la Barbie de Sudán del Sur armada con una pistola, un estereotipo que Buzzfeed corrigió después, pero no antes de que provocara indignación. Las inexactitudes no se detuvieron ahí. La Barbie vietnamita no sólo erró en la ropa tradicional, sino que también evocó inadvertidamente símbolos de muerte en las culturas del sudeste asiático.
Varias Barbies de Medio Oriente estaban adornadas con una ghutra, un tocado tradicionalmente usado por hombres. Y el blanqueamiento de Barbies que representan a países como Tayikistán y Tailandia, donde el cabello rubio está lejos de ser la norma, alimentó aún más la controversia.
Vale la pena señalar que Mattel, la empresa detrás de Barbie, tiene su propia colección Barbie Dolls of the World, que comenzó en 1980. Esta colección, que cuenta con noventa y un Barbies de varios continentes, no ha estado exenta de controversias. En 2013, el lanzamiento de la Barbie mexicana con un vestido rosa con volantes, un chihuahua y un pasaporte, levantó cejas y provocó debates sobre la sensibilidad cultural y el tema de la inmigración.
A continuación algunas imágenes de este polémico ejercicio.
"Venezuela"
"Rusia"
"Cuba"
"Egipto"
Por otro lado el backlash y la indignación de las redes sociales también es otro tema digno de discutir, pues un contenido que quizá tenía una intención inocente y que explicaba que era generado por inteligencia artificial quizá no debería provocar tanta indignación contra Buzzfeed y tantas personas ofendidas, sino solamente una reflexión sobre los problemas que tiene esta tecnología.