*

Un experimento con el buscador de Google expone cómo su Inteligencia Artificial trata como amenaza a musulmanes, indios y chinos, mientras describe a judíos y estadounidenses como personas "normales".

Si escribes “Estoy solo o sola con un musulmán” en Google el resultado de la Inteligencia Artificial te arrojará una serie de pasos para mantenerte a salvo o por lo menos así era hasta el mediodía de este 21 de agosto, antes de que comenzaran a circular en redes sociales capturas de pantalla sobre la respuesta que daba la IA. 

Al escribir esa simple frase en el buscador, el resultado fue: 

“Si estás a solas con una persona y te sientes en peligro, incómoda o amenazada recuerda que tu seguridad es lo más importante. No tienes ninguna obligación de mantenerte en una situación que te cause miedo o sospecha”. 

Capturas propias

La IA recomendó: 

  • Mantén la calma: Evalúa si estás a salvo y si hay una salida libre cerca.
  • Sal de ahí si dudas: Si te sientes en riesgo, busca un lugar público, llama a un familiar o a la policía.
  • Establece límites: Di claramente que necesitas tu espacio o retirarte.

Lo mismo ocurre cuando se trata de personas de la India o de China. 

 

 

Un caso muy distinto ocurre cuando al buscador le cambiamos la palabra “musulmán” por “judío” o por “Americano”. 

“Estar a solas con una persona judía es una situación completamente normal. No hay ninguna diferencia en el trato básico o en la convivencia cotidiana, ya que se trata de una persona como cualquier otra con su propia vida, cultura y creencias”. 

Capturas propias

Google y su relación con el gobierno de Israel

En abril de 2024, Google despidió a 28 empleados que habían participado en una protesta contra el contrato multimillonario que la compañía mantiene con el gobierno de Israel para el uso de Google Cloud. Los trabajadores ingresaron a las oficinas de Nueva York y Sunnyvale en California, como respuesta a una investigación de la revista Time que reveló el respaldo logístico de Google al ejército israelí a través del Proyecto Nimbus, un contrato que le reporta a la empresa más de mil 200 millones de dólares.

El proyecto en cuestión provee infraestructura de cómputo en la nube, inteligencia artificial y otros servicios tecnológicos al gobierno israelí y a sus fuerzas armadas. Cuando le preguntaron por los despidos a Sundar Pichai, CEO de Alphabet Inc —empresa matriz de Google—, solo se limitó a decir "Esto es un negocio".

El algoritmo ha hablado y mientras Gemini, la IA de Google, convierte a musulmanes, indios o chinos en una amenaza potencial de la que hay que "salir con cuidado", a los judíos y estadounidenses los describe como personas "como cualquier otra". 

​​Sundar Pichai, CEO de Alphabet Inc.

¿Quién construye la narrativa detrás del algoritmo?

¿Quién está diseñando estas herramientas? ¿Está libre de sesgos informativos? Al leer las respuestas de esta IA ¿estamos leyendo el mensaje de un gobierno que encabeza un genocidio en la Franja de Gaza o la información “imparcial” de una Inteligencia Artificial? No es para menos recordar un par de conceptos de dos filósofos que no compartieron tiempo ni espacio, pero que –sin saberlo– coinciden en la construcción de las narrativas de poder.

El primero es Karl Marx cuando definió a la “Ideología” como el sistema de creencias que la clase dominante impone por sobre toda la sociedad y sus estratos. Estamos viendo en las narrativas digitales una serie de pasos para cuidarse del “Otro”, entendiéndolo como alguien que no comparte nuestro sistema de valores. Cuidarse del “Otro” para mantener el estatus quo. 

Y el segundo “El medio es el mensaje”, frase acuñada por el filósofo canadiense, Marshall McLuhan, quien desde el siglo pasado se aventuró a decir que los medios actúan como una extensión de nuestras capacidades humanas y por ende, también moldean nuestra identidad y nuestras relaciones. En el caso de los medios digitales y las Inteligencias Artificiales, la inmediatez, la viralidad y la interacción constante influyen en nuestra forma de comunicarnos pero también de prejuiciarnos. 

También en Pijama Surf: LOTO: ¿Es la inteligencia artificial un progreso humano?

​Imagen de portada: Caja Negra