Conforme se avanza con la IA, las discusiones en recientes días se han vuelto apabullantes e incluso apocalípticas; estas informan que se debe poner un alto a su desarrollo. De esos argumentos sobresalen algunas obviedades, pero también otros que vale la pena analizar.
Por ejemplo, desde la propia concepción de la IA generativa como un modelo que se retroalimenta y automejora, era esperado que poseyera cualidades de razonamiento sin intervención humana dado su propio diseño. Es una ruta al menos ínfimamente notada por usuarios de aplicaciones como ChatGPT, las cuales entre más entrenamiento reciben con nuestra información mayor precisión brinda en sus respuestas. En este sentido, los peligros quizá no se advierten más que en la escala de la dependencia que puede generar. Y, recientemente, en lo que es capaz de hacer en el aprendizaje de las generaciones más jóvenes.
Y no es por decir menos, sin embargo, el problema es mayor cuando ampliamos el panorama hacia lo que puede hacer la IA bajo esta lógica de automejora. Aunque se trata también de una tendencia que ha caracterizado el hacer técnico humano, que la mejora automatizada pueda hacerla una creación suya de la cual ya no tiene el control, o pudiera perderlo, es lo que parece verdaderamente aterrador.
El código rojo que se ha activado por parte de empresarios y científicos alerta principalmente por ciberataques autónomos, bioterrorismo y la superación de la inteligencia humana en tiempo récord. Dario Amodei, CEO de Anthropic, ha pedido moderar el ritmo de desarrollo de la IA ante la amenaza que supone perder su control; Sam Altman, CEO de OpenAI se ha unido a la petición priorizando la seguridad; y hasta Elon Musk se sumó dado el posible rebase de la inteligencia humana en poco tiempo. Por su parte, el desarrollador Jacob Coxon dijo que hay más de 10 por ciento de probabilidad de que la IA extinga a la humanidad en la próxima década de no controlarse.
Esta alerta se ha dado en el marco de ciberataques autónomos y “desobediencia” de modelos experimentales. Y aunque es verdad que es necesario repensar y replantear los términos en que se desarrollan las IA por los riesgos ya descritos, lo cierto es que también es necesario pensar en quiénes son los que tendrían acceso a ellas; y que, por lo general, son cúpulas que tienen precisamente esas intenciones. Según la historia, esto ha sucedido con el uso de diversas tecnologías, desde la creación de la bomba atómica hasta tecnologías de manipulación de datos de usuarios para crear campañas, creencias y realidades a modo.
No es menor el riesgo de una posible inteligencia autónoma que cree un virus letal, pero, ¿quién está experimentando y suministrando esa información?, ¿es verdad que la ciencia trabaja para la propia ciencia en beneficio de la especie?, ¿es que el saber científico comanda tanto los hallazgos de cura como los hallazgos para la muerte y extinción?, ¿en qué contexto se produjo esto último?, ¿a quiénes les interesa allegarse de este tipo de conocimientos?
Todas son preguntas abiertas que no tienen una respuesta inmediata, pero lo que sí se puede asegurar hasta este momento es que a ciertos regímenes políticos y élites históricamente instaladas en el poder, el control y la toma de decisiones esta letalidad no les juega en contra.
Adicionalmente y no menos importante sería analizar cómo estos desarrollos impactan en las pugnas geopolíticas, las regulaciones de seguridad, la ocupación de territorios y el saqueo de recursos ahora sobre todo hídricos para sostenerlos; cuestiones que también deben de estar al centro de la discusión porque son temas que también devienen en empobrecimiento, exclusión y extinción.
Valentina Tolentino Sanjuan es socióloga y Maestra en Filosofía por la UNAM, Doctora en Humanidades (línea Filosofía Moral y Política, UAM) y editora en Viceversa. Investiga sobre subjetividad a partir del cambio tecnológico; también sobre feminismos y literatura. Es miembro activo de la Red Mexicana de Mujeres Filósofas y miembro de la Revista de filosofía Reflexiones Marginales Saberes de la Frontera de la UNAM.