*

X
Un glitch en el asistente virtual de Amazon hizo a una pareja pasar una situación penosa y generó preocupación sobre la privacidad de esta tecnología

El escritor de ciencia ficción Philip K. Dick anticipó que en el futuro serían nuestros aparatos los que nos espiarían, ya no los agentes del FBI. Sea esto accidental o perverso, ese futuro ya está aquí, como prueba un reciente incidente. 

Una pareja de Portland se sobresaltó cuando uno de los empleados del esposo los alertó de que había estado recibiendo mensajes de audio con sus conversaciones privadas. En primera instancia la pareja se mostró incrédula, pero luego el empleado les detalló una de sus conversaciones: una discusión sobre pisos de madera. Los mensajes habían sido enviados por el asistente virtual de Amazon, Alexa, la personalidad que reside en el aparato Echo.

Ante esta situación, Amazon admitió que existe una vulnerabilidad en el software de Alexa que hace que adivine las conversaciones y tome acciones con base en estimaciones que pueden ser, evidentemente, incorrectas. Amazon explicó que lo sucedido es algo sumamente raro. Debieron de haber ocurrido varias fases de malinterpretación: primero, el aparato debió de haber escuchado una palabra similar a su nombre y luego interpretar la conversación subsecuente como "enviar mensaje", y más tarde debió de preguntar "¿nombre de contacto?" y en la conversación de fondo interpretar un nombre y una afirmación a su pregunta.

Amazon explicó que se encuentra trabajando para que esto no vuelva a suceder, e informó que se puede evitar cualquier accidente desactivando la función de Echo para hacer llamadas. 

De cualquier manera, quedan ciertas dudas en cuanto a la protección de datos. Alexa funciona escuchando incesantemente el ambiente, para responder cuando se le menciona ("Alexa"). Una vez que se le llama, Alexa almacena la información de las conversaciones que ocurren cuando se ha activado su función de asistencia en la cuenta personal de Amazon de los usuarios. Esta información se queda allí indefinidamente, a menos de que los usuarios la borren manualmente. Y recientemente, Amazon hizo una patente que en un futuro permitiría a Alexa dar asistencia aunque no sea llamada. Por ejemplo, Alexa podría escuchar una conversación en la que se menciona el plan de ir a cenar y tomar la iniciativa y enviar un mensaje con una recomendación, mientras la conversación transcurre. 

Te podría interesar:
Este desarrollo del Instituto Tecnológico de Massachusetts permite que un dispositivo reconozca órdenes sencillas, como la navegación en una pantalla o la suma de cantidades

Hace unos meses se dieron a conocer los resultados de un desarrollo científico que, grosso modo, tuvo como propósito enseñar a una inteligencia artificial a reconocer pensamientos humanos, codificarlos y convertirlos en imágenes relativamente identificables. El resultado fue admirable, y de alguna manera mostró que en este momento existe tecnología capaz de adentrarse en el cerebro humano, bucear y extraer algo de lo mucho que puede pasar por nuestra mente.

En el Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés) se ha desarrollado una tecnología que a primera vista parecer ser un puente directo entre el pensamiento y un dispositivo electrónico, de manera tal que éste ejecuta órdenes que parecen ser transmitidas sin decir una palabra, sin mover un dedo, sin presionar ningún botón: tan sólo con pensar.

El nombre provisional que tiene este prototipo es AlterEgo y por lo pronto permite interacciones “sencillas” como navegar con acciones simples a través de un menú de opciones, conocer la hora actual o sumar cantidades. 

Sin embargo, esto es posible no gracias a un sistema de reconocimiento neuronal o algo parecido, sino a un desarrollo sumamente preciso que identifica los movimientos musculares sutiles que la mayoría de nosotros realiza cuando “decimos” en silencio palabras muy específicas. 

Según se explica en el reporte del MIT al respecto, esta conexión entre la “voz interna” y el cuerpo se estudió con cierto interés siglo XIX, y con un poco más de seriedad a mediados del siglo XX. En el caso de este desarrollo se parte de un principio afín, al conectar 16 electrodos a distintas zonas del cuerpo para detectar esos movimientos usualmente imperceptibles para el ojo humano (e incluso para nuestra propia percepción). El sistema se complementó con un sistema de “aprendizaje profundo” (deep learning), basado a su vez en una red neural que hizo posible la correlación entre el pensamiento de palabras determinadas y la reacción muscular sutil asociada con éstas. Este es el resultado:

Si bien no es (aún) un puente directo entre el pensamiento y el dispositivo, AlterEgo parece encaminarse a dicho objetivo. Y también es inevitable pensar en otro efecto evidente y, no obstante, un tanto ignorado: el aislamiento de la persona que lo usa, que por un momento se ve rodeada de otros seres humanos pero está concentrada únicamente en su conexión con el aparato. Las similitudes con Her (Spike Jonze, 2013) son notables, restando toda la diferencia estética de ambos registros. 

¿Será este el futuro que aguarda al ser humano?