*

X
Un glitch en el asistente virtual de Amazon hizo a una pareja pasar una situación penosa y generó preocupación sobre la privacidad de esta tecnología

El escritor de ciencia ficción Philip K. Dick anticipó que en el futuro serían nuestros aparatos los que nos espiarían, ya no los agentes del FBI. Sea esto accidental o perverso, ese futuro ya está aquí, como prueba un reciente incidente. 

Una pareja de Portland se sobresaltó cuando uno de los empleados del esposo los alertó de que había estado recibiendo mensajes de audio con sus conversaciones privadas. En primera instancia la pareja se mostró incrédula, pero luego el empleado les detalló una de sus conversaciones: una discusión sobre pisos de madera. Los mensajes habían sido enviados por el asistente virtual de Amazon, Alexa, la personalidad que reside en el aparato Echo.

Ante esta situación, Amazon admitió que existe una vulnerabilidad en el software de Alexa que hace que adivine las conversaciones y tome acciones con base en estimaciones que pueden ser, evidentemente, incorrectas. Amazon explicó que lo sucedido es algo sumamente raro. Debieron de haber ocurrido varias fases de malinterpretación: primero, el aparato debió de haber escuchado una palabra similar a su nombre y luego interpretar la conversación subsecuente como "enviar mensaje", y más tarde debió de preguntar "¿nombre de contacto?" y en la conversación de fondo interpretar un nombre y una afirmación a su pregunta.

Amazon explicó que se encuentra trabajando para que esto no vuelva a suceder, e informó que se puede evitar cualquier accidente desactivando la función de Echo para hacer llamadas. 

De cualquier manera, quedan ciertas dudas en cuanto a la protección de datos. Alexa funciona escuchando incesantemente el ambiente, para responder cuando se le menciona ("Alexa"). Una vez que se le llama, Alexa almacena la información de las conversaciones que ocurren cuando se ha activado su función de asistencia en la cuenta personal de Amazon de los usuarios. Esta información se queda allí indefinidamente, a menos de que los usuarios la borren manualmente. Y recientemente, Amazon hizo una patente que en un futuro permitiría a Alexa dar asistencia aunque no sea llamada. Por ejemplo, Alexa podría escuchar una conversación en la que se menciona el plan de ir a cenar y tomar la iniciativa y enviar un mensaje con una recomendación, mientras la conversación transcurre. 

Te podría interesar:
Esta herramienta desarrollada por Facebook te ayuda a saber si tu información personal fue minada por Cambridge Analytica

Después de la polémica suscitada por la “minería” de datos personales que realizó la firma Cambridge Analytica de miles de usuarios de Facebook (datos que fueron usados después con fines políticos y de propaganda en la campaña presidencial de Estados Unidos, y quizá en procesos electorales de otros países, incluido México), dicha red social enfrenta una de sus crisis más importantes desde su fundación en el 2004, tanto de parte de los usuarios (entre quienes se ha levantado cierto movimiento que convoca al abandono masivo de la plataforma) como de ciertas entidades gubernamentales, particularmente en Estados Unidos, el Reino Unido y la Unión Europea, que examinan la posibilidad de imponer regulaciones a la empresa, que hasta ahora se ha desarrollado en relativa libertad, acaso porque nadie imaginaba que su servicio, que comenzó como mero entretenimiento, casi inofensivo, sería capaz de impactar la realidad social en diversos niveles.

En este contexto, y en parte como una medida de “control de daños”, Facebook desarrolló una herramienta que permite saber si tu perfil o el de alguno de tus amigos fue minado por Cambridge Analytica y, por lo tanto, tu información personal. Dicha herramienta se encuentra en este enlace

Más allá del resultado, la ocasión puede aprovecharse también para echar un vistazo sea a la idea de privacidad con la que te manejas en Internet o al efecto que dicho hábito genera en tu realidad inmediata. De vez en cuando, vale la pena reflexionar sobre ambos aspectos. ¿Qué tanto de lo que haces diariamente quisieras que fuera usado después como información comercial, política o con otros fines? ¿Qué tanto de lo que compartes en la red de verdad quieres que sea público? ¿Qué tanto de lo que recibes está configurando la realidad que habitas?

Hace tiempo que el Internet dejó de ser un terreno inocente, de experimentación o de innovación, y cada vez más es otro ámbito de disputa en donde a veces el usuario termina siendo una mercancía. No perdamos eso de vista.

 

También en Pijama Surf: Capitalismo de vigilancia, algoritmos para manipular la opinión pública y la caída de Facebook