*

X
Deep fake para textos: la máquina a la medida para la era de la posverdad

Los últimos 3 años en Internet han estado dominados por la incipiente conciencia del peligro de las fake news y la persuasión de votantes o consumidores a través de algoritmos que se alimentan en tiempo real de su información para manipular su conducta en línea. Este riesgo, que algunos consideran que atenta contra la democracia y la autonomía, podría tener un nuevo actor con el desarrollo de programas que logran escribir artículos que pueden hacerse pasar fácilmente por escritos por humanos, hasta un punto indistinguible o casi indistinguible. 

Hace un par de semanas la plataforma OpenAI anunció que estaba preocupada por el potencial uso nocivo de su modelo GPT2, que ha sido llamado "deep fake para textos". La compañía, que tiene a Elon Musk entre sus inversionistas, dijo que no hará pública la información de su investigación por miedo a que esta tecnología tenga ramificaciones negativas. El modelo GPT2 es capaz de generar texto plausible una vez que se le ha alimentado con un texto, algo así como una idea a desarrollar que conecta con otra información.

El sistema se diferencia de otros programas en que mantiene el mismo tema y sintaxis y crea pasajes estándar que parecen redactados por una persona. Esta plataforma se entrenó con más de 10 millones de artículos. Por una parte, esto es altamente interesante, pues este modelo puede realizar tareas como traducir y resumir textos. Pero por otro lado tiene un potencial que aunque podemos imaginar a dónde podría llevar, realmente es casi ilimitado en las posibilidades de usos que se le pueden dar para engañar y manipular. Por ejemplo, el sistema puede generar innumerables reseñas positivas o negativas de productos. Podría producir innumerables mensajes de spam, e incluso estudiar bases de datos para generar correos que busquen estafar a las personas. O teorías de la conspiración, o textos orientados a provocar a ciertos grupos sociales o políticos. Podría producir sitios enteros de fake news o de información con fines propagandísticos. 

Aunque esta cautela es bienvenida, por otro lado es evidente que esta tecnología en algunos años será desarrollada por otras personas y probablemente pueda ser usada con fines nocivos. Así que es importante prepararnos y educarnos. Lo que parece indudable es que estamos llegando a un punto en el que la tecnología que creamos está capacitada para rapazmente explotar algunas de nuestras vulnerabilidades mentales y nuestro nivel moral e intelectual como civilización no está a la altura para salvaguardar los usos de esta tecnología, lo cual es preocupante. Parece que vivimos en los tiempos que Philip K. Dick imaginó:

Las realidades falsas crearán humanos falsos. O bien, los seres humanos falsos generarán realidades falsas y luego las venderán a otros seres humanos, convirtiéndolas, eventualmente, en falsificaciones de sí mismos. Así que terminamos con humanos falsos inventando realidades falsas y luego vendiéndolas a otros humanos falsos.

Te podría interesar:
Que nos parezca normal que nuestras conductas sean vigiladas y analizadas constantemente para crear anuncios personalizados es una caja de Pandora

Hace unos días Mark Zuckerberg publicó un artículo en el Wall Street Journal en el que defiende que Facebook necesita la información de los usuarios, pero sólo para la seguridad y para operar; los usuarios pueden controlar si se usa para anuncios o no. Zuckerberg mantiene que su intención desde el principio era proveer un espacio para conectar personas, algo que el Internet no hacía. Este es el discurso que ha manejado reiteradamente en los últimos tiempos ante importantes cuestionamientos de los medios y el poder legislativo.

Como nota el analista Enrique Dans, esta aseveración es poco menos que engañosa, pues es prácticamente imposible controlar todo lo que Facebook hace con tu información. Y el solo hecho de estar en Facebook es ya estar expuesto a anuncios que se personalizan con información de usuarios, a cuyo perfeccionamiento has contribuido con tu historia en Facebook. Nadie que esté en Facebook, por más que opte por no hacer disponible su información para los anunciantes -algo que acaso sólo recientemente se puede hacer, y sólo hasta cierto punto-, no ha contribuido con su información a la personalización de los anuncios y con ello, a posibles estrategias de persuasión y manipulación de conducta. Dans nota que Facebook fue inicialmente una empresa creada por un joven ambicioso y en muchos sentidos irresponsable. Zuckerberg famosamente dijo que no entendía cómo sus compañeros de Harvard le cedían toda su información, llamándolos "dumb fucks". Este fue el ethos inicial de la compañía y aunque con el tiempo Facebook se ha obligado a volverse más serio y a responder a algunos de los reclamos de la sociedad, este ethos sigue embebido en el ADN de la corporación.

Dans señala que el modelo de negocio de Facebook se consolidó simplemente como "saberlo todo de sus usuarios y vender esa información al mejor postor". Algo difícil de refutar. El éxito de Facebook, añade, se debe a que ninguna empresa en la historia ha ofrecido un servicio de publicidad personalizada tan efectivo, y esto se debe fundamentalmente a que Facebook ha logrado, con el tiempo, hacernos creer que nuestra privacidad no es muy importante. Después de todo, ¿qué tenemos que ocultar si no somos criminales? El problema estriba en que nuestra información ha creado un monstruo fuera de control y el mismo Facebook ha dado entrada a esta información a compañías con dudosas intenciones, como fue demostrado en el caso de Cambridge Analytica. Más allá de teorías conspiratorias, es poco probable que Facebook sea un ente maligno, simplemente es el resultado de un experimento casi adolescente, irresponsable, ambicioso y poco consciente de los efectos negativos que iba a tener. El hecho de que no tenga intenciones malignas, por otro lado, no significa que no sea necesario hacer que rinda cuentas. Dans pide llevarlo a tribunas. El profesor Tim Wu habla de romper su monopolio (WhatsApp, Instagram, etcétera).

Al final lo que Facebook ha hecho es que nos parezca normal ser espiados por agencias de marketing, gobiernos y otros organismos, que vayan minando nuestra información y analizándola hasta que finalmente logren desarrollar algoritmos que puedan no sólo predecir nuestra conducta sino persuadirla. Este es el precio que pagamos queriendo estar donde todos están. En su artículo Dans vincula está imagen, que lo dice todo: 

"No te preocupes, son sólo los mercadólogos recolectando información para que puedan crear anuncios más relevante para nosotros". Esta es la actitud tácita de todas las personas en las redes sociales, nuestros hogares virtuales, que son vigilados constantemente. Hoy nos parece normal y poco inquietante, pero a mediano y a largo plazo las consecuencias pueden ser muy graves.