*

X
Deep fake para textos: la máquina a la medida para la era de la posverdad

Los últimos 3 años en Internet han estado dominados por la incipiente conciencia del peligro de las fake news y la persuasión de votantes o consumidores a través de algoritmos que se alimentan en tiempo real de su información para manipular su conducta en línea. Este riesgo, que algunos consideran que atenta contra la democracia y la autonomía, podría tener un nuevo actor con el desarrollo de programas que logran escribir artículos que pueden hacerse pasar fácilmente por escritos por humanos, hasta un punto indistinguible o casi indistinguible. 

Hace un par de semanas la plataforma OpenAI anunció que estaba preocupada por el potencial uso nocivo de su modelo GPT2, que ha sido llamado "deep fake para textos". La compañía, que tiene a Elon Musk entre sus inversionistas, dijo que no hará pública la información de su investigación por miedo a que esta tecnología tenga ramificaciones negativas. El modelo GPT2 es capaz de generar texto plausible una vez que se le ha alimentado con un texto, algo así como una idea a desarrollar que conecta con otra información.

El sistema se diferencia de otros programas en que mantiene el mismo tema y sintaxis y crea pasajes estándar que parecen redactados por una persona. Esta plataforma se entrenó con más de 10 millones de artículos. Por una parte, esto es altamente interesante, pues este modelo puede realizar tareas como traducir y resumir textos. Pero por otro lado tiene un potencial que aunque podemos imaginar a dónde podría llevar, realmente es casi ilimitado en las posibilidades de usos que se le pueden dar para engañar y manipular. Por ejemplo, el sistema puede generar innumerables reseñas positivas o negativas de productos. Podría producir innumerables mensajes de spam, e incluso estudiar bases de datos para generar correos que busquen estafar a las personas. O teorías de la conspiración, o textos orientados a provocar a ciertos grupos sociales o políticos. Podría producir sitios enteros de fake news o de información con fines propagandísticos. 

Aunque esta cautela es bienvenida, por otro lado es evidente que esta tecnología en algunos años será desarrollada por otras personas y probablemente pueda ser usada con fines nocivos. Así que es importante prepararnos y educarnos. Lo que parece indudable es que estamos llegando a un punto en el que la tecnología que creamos está capacitada para rapazmente explotar algunas de nuestras vulnerabilidades mentales y nuestro nivel moral e intelectual como civilización no está a la altura para salvaguardar los usos de esta tecnología, lo cual es preocupante. Parece que vivimos en los tiempos que Philip K. Dick imaginó:

Las realidades falsas crearán humanos falsos. O bien, los seres humanos falsos generarán realidades falsas y luego las venderán a otros seres humanos, convirtiéndolas, eventualmente, en falsificaciones de sí mismos. Así que terminamos con humanos falsos inventando realidades falsas y luego vendiéndolas a otros humanos falsos.

Te podría interesar:
Los resultados de Google Trends 2018

Como todos los años, Google acaba de publicar su reporte anual de los más buscados. Los resultados son computados considerando las búsquedas de este año pero en relación al año pasado, lo cual evita que cosas como Kim Kardashian, videos porno o Cristiano Ronaldo aparezcan siempre en los primeros lugares. Son propiamente "las tendencias" de 2018. Este año vemos que los personajes que dominaron globalmente son aquellos que irrumpieron a la fama (como Meghan Markle), aquellos que se suicidaron (como Avicii y Anthony Bourdain) o los que murieron naturalmente (como Stephen Hawking y Stan Lee).

Compartimos aquí la lista completa de las tendencias globales en diferentes rubros, incluyendo eventos, películas, artistas y demás y luego la lista de México. Se trata sin duda de una radiografía de los intereses globales y ya que en gran medida somos aquello a lo que le ponemos atención, como dijera William James, esta es una radiografía de la humanidad. Puedes visitar Google Trends para ver las listas de cada país.

 

GLOBALES

1) World Cup
2) Avicii
3) Mac Miller
4) Stan Lee
5) Black Panther
6) Meghan Markle
7) Anthony Bourdain
8) XXXTentacion
9) Stephen Hawking
10) Kate Spade

 

Noticias
1) World Cup
2) Hurricane Florence
3) Mega Millions Result
4) Royal Wedding
5) Election Results
6) Hurricane Michael
7) Kavanaugh Confirmation
8) Florida Shooting
9) Greve dos caminhoneiros
10) Government Shutdown

Personas
1) Meghan Markle
2) Demi Lovato
3) Sylvester Stallone
4) Logan Paul
5) Khloé Kardashian
6) Jair Bolsonaro
7) Brett Kavanaugh
8) Hailey Baldwin
9) Stormy Daniels
10) Cardi B

 

Actores
1) Sylvester Stallone
2) Logan Paul
3) Pete Davidson
4) Bill Cosby
5) Noah Centineo
6) Donald Glover
7) Allison Mack
8) Gary Oldman
9) सपना चौधरी
10) Roseanne Barr

Atletas
1) Tristan Thompson
2) Alexis Sánchez
3) Lindsey Vonn
4) Shaun White
5) Khabib Nurmagomedov
6) Kawhi Leonard
7) Naomi Osaka
8) Philippe Coutinho
9) Conor McGregor
10) Harry Kane

 

Películas
1) Black Panther
2) Deadpool 2
3) Venom
4) Avengers: Infinity War
5) Bohemian Rhapsody
6) A Star Is Born
7) Incredibles 2
8) The Nun
9) A Quiet Place
10) Jurassic World: Fallen Kingdom

Músicos y bandas
1) Demi Lovato
2) Cardi B
3) Daniel Küblböck
4) Travis Scott
5) Rick Ross
6) 6ix9ine
7) 山口 達也
8) Childish Gambino
9) 吉澤 ひとみ
10) Nick Jonas

 

TV 

1) 延禧攻略
2) Altered Carbon
3) บุพเพสันนิวาส
4) मोटू पतलू
5) Roseanne
6) The Haunting of Hill House
7) Lost in Space
8) Grande Fratello
9) Segundo Sol
10) Bodyguard

 

TENDENCIAS MÉXICO
1) Mundial 2018
2) Resultados electorales de México
3) Freddie Mercury
4) Andrés Manuel López Obrador
5) Fortnite
6) Croacia
7) Buen Fin 2018
8) Debate Presidencial 2018
9) Movimiento Naranja
10) Guatemala

 

Acontecimientos

1) Mundial 2018
2) Elecciones 2018 México
3) Buen Fin 2018
4) Debate presidencial 2018 México
5) Sismo
6) Eclipse lunar de julio de 2018
7) Juegos Olímpicos de Invierno 2018
8) Oscars 2018
9) MLB Playoffs 2018
10) Boda del príncipe Harry

 

Personas
1) Freddie Mercury
2) Andrés Manuel López Obrador
3) Mariana Yazbek
4) Demi Lovato
5) Meghan Markle
6) Sylvester Stallone
7) Héctor Herrera
8) Gustavo Loza
9) Margarita Zavala
10) Ricardo Anaya

 

In Memoriam

1) Stan Lee
2) Avicii
3) Mac Miller
4) Anthony Bourdain
5) Stephen Hawking
6) Dolores O'Riordan
7) Rogelio Guerra
8) Kate Spade
9) Jorge Valenzuela
10) Aretha Franklin

 

Películas

1) Bohemian Rhapsody
2) Infinity War
3) Venom
4) Deadpool 2
5) La Monja
6) Black Panther
7) La forma del agua
8) Jurassic World 2
9) The Greatest Showman
10) Hotel Transylvania 3

 

TV
1) Exatlón
2) Enamorándonos
3) Caer en tentación
4) Amar a muerte
5) Rosario Tijeras
6) Élite
7) Por amar sin ley
8) Luis Miguel la serie
9) Like La Leyenda
10) Sin tu mirada

 

¿Qué es?

1) ¿Con qué mares y océanos se comunica el mar Mediterráneo?
2) ¿Qué países han ganado la Copa Mundial de Fútbol?
3) ¿Qué es una cita textual?
4) ¿Qué es un estereotipo?
5) ¿Para qué le sirve el marsupio a los tlacuaches?
6) ¿Qué son los adverbios?
7) ¿Qué es un conflicto?
8) ¿Qué es un instructivo?
9) ¿Qué es una biblioteca?
10) ¿Qué es un verbo?