*

X
Bienvenidos a la era del deepfake, o cuando tus selfies de Instagram son utilizadas para superponer tu rostro de manera realista sobre el cuerpo de una actriz porno en un video

Como dice una nota de Motherboard que reporta este fenómeno: "We are all fucked" (todos estamos cogidos). En los últimos meses ha irrumpido en Internet lo que le sigue al "celebrity fake porn", luego de que usuarios de Reddit y otros sitios empezaran a usar un algoritmo que emplea machine learning para cambiar el rostro de una persona y superponerlo al de otra en un video. Por ejemplo, poner el rostro de Gal Gadot, Taylor Swift o Scarlett Johansson (todas ellas celebridades que han sufrido "deep fakes") sobre el de una actriz porno durante toda la duración de un video. Y actualmente ya ni siquiera se necesita conocimiento de programación para crear estos videos, ya que un usuario creó una app que simplifica el proceso. Las implicaciones de esto son realmente escabrosas.

Los videos, llamados deep fakes, aún no son perfectos, y dejan la impresión de algo raro, un no sé qué que salta un poco, algo robótico en los movimientos del rostro, pero de todas maneras se acercan asombrosamente a la verosimilitud, al punto de que la "falsedad" podría confundirse con sólo una falta de ancho de banda o un leve pixeleo. Si una celebridad ve estos videos en los que aparece debe de sentir algo sumamente perturbador, una especie de glitch ontológico. Por si fuera poco, evidentemente la calidad de los mismos sólo podrá mejorar en los siguientes años con la optimización de la inteligencia artificial que ya se está usando para crearlos.

La forma en la que estos deepfakes funcionan es relativamente sencilla. Los creadores de estos videos emplean software de reconocimiento facial que les dice qué actores o actrices porno se parecen a la persona con la que quieren hacer el cambio de rostro (algo que ha sido llamado "doppelbanger"). Para esto ya existen varias aplicaciones disponibles que son fáciles de usar. Una vez que se ha hecho el match de cara con el cuerpo, los usuarios pueden buscar en sitios de porno videos del actor o actriz elegido y empezar a hacer el "face-swap" o cambio de rostro, cuadro por cuadro.

Por el momento esto parece estar dominado por el porno de celebridades, hacer cumplir la fantasía masturbatoria de las masas, lo cual en sí es algo violatorio de la imagen, pero ya hay indicios de algo más. Usuarios de los foros de deepfakes dicen que ya han creado videos de una chica con la que iban en la escuela, usando 380 fotos de Instagram y Facebook. Hemos llegado al momento en el que las selfies que subes a Internet se pueden convertir en videos porno hardcore en apenas 3-5 horas de edición. Esto abre toda un caudal de "revenge porn".

El otro gran problema que se avecina son los videos fake de políticos circulando como las más convincentes fake news. Pronto podremos ver videos de Donald Trump declarando la guerra y asegurando la destrucción de Corea del Norte, México, Canadá o cualquier otro país, o aceptando que en realidad es gay. Cualquier cosa. Esto nos recuerda un artículo anterior en el que analizamos cómo el mundo en el que vivimos se parece más al imaginado por Philip K Dick que al de Orwell, un mundo en el que "humanos falsos generarán realidades falsas y se las venderán a otros otros seres humanos, convirtiéndolos, eventualmente, en falsificaciones de sí mismos". La caja de Pandora del "fake" está abierta. 

Wired señala que además, en términos legales, en Estados Unidos no hay mucho que una persona promedio pueda hacer. A diferencia de una foto desnuda hackeada de la nube, en este caso no se puede demandar a alguien por exponer los detalles íntimos de tu vida, y es que hay todo tipo de lagunas al respecto, porque no es tu cuerpo el que aparece. Técnicamente no eres tú en el video. Por otro lado, se podría objetar que es censura bajar estos videos, ya que son "arte". Existe la opción para las celebridades de demandar por "mala apropiación" de su imagen, pero esto sólo en el caso de que sea usada con fines comerciales. Como cuando, por ejemplo, la foto de una celebridad es usada para la publicidad de un club de strippersWe are all fucked.

El video está matando a la Red

En ocasiones parece que sólo quien se aleja de los sucesos puede ver realmente su naturaleza. El pez no entiende el agua. Este parece ser el caso del blogger iraní Hossein Derakhshan. El llamado “padre del blogging” en Irán, pasó seis años en una prisión en Terán por su actividad supuestamente subversiva en línea. Al salir de prisión, Derakhshan, quien era un entusiasta de las posibilidades de libertad y empoderamiento de la Web, notó que las cosas habían cambiado sustancialmente. El Internet que tanto le había entusiasmado se había convertido en algo parecido a la TV donde rige la premisa del entretenimiento. Hace seis años la divisa que regía el Internet era el hipervínculo, el cual encarnaba el espíritu original que buscaba imprimir el padre de la Red, Tim Berners Lee. Una red descentralizada y abierta de ciudadanos y científicos interconectados para distribuir información y aumentar el conocimiento.

Como es evidente para cualquier usuario, en la redes sociales lo que genera likes son las fotos y los videos. Twitter que le había apostado al texto, poco a poco se parece más a Facebook; primero fueron las fotos en los links y luego un algoritmo que ya realiza una curaduría de lo que Twitter cree que te interesa más (su propia versión de la burbuja de los filtros). En Instagram ni siquiera se permiten links (sólo en el perfil no en los posts). Esto tiene una razón muy evidente, los links tienen el potencial de hacernos salir de la burbuja y dejar de pasar tiempo en esta red social que hace de la imagen una forma de cautiverio.

En comparación con los diarios y los libros, la televisión es un medio que nos hace sentir más que pensar. Esta misma tendencia está dominando actualmente en Internet, según Derakhshan. Mientras que en un principio Internet fue modelado en base a los diarios y los libros, cada vez se parece más a la TV.

"Al igual que la tele, ahora internet nos entretiene e incluso potencia nuestros ideales y hábitos, incluso más que en su día lo hacía la caja tonta. Más que pensar, internet nos hace sentir, y nos reconforta más de lo que estimula nuestra autocrítica. El resultado es una sociedad profundamente fragmentada, impulsada por emociones y radicalizada por la falta de contacto y de refutaciones externa", dice Derakhshan en un perspicaz artículo.

Derakhshan va más allá y considera que las redes sociales están introduciendo nuevos males. "Facebook es tu propia TV personalizada". La burbuja de los filtros de las redes sociales fomenta "la comodidad y la complacencia". Vemos, por así decirlo, puros programas que nos gustan, algo de lo cual los algoritmos cuidadosamente se encargan para maximizar el tiempo de los usuarios. Así más que el debate, la sorpresa, lo desafiante, lo que nos encontramos es siempre entretenimiento. Vivimos en una era donde todo tiene como denominador común que es formulado para ser entretenido, esta es la fórmula básica de producir likes."Hace unos años la web parecía realmente poderosa, tal que me llevó a la cárcel. Hoy todo parece poco más que mero entretenimiento”, dice Derakhshan.