*

X
En busca de poder evaluar qué noticias son falsas o hate speech, Facebook desarrolla un índice para medir la reputación de sus usuarios

Facebook tiene un problema enorme: con más de 2 mil millones de usuarios y una cantidad innumerable de contenido generado diariamente, es sumamente difícil determinar si las historias que circulan en su plataforma son verdaderas o falsas o si contribuyen a generar un clima de odio, racismo y demás.

En el último año ha crecido la presión para que Facebook resuelva de alguna manera el problema de las fake news y su injerencia política. Una de las medidas que ha tomado la red social es hacer que circulen menos las historias publicadas por las páginas de medios de comunicación y evaluar la reputación de cada medio (si son promotores de fake news o no). Aun así, tiene que lidiar con innumerables historias que se viralizan y que pueden ser falsas. Esto supera la capacidad actual de su algoritmo, por lo cual depende, en buena medida, de usuarios que reportan los contenidos como inapropiados. Obviamente, esto ha hecho surgir armadas de trolls que buscan empujar ciertas agendas y, en general, presenta el problema de que las preferencias personales suelen nublar los juicios. Un seguidor de Trump podría, por ejemplo, decir que todas las noticias del New York Times son fake news.   

Por esto, según han informado medios como el Washington Post y Slate, Facebook ha empezado a crear un sistema de reputaciones que evaluará a cada usuario de 0 a 1.0. Esta evaluación será tomada en cuenta cuando se revise una denuncia de contenido inapropiado aunque, de acuerdo con Facebook, no será el único factor a considerarse en la circulación de un contenido. Este puntaje será dinámico, según informó la red social a la revista Slate, y no será usado para crear un sistema de crédito social externo a la plataforma, como se teme. Aquí yace el peligro y la polémica, pues, por ejemplo, en China existe un sistema de reputación en línea que el gobierno toma en cuenta para todo tipo de acciones. Una persona en este sistema con un bajo puntaje difícilmente obtendrá crédito, e incluso podría encontrar dificultades para viajar al extranjero. 

Evidentemente, Facebook debe lidiar con el problema de las fake news si quiere impedir que los gobiernos empiecen a regular su uso pero, por otro lado, evaluar a los usuarios tiene complejas aristas que podrían ser utilizadas de manera perversa. Si se fuera a repetir un data breach como el de Cambridge Analytica, quizás diversas empresas podrían obtener el ranking de los usuarios. Por otra parte, no queda claro si los usuarios tendrán acceso a su puntaje, y está el tema orwelliano de ser evaluados por cada acción. Y, además, el sistema de reputación no resuelve del todo el hecho de que pueda seguir existiendo una especie de juego manipulador en el que se cultive a ciertos usuarios para poder influir en la circulación de las publicaciones en momento estratégicos, ya que, aunque Facebook ha hecho más difícil crear cuentas falsas, sigue habiendo cientos de miles de cuentas creadas para hacer avanzar ciertas agendas. Así, podría surgir una cuidadosa manufactura de las reputaciones. Claro que esto no descalifica lo que intenta Facebook, solamente muestra la complejidad a la que se enfrenta al intentar lidiar con este asunto.  

Te podría interesar:
Douglas Rushkoff ha escrito un importante artículo sobre las implicaciones de la ideología transhumanista y el actual paradigma tecnoeconómico

Douglas Rushkoff es uno de los analistas de medios y de la tecnología digital más lúcidos que existen en el mundo actualmente. Es quizás uno de los más dignos herederos de Marshall McLuhan, seguramente el analista de medios más brillante de la historia. En los albores del Internet, Rushkoff se mostró muy entusiasta del poder de este nuevo medio, en el cual veía un potencial casi psicodélico de transformar la cultura de una manera viral (él mismo acuñó el término "viral" para referirse a la transmisión contagiosa de información en línea y su capacidad de producir cambio). Con el tiempo, sin embargo, Rushkoff ha vivido un progresivo desencantamiento de su postura inicial, al notar que el espíritu libre de Internet ha venido decayendo en proporción al enorme poder de grandes corporaciones como Google, Facebook y Amazon. Recientemente, Rushkoff ha sido especialmente crítico de la economía digital basada en el crecimiento infinito (pedal-to-the-metal) y no en la verdadera prosperidad humana, así como también de la creciente automatización, tema que trata con gran énfasis en su podcast Team Human.A grandes rasgos, Rushkoff considera que la automatización y el dataísmo (la cuantificación de la experiencia humana y la apuesta a favor de los algoritmos y las máquinas por sobre las facultades humanas) ponen en riesgo aquellas cualidades más importantes de la vida humana encarnada en el mundo. Podríamos decir que para Rushkoff el transhumanismo -la corriente de pensamiento en la vanguardia de Silicon Valley- es, en realidad, una deshumanización o un antihumanismo. 

En un artículo reciente publicado en Medium, Rushkoff cuenta que hace poco recibió gran cantidad de dinero para dar una plática sobre el futuro de la tecnología. En lugar de presentarse ante una audiencia, como suele ocurrir, fue sentado en una mesa con cinco hombres multimillonarios del mundo de las finanzas, los cuales no estaban realmente interesados en lo que había preparado. Los jerarcas tenían sus propias preguntas: querían saber cosas puntuales como si la computación cuántica iba en serio o si Ray Kurzweil iba a lograr trasplantar su conciencia a una computadora con la ayuda de Google, o si Nueva Zelanda sería un mejor lugar que Alaska para salir a flote ante la inminente crisis climática. De manera más alarmante, uno de los hombres de este cónclave lo cuestionó sobre cómo mantener su autoridad una vez que ocurriera "El Evento", algo así como la singularidad, o el cataclismo que se viene (sea cual sea su detonador final), cuando las masas y sus propios trabajadores finalmente se subleven en su contra. Rushkoff escribe que para estas personas "el futuro de la tecnología" significaba prepararse para el momento en el que se pudiera "trascender la condición humana enteramente" y la posibilidad de "aislarse del peligro real e inminente del cambio climático, el incremento del nivel del mar, la migración masiva, pandemias globales, miedo a los nativos y agotamiento de los recursos". En una sola palabra, dice Rushkoff, la tecnología para ellos se trata de "escapar".

Vale la pena reflexionar sobre este punto. Quizás habría que preguntarnos hasta qué punto también nosotros, aunque probablemente no tenemos estas intenciones tan perversas o majestuosas para la tecnología, también la usamos sobre todo para escapar. ¿Es realmente una herramienta para conectar con nuestros amigos de manera significativa, como nos repite Mark Zuckerberg, o es una forma de paliar y evadir una angustia existencial? El matemático francés Blaise Pascal escribió hace más de 300 años que los reyes y los nobles tenían la ventaja de poder procurarse una serie de divertimentos -entre ellos, espectáculos pirotécnicos, bailes, bufones- para poder evadir "la visión de lo que le(s) amenaza, de las rebeliones que pueden acontecer, y finalmente, de la muerte y en las enfermedades que son inevitables". Desde hace 300 años por lo menos, la tecnología ya era usada por las clases más altas para evitar enfrentar lo más crudo de la condición humana. El mismo Pascal también escribió que: "La infelicidad [o la desgracia] del hombre se basa sólo en una cosa: que es incapaz de quedarse quieto en su habitación". Es buscando evitar ese momento de confrontación con nuestro propio ser -con el tedio o con el silencio-, que puede verse casi como una anticipación de nuestra muerte o del vacío, que el hombre se mete en innumerables conflictos, declara guerras y crea todo tipo de divertimentos que a fin de cuentas no son más que distracciones o evasiones de aquello que realmente le apremia. Como dice el mismo Pascal, vivir entretenidos o distraídos, incluso por placeres supremos, es un falso privilegio, pues al final esto nos impide conocernos realmente "y estar en nosotros, lo que nos hace perdernos insensiblemente... el divertimento nos divierte y nos hace llegar insensiblemente a la muerte".  

A diferencia de lo que suelen creer los magnates de Silicon Valley y su grupo de intelectuales, para Rushkoff no es tan obvio que sea algo bueno trascender la condición humana. La trascendencia no sólo implica superar el sufrimiento y la muerte -si es que tal cosa es posible-; implica también, seguramente, trascender "el cuerpo, la interdependencia, la vulnerabilidad y la complejidad". Y dicha trascendencia parte de la noción, tomada como verdadera por el transhumanismo, de que los humanos somos reductibles a nada más que "objetos de procesamiento de información". Como notó preclaramente McLuhan, en la era globalmente mediatizada, el espíritu es reducido a la información. El tema aquí es que aunque es indudable que la visión del mundo enarbolada por la ciencia es sumamente poderosa, esta visión no está completa, especialmente porque no tenemos un modelo mínimamente aceptable de qué es realmente la conciencia ("el problema duro de la ciencia"), lo cual significa que realmente no sabemos quiénes somos. Por esto es relevante la confrontación que hace Rushkoff entre el "equipo humano" (team human) y el "equipo de las máquinas". Si bien en primera instancia esta confrontación puede ser polarizadora y simplista, está justificada, pues el mismo poder tecnoeconómico ya ha elegido su bando al decidir que el ser humano debe ser trascendido, ya que no es capaz de resolver su predicamento existencial de manera satisfactoria por sus propios medios. Alguien debe defender a los humanos. 

El Internet no ha cumplido su promesa, aunque ésta siempre fue un tanto utópica, de crear igualdad y distribuir de manera más justa los recursos materiales y la información verdaderamente valiosa. Actualmente, empiezan a haber señales preocupantes que evocan las distopías más suaves y sofisticadas -no la de Orwell, sino más bien la de Huxley o las de Dick-. Pues, como dice Rushkoff, estos hombres mulimillonarios que se sientan arriba de la pirámide ven el mundo como una especie de videojuego apocalíptico "en el que gana quien encuentra la salida y luego deja a sus mejores amigos seguirlo en el viaje. ¿Será Musk, Bezos, Thiel... Zuckerberg?". Estos grandes CEOs no parecen estar apostando ni por el ser humano ni por el planeta Tierra; más bien, parecen asumir que ambos son casos perdidos o al menos prescindibles. Su apuesta es por encontrar una puerta de salida -un cohete interestelar, una máquina que albergue su conciencia, algún tipo de elixir de la larga vida- para asegurar su propia continuidad cuando hayamos destruido la casa o cuando simplemente las cosas ya sean demasiado hostiles. La realidad es que el mundo está en crisis, una crisis no sólo ecológica de una dimensión nunca antes vista, sino una crisis de sentido y hasta el momento la tecnología ha ayudado más a no ver el problema, a escapar, como poniéndonos un headset de realidad virtual, que a realmente resolverlo. Seguramente, no porque no tenga el potencial de hacerlo, sino porque no es usada ética y humanamente. El problema, explica Rushkoff, es que se programa y se diseña desde una perspectiva en la que no se le da mucho valor al ser humano:

Entre más comprometidos estamos con esta perspectiva del mundo, más veremos a los seres humanos como el problema y a la tecnología como la solución. La más pura esencia de lo que es ser humano se trata cada vez menos como un feature y más como un bug [menos como algo a destacar y más como un error a eliminar]. No obstante los sesgos que se les incrusta, se declara que las tecnologías son neutrales. Cualquier comportamiento que inducen en nosotros es sólo un reflejo de nuestros núcleos corruptos. Es como si nuestra innata humanidad salvaje fuera culpable de nuestras dificultades. De la misma manera que la ineficiencia de un mercado local de taxis puede "solucionarse" con una app que lleva a la bancarrota a los conductores humanos, las irritantes inconsistencias de la psique humana pueden corregirse con un aumento digital o genético.

Rushkoff plantea simplemente humanizar la tecnología, ponerla al servicio de las personas y, sobre todo, embeber en el sistema operativo de la cultura la noción básica de que "ser humano no se trata de la supervivencia individual o la escapatoria. Es un deporte de conjunto". Esto puede sonar ingenuo, pero quizá sea el único chance que tenemos si no queremos llegar a un escenario auténticamente distópico como el que constantemente imagina la ciencia ficción, o como el que ha planteado ya Yuval Noah Harari en su libro de no-ficción Homo Deus, el cual, por cierto, es uno de los favoritos de los ejecutivos de Silicon Valley. Harari escribe: 

El tecnohumanismo conviene en que el Homo sapiens, tal como lo conocemos, ya ha terminado su recorrido histórico y ya no será relevante en  el futuro, pero concluye que, por ello, debemos utilizar la tecnología para crear al Homo Deus, un modelo humano muy superior.

En principio, esto puede sonar muy bien. ¿Quién no quiere ser un dios? Esto no es nuevo; el ser humano naturalmente busca convertirse en algo superior, teme la muerte y anhela la divinidad. No obstante, es difícil creer, suponiendo que tal salto evolutivo sea posible, que el Homo Deus no estará reservado para Bezos, Zuckerberg y sus amigos (o sus sucesores). El panorama no pintaría muy bien, en dicho caso, para la mayoría de los sapiens, meros mortales. Especialmente en tanto que, como nota el mismo Harari, "es probable que las mejoras futuras de la mente humana reflejen las necesidades políticas y las fuerzas del mercado". Así que no es probable que todos puedan acceder a un upgrade, y más aún, que los que ya lo hayan hecho quieran que los demás los alcancen. Quizás podremos convertirnos en "dioses", pero es muy probable que tal estado superior refleje nuestros intereses, deseos y deficiencias morales actuales. Y es que, como dice Rushkoff, la forma en la que vemos el mundo actualmente y la intencionalidad económica que le imprimimos a la tecnología reflejan un programa o una creencia en que la existencia "se trata de la supervivencia individual", de escapar cada uno hacia un paraíso personal, el cual, además, sólo nos parece un paraíso porque es sólo nuestro y de nadie más. Todo esto me hace recordar  algo que alguna vez dijo Carl Jung: "no nos damos cuenta de que saber más requiere de un cambio correspondiente de moralidad". Me pregunto si nuestra conciencia y nuestra moralidad están a la altura de nuestra tecnología. No se puede hacer demasiado hincapié en el riesgo de que no lo estén. Me queda el consuelo, sin embargo, de pensar (o querer creer) que sin un verdadero sentido moral, es difícil que el conocimiento llegue muy lejos.

Hace 530 años Pico della Mirandola redactó el Discurso sobre la dignidad del hombre, el texto que a la postre fue considerado emblemático del Renacimiento y del movimiento hacia dignificar la existencia humana y colocarla en el centro. Quizás necesitemos una nueva declaración de la dignidad humana (y de paso, un nuevo Martín Lutero que desafíe a la "iglesia de la tecnología"). Mientras tanto, releer el texto de Pico no está de más, especialmente porque Della Mirandola plantea ahí un camino para alcanzar lo mismo que desea el transhumanismo, pero desde el humanismo. 

 

Twitter del autor: @alepholo