*

En busca de poder evaluar qué noticias son falsas o hate speech, Facebook desarrolla un índice para medir la reputación de sus usuarios

Facebook tiene un problema enorme: con más de 2 mil millones de usuarios y una cantidad innumerable de contenido generado diariamente, es sumamente difícil determinar si las historias que circulan en su plataforma son verdaderas o falsas o si contribuyen a generar un clima de odio, racismo y demás.

En el último año ha crecido la presión para que Facebook resuelva de alguna manera el problema de las fake news y su injerencia política. Una de las medidas que ha tomado la red social es hacer que circulen menos las historias publicadas por las páginas de medios de comunicación y evaluar la reputación de cada medio (si son promotores de fake news o no). Aun así, tiene que lidiar con innumerables historias que se viralizan y que pueden ser falsas. Esto supera la capacidad actual de su algoritmo, por lo cual depende, en buena medida, de usuarios que reportan los contenidos como inapropiados. Obviamente, esto ha hecho surgir armadas de trolls que buscan empujar ciertas agendas y, en general, presenta el problema de que las preferencias personales suelen nublar los juicios. Un seguidor de Trump podría, por ejemplo, decir que todas las noticias del New York Times son fake news.   

Por esto, según han informado medios como el Washington Post y Slate, Facebook ha empezado a crear un sistema de reputaciones que evaluará a cada usuario de 0 a 1.0. Esta evaluación será tomada en cuenta cuando se revise una denuncia de contenido inapropiado aunque, de acuerdo con Facebook, no será el único factor a considerarse en la circulación de un contenido. Este puntaje será dinámico, según informó la red social a la revista Slate, y no será usado para crear un sistema de crédito social externo a la plataforma, como se teme. Aquí yace el peligro y la polémica, pues, por ejemplo, en China existe un sistema de reputación en línea que el gobierno toma en cuenta para todo tipo de acciones. Una persona en este sistema con un bajo puntaje difícilmente obtendrá crédito, e incluso podría encontrar dificultades para viajar al extranjero. 

Evidentemente, Facebook debe lidiar con el problema de las fake news si quiere impedir que los gobiernos empiecen a regular su uso pero, por otro lado, evaluar a los usuarios tiene complejas aristas que podrían ser utilizadas de manera perversa. Si se fuera a repetir un data breach como el de Cambridge Analytica, quizás diversas empresas podrían obtener el ranking de los usuarios. Por otra parte, no queda claro si los usuarios tendrán acceso a su puntaje, y está el tema orwelliano de ser evaluados por cada acción. Y, además, el sistema de reputación no resuelve del todo el hecho de que pueda seguir existiendo una especie de juego manipulador en el que se cultive a ciertos usuarios para poder influir en la circulación de las publicaciones en momento estratégicos, ya que, aunque Facebook ha hecho más difícil crear cuentas falsas, sigue habiendo cientos de miles de cuentas creadas para hacer avanzar ciertas agendas. Así, podría surgir una cuidadosa manufactura de las reputaciones. Claro que esto no descalifica lo que intenta Facebook, solamente muestra la complejidad a la que se enfrenta al intentar lidiar con este asunto.