*

X
El gobierno de los algoritmos no es una cosa del futuro

Es evidente que vivimos en la era del algoritmo. Casi todos los espacios en los que nos movemos están siendo determinados por un algoritmo, ya sean los altos de la calle, la distribución de productos en un supermercado o el newsfeed de una red social. El ser humano confía en que los algoritmos son más eficientes y tomarán mejores decisiones, pero esto no es necesariamente cierto y, además, los algoritmos son reflejos de un sistema capitalista que no tiene un control central pero que está programado para seguir creciendo de cualquier forma, sin tregua, como un cáncer. Como sugieren Douglas Rushkoff y Mark Pesce, en tanto que los algoritmos "se alimentan de tu energía (tu atención: datos), conocen tus debilidades, y pueden influir en tus estados emocionales para que actúes de formas que no están en consonancia con tus mejores intereses", podemos llamarlos demonios, o esto es lo que era llamado algo así hace algunos siglos.

En una investigación científica, Allen Lee y Dionysios Demetis concluyeron que "los roles de la tecnología de la información y los seres humanos se han invertido", pues ahora "la tecnología ha avanzado al punto de que nos está usando y hasta controlando". Esto resulta paradójico, ya que los algoritmos no tienen agencia; los humanos somos los que tenemos agencia, pero los algoritmos ahora nos han eliminado de la toma de decisiones. Somos ahora "artefactos humanos" que existimos en el medioambiente de los algoritmos.

Los ejemplos que citan los investigadores son los siguientes: analistas legales están siendo reemplazados por inteligencia artificial; se le permite a softwares predecir futuros criminales e influir en las decisiones de los jueces (aunque éstos ni siquiera entienden la complejidad de estos mecanismos). Las compañías más grandes del mundo ya filtran los currículums a través de un software, lo cual impide que sean humanos los que revisen ciertos detalles de candidatos potenciales. Como notan los investigadores, esto hace que algunas compañías, como Amazon, sigan ciertos sesgos indeseados en sus políticas de contratación -y es que los algoritmos suelen ser discriminatorios-. Por otra parte, el 85% de las transacciones financieras en mercados internacionales son hechas únicamente por algoritmos. Y estos algoritmos toman decisiones en base a complejos mecanismos que no entendemos del todo. Se cree que la crisis de 2010 llamada Flash Crash, en la cual el Dow Jones cayó 9% en unos minutos, fue provocada por algoritmos. La gente que controla los mercados y las políticas financieras cree que las decisiones humanas son un obstáculo para la eficiencia del mercado, pero esto ha demostrado que los algoritmos son impredecibles. Demetis y Lee concluyen:

Al tiempo que nuevas fronteras son delineadas entre humanos y tecnología, necesitamos pensar cuidadosamente sobre a dónde nos está llevando nuestra extrema dependencia al software. Mientras las decisiones humanas son sustituidas por decisiones algorítmicas, y nos convertimos en herramientas cuyas vidas están moldeadas por máquinas y sus consecuencias impensadas,  nos estamos orillando a ser dominados por la tecnología. Necesitamos decidir, mientras todavía podemos, lo que esto significa para nosotros como individuos y como sociedad.

Cabe preguntarnos si la humanidad no se estará convirtiendo en ese conductor de Uber que sólo sabe ir por donde le dice su app, y deja de saber pensar y decidir por su propia cuenta. La fe ciega en el algoritmo es el peor de los fanatismos. Al final, todos los conductores de Uber serán reemplazados por robots.

Te podría interesar:
Los dispositivos y medios digitales han afectado profundamente la lectura, una de las formas más efectivas en la historia para obtener y generar conocimiento

¿Cuándo fue la última vez que leíste un texto, de principio a fin, sin desesperarte, sin cansarte, sin interrumpir tu lectura, sin distraerte y sin querer pasar urgentemente a otra cosa?

Esta pregunta, por sencilla que pueda parecer, es capaz de revelar una de las tendencias contemporáneas más preocupantes: el impacto del Internet y sus tecnologías derivadas parece haber creado una nueva forma de analfabetismo funcional, en el cual la gente sabe leer pero es incapaz de mantener su atención lo suficientemente en la lectura como para comprender las ideas que propone un texto o la abstracción inherente a toda escritura, y menos para recrear los efectos emocionales y estéticos propios de ciertas obras.

Como quizá muchos de nosotros sabemos por experiencia propia, la lectura ha experimentado a lo largo de los últimos años una de las transformaciones más importantes de su historia. Después de al menos un par de siglos de ser una práctica realizada en silencio y con cierto grado de soledad, en nuestra época ambas condiciones han cambiado radicalmente, pues el silencio ha sido sustituido por un ruido casi omnipresente y multiforme: el ruido de la distracción; e igualmente, la soledad en la que la lectura se desarrollaba ha sido reemplazada poco a poco por una peculiar forma de la presencia y la compañía (mensajería instantánea, redes sociales, etc.), capaz de irrumpir en todo momento y circunstancia. 

La “era de la ansiedad” que con lucidez desoladora prefiguró W. H. Auden ha arrasado, entre muchos otros bienes, con la posibilidad de sentarse tranquilamente a pasar las páginas de un libro, sumergirse en su lectura y por un instante suspender la corriente incesante del tiempo para situar en su lugar los acontecimientos que la escritura es capaz de implantar en nuestra percepción.

La constatación de este fenómeno no es un asunto menor. Si la lectura suele considerarse importante a priori, es porque durante varios siglos se dio por sentado que los libros eran la mejor forma de almacenar conocimiento fuera de nuestra memoria. De todos los saltos civilizatorios que ha experimentado la humanidad, la escritura fue uno de los más decisivos. Sin ésta, es muy posible que nuestra especie seguiría repitiendo los mismos errores de nuestros ancestros más remotos, y aunque en algunos casos esto sucede así, en muchos otros, sobre todo aquellos relacionados con la técnica, la escritura y la lectura han sido dos herramientas clave para el desarrollo de la cultura.

Vale la pena recordar que leer no es únicamente descifrar los signos que conforman una palabra, un párrafo o un libro entero, sino además entender de manera amplia el sentido de aquello que se lee: su sentido literal y su sentido figurado, el uso que se le da al lenguaje, el mensaje que se busca transmitir, la posición ideológica desde la cual se habla y otras sutilezas presentes en un texto. Los analfabetas funcionales de nuestra época tienen las habilidades necesarias para descifrar las palabras, pero han perdido su comprensión lectora. De cierta manera, este resultado puede verse como un desperdicio de todos los recursos alguna vez invertidos en el esfuerzo de aprender a leer.

Entre otros testimonios que podrían recabarse respecto de esta situación, quizá los más elocuentes se encuentren entre los profesores de los niveles medio y superior de la educación escolarizada. En numerosos casos, profesores de casi cualquier disciplina han manifestado su preocupación por la dificultad de los jóvenes para mantener su atención en una tarea. 

En cuanto al caso específico de la lectura, el periódico The Guardian recoge como ejemplo la experiencia de Mark Edmundson, profesor de literatura inglesa que ha constatado que existe una amplia reticencia de los estudiantes hacia las obras más emblemáticas de los siglos XIX y XX, debido a que no tienen la paciencia para leer profundamente. Edmundson habla incluso de una suerte de “impaciencia cognitiva” que se interpone entre la mente del estudiante y la recepción de la obra literaria.

Por su parte Ziming Liu, de la Universidad Estatal de San José (California), ha realizado estudios en torno a una práctica conocida en el mundo anglosajón como skimming, lo cual puede traducirse como “hojear” (con cierta evocación a la idea de destilar). De acuerdo con Liu, no son pocos los estudiantes que ahora no hacen más que “hojear” los textos que leen, buscando los términos que consideran importantes para pasar pronto a otra cosa. 

Esta forma de “leer”, sin embargo, va en contra de la naturaleza misma de la lectura. Patricia Greenfield, psicóloga de la Universidad de California en Los Ángeles, ha explicado en sus investigaciones que la lectura ocurre como un circuito que requiere de todo un ambiente para desarrollarse y culminar en la generación del conocimiento. Interrumpir alguna de las fases de ese circuito, suprimir alguno de sus componentes, saltarse alguno de los pasos conduce necesariamente a un resultado incompleto y en no pocos casos equivocado. La expectativa de inmediatez a la que estamos tan habituados no puede cumplirse en la lectura, en la cual los resultados se obtienen paulatina y gradualmente, como culminación de un proceso que en sus etapas intermedias agrega cada vez pequeños o grandes componentes que ya por sí mismos pueden considerarse ganancias parciales.

Como hemos señalado en otros textos, nuestra época ha sido afectada de manera notable por la transformación radical que trajo la invención del Internet y las comunicaciones digitales. Un ámbito de esa transformación es, claramente, la capacidad de atención del ser humano. La conexión 24/7 propia del Internet se convirtió en una conexión también incesante para nuestra mente y, más aún, en una especie de tiranía para nuestra atención. 

¿Al ser humano todavía le interesa acceder al conocimiento? Esta pregunta sin duda está en el origen del interés que se puede tener por la lectura. Más allá de las condiciones adversas o favorables, el interés por una tarea o por sus resultados esperados es, indudablemente, la pieza clave que nos lleva a emprender los esfuerzos necesarios para realizarla. 

Lo paradójico sería que en una época que alguna vez fue llamada la era de la información, el sujeto contemporáneo simplemente prefiera vivir en la ignorancia, la mentira, el prejuicio o la ilusión de la verdad: nubes del pensamiento que la lectura ayuda a disipar.

 

También en Pijama Surf: Mirar hasta que brote la luz: Simone Weil sobre el enorme potencial de la atención