*

X
El gobierno de los algoritmos no es una cosa del futuro

Es evidente que vivimos en la era del algoritmo. Casi todos los espacios en los que nos movemos están siendo determinados por un algoritmo, ya sean los altos de la calle, la distribución de productos en un supermercado o el newsfeed de una red social. El ser humano confía en que los algoritmos son más eficientes y tomarán mejores decisiones, pero esto no es necesariamente cierto y, además, los algoritmos son reflejos de un sistema capitalista que no tiene un control central pero que está programado para seguir creciendo de cualquier forma, sin tregua, como un cáncer. Como sugieren Douglas Rushkoff y Mark Pesce, en tanto que los algoritmos "se alimentan de tu energía (tu atención: datos), conocen tus debilidades, y pueden influir en tus estados emocionales para que actúes de formas que no están en consonancia con tus mejores intereses", podemos llamarlos demonios, o esto es lo que era llamado algo así hace algunos siglos.

En una investigación científica, Allen Lee y Dionysios Demetis concluyeron que "los roles de la tecnología de la información y los seres humanos se han invertido", pues ahora "la tecnología ha avanzado al punto de que nos está usando y hasta controlando". Esto resulta paradójico, ya que los algoritmos no tienen agencia; los humanos somos los que tenemos agencia, pero los algoritmos ahora nos han eliminado de la toma de decisiones. Somos ahora "artefactos humanos" que existimos en el medioambiente de los algoritmos.

Los ejemplos que citan los investigadores son los siguientes: analistas legales están siendo reemplazados por inteligencia artificial; se le permite a softwares predecir futuros criminales e influir en las decisiones de los jueces (aunque éstos ni siquiera entienden la complejidad de estos mecanismos). Las compañías más grandes del mundo ya filtran los currículums a través de un software, lo cual impide que sean humanos los que revisen ciertos detalles de candidatos potenciales. Como notan los investigadores, esto hace que algunas compañías, como Amazon, sigan ciertos sesgos indeseados en sus políticas de contratación -y es que los algoritmos suelen ser discriminatorios-. Por otra parte, el 85% de las transacciones financieras en mercados internacionales son hechas únicamente por algoritmos. Y estos algoritmos toman decisiones en base a complejos mecanismos que no entendemos del todo. Se cree que la crisis de 2010 llamada Flash Crash, en la cual el Dow Jones cayó 9% en unos minutos, fue provocada por algoritmos. La gente que controla los mercados y las políticas financieras cree que las decisiones humanas son un obstáculo para la eficiencia del mercado, pero esto ha demostrado que los algoritmos son impredecibles. Demetis y Lee concluyen:

Al tiempo que nuevas fronteras son delineadas entre humanos y tecnología, necesitamos pensar cuidadosamente sobre a dónde nos está llevando nuestra extrema dependencia al software. Mientras las decisiones humanas son sustituidas por decisiones algorítmicas, y nos convertimos en herramientas cuyas vidas están moldeadas por máquinas y sus consecuencias impensadas,  nos estamos orillando a ser dominados por la tecnología. Necesitamos decidir, mientras todavía podemos, lo que esto significa para nosotros como individuos y como sociedad.

Cabe preguntarnos si la humanidad no se estará convirtiendo en ese conductor de Uber que sólo sabe ir por donde le dice su app, y deja de saber pensar y decidir por su propia cuenta. La fe ciega en el algoritmo es el peor de los fanatismos. Al final, todos los conductores de Uber serán reemplazados por robots.

Te podría interesar:
Nuestra mente tiende a "fijarse" en eventos que sólo evitan que existamos concentrados en el presente. Esto sólo aumenta en una era en la que recibimos información en un flujo sin tregua: notificaciones, alertas, likes…

La mente de los humanos funciona a través del apego y la fijación. Somos incapaces de soltar pensamientos y nos aferramos a ellos hasta crear cadenas de reflexiones innecesarias y, en las peores circunstancias, imposibles de parar. Nos aferramos a los hechos que aún no llegan y a los que ya pasaron; existimos sin realmente existir, con la mente en otro sitio que no es el presente. El profesor de zen David Loy define el estado normal de la mente como “atrapada” entre ideas, y muchas tradiciones contemplativas, incluido el zen, están concentradas en ayudarnos a existir sin la compulsión constante de aferrarnos a los pensamientos. 

La tendencia a esa fijación parece ser un mal que sólo aumenta en una era en la que recibimos información en un flujo sin tregua: notificaciones, alertas, likes… Si bien la naturaleza de nuestra mente funciona aferrándose a hechos e ideas, valdría la pena preguntarse qué tanto de ese apego tiene que ver con nosotros y cuánto con nuestros teléfonos. Los momentos en los que estamos realmente presentes se vuelven raros, ante la alternativa de ocupar nuestro tiempo en algo que parece siempre estar al alcance de nuestra mano. 

Por las mañanas, cuando mi alarma suena, me toma más tiempo liberarme del celular que del sueño. Después del tono del despertador, abro los ojos en un promedio de 10 minutos; puedo permanecer en la cama otros 40. En realidad, mientras sostengo el celular, no estoy buscando nada en específico y mi mente navega de una noticia a un tuit, de una notificación a un mail. Antes de darme cuenta, estoy atrapada en un circuito que parece siempre tener una pestaña más. 

Claramente, un factor que fomenta ese apego es la portabilidad de nuestros dispositivos. Que los podamos llevar a cualquier parte, sin embargo, es sólo una de las partes. Además, está el hecho de que un celular sirve para prácticamente cualquier cosa. La multifuncionalidad de nuestros aparatos telefónicos los ha vuelto el único elemento al que recurrimos para una larga serie de necesidades. Y esa multifuncionalidad es muy relevante en nuestra historia del apego sin pausa. 

Primero, tenemos el "escenario clásico de distracción", con el que me enfrento todas las mañanas. Levanto el teléfono para apagar la alarma, por ejemplo, y al tiempo noto la notificación de un mensaje; antes de darme cuenta estoy en el feed de Instagram de esa persona, 20 minutos después. Sin embargo, el segundo escenario es aún más escalofriante: el "impulso sin sentido". El acto de tomar nuestros celulares sin ninguna razón en particular. A medida que nos acostumbramos a buscar nuestros teléfonos todo el tiempo ese impulso se convierte en una fuerza de hábito. Acostumbramos diligentemente a nuestra mente a preferir fijarse en algo, lo que sea, con tal de evitar estar presentes, por un momento y sin ningún estímulo. Pasa un día por cualquier fila de espera para comprobarlo. 

Para nuestros cerebros, la multitarea no es una forma efectiva de hacer las cosas. Sirve, más bien, para fragmentar nuestra atención y desviar nuestro enfoque de la tarea en cuestión. Esto es en gran medida contrario a la promesa de las tecnologías que son más eficientes en la medida en que son más útiles para múltiples funciones. Detrás de esta reflexión, sin embargo,  no vive la acusación de que nuestros teléfonos con más de una función sean inventos negativos; hay claras ventajas en que nuestro calendario esté sincronizado con nuestro correo electrónico. La introspección va mucho más por el camino de replantear la relación con nuestras tecnologías para que funcionen con, no en contra de nuestros objetivos personales. 

En este punto de la historia, regresamos a las tradiciones contemplativas, como la meditación. El acto de meditar ayuda a concentrar la mente en un solo pensamiento, en una sola idea a la vez. Parte del alivio que uno obtiene meditando es darle un descanso a los pensamientos; concentrarse en el presente. Por otro lado, los ejercicios positivos que involucran directamente a la tecnología incluyen soluciones superficiales como desactivar las notificaciones o restringir el acceso a nuestras redes sociales durante ciertos períodos del día. 

De algún modo, ambas soluciones apuntan a los méritos de concentrarse en una "tarea única", y tal vez podamos reflexionar sobre esta estrategia general a la luz de la multifuncionalidad de los teléfonos inteligentes: ¿de qué manera queremos que sean multifuncionales? Hace unos días cambié mi dispositivo obsoleto por uno nuevo, que tiene el detalle de no incluir los tonos de alarma a los que estoy acostumbrada. Así que durante los últimos días he utilizado el teléfono viejo exclusivamente como una alarma. Ese aparato funciona para una "tarea única" que consiste en despertarme, lo que además de asegurarme el tono de alarma que prefiero, evita que revise notificaciones y navegue en Internet como consecuencia inmediata de acercarme para apagar el sonido del despertador.

Tal vez, la estrategia más profunda para cambiar nuestros hábitos de consumo con la tecnología no tenga tanto que ver con prohibirnos revisar una red social o eliminar aplicaciones. Tal vez sea más sencillo volvernos a encantar con la virtud de tomar una cosa a la vez, en un mundo en el que los dispositivos que integran más y más funciones se comercializan como productos inequívocamente útiles. Podemos desafiar esa certeza de cristal experimentando con el uso de la tecnología en un enfoque más "tarea única". Como consecuencia de nuestro intento por alcanzar un mejor rendimiento es posible que también contribuyamos, a un tiempo, a nuestros intentos por desconectarnos de las fijaciones mentales. A estar presentes. A existir en el momento.