«La digitalización está creando una nueva violencia burocrática»

¿Qué es ese bucle invisible del que habla en su ensayo?

'El bucle invisible' es, ante todo, un punto de entrada a la época que nos permite problematizar la cultura tecnológica contemporánea desde los nuevos usos y poderes que silenciosamente nos animan a repetir mundo y a repetirnos en él, pero conociéndolo descubrimos maneras en que nos permite desviarnos, ser críticos y ayudar a mejorarla. El bucle invisible es aquel que atravesando silenciosamente nuestra vida, deseos y expectativas tiende a repetir de nosotros lo que la sociedad espera. Es un bucle que ha existido siempre en el contexto de lo simbólico y de la construcción subjetiva y de identidades, pero que, ahora, en una cultura digital donde la vida en las pantallas se ha normalizado, adquiere una potencia, alcance y lectura distintas. Este libro comienza observando las formas en que se programan y operan esos bucles en el contexto tecnológico actual, buscando identificar y reflexionar sobre sesgos e inercias que tienden a anticipar y, en gran medida, a favorecer que las personas repitan lo que sus identidades colectivas vaticinan de ellas, atendiendo a identidades preconcebidas y a datos que tienden a reiterarlas y que nos encajan en determinados compartimentos que parecen describir, cuando realmente contribuyen a crear hábito y expectativa, condicionan y orientan. En un mundo de datos masivos controlados por determinadas industrias digitales cabe preguntarse si la estadística apoyada en los datos recopilados, y pasados, no ayuda solo a describir lo que ha sido, sino a anticipar lo más probable o lo que puede ser, creando una estructura que incite a ello.

¿Es más peligroso por ser bucle, porque nos encarcela en el perfil que nos adjudica la máquina, o por ser invisible, porque no sabemos que detrás hay algoritmos que funcionan como una caja negra?

Es la combinación del bucle con su invisibilidad la que lo convierte en dañino. Simone Weil advierte de lo negativos que llegan a ser los mecanismos u organizaciones que acrecientan la desigualdad frente a lo positivos de aquellos que alientan una mayor igualdad, pero entre ellos precisa que el mayor riesgo se encuentra en las organizaciones que favorecen compartimentos estancos. Esta idea es central en este libro, de forma que conocer y especular sobre las maneras en que la cultura-red contemporánea contribuye a favorecer compartimentos estancos y que por tanto la desigualdad siga repitiéndose en bucle es algo que aquí moviliza. La forma en que esto acontece es llamativa. La invisibilidad, que parece una característica ajena a la época, es por el contrario un asunto aquí esencial, pues ahora que todo parece más visible que nunca y que a golpe de dedo logramos respuestas, imágenes e información capaz de sepultarnos, justamente los códigos que se usan para programar este mundo son más herméticos. Y las personas presuponen que estas herramientas son neutrales y que si todos las usamos «no deben ser negativas». Esa fuerza que gestiona estas tecnologías no es pública, democrática ni regida por normas consensuadas, sino fuerza empresarial regida por la búsqueda de mayor capital, mayor beneficio. De otro lado, las condiciones de acceso e interrelación con la máquina nos dibujan como personas solas frente a la pantalla. Ante ellas nos sentimos liberados para decir, buscar y hacer como si estuviéramos realmente a solas. Nos hemos habituado a preguntar a Google lo que no preguntamos a otro humano. Por ejemplo, las preguntas sobre cómo y dónde abortar son realizadas al buscador antes que a familiares o amigos.

¿Hasta qué punto estamos indefensos ante los algoritmos?

Para responder creo que el análisis de la científica de datos Cathy O’Neil sobre el que me apoyo en parte del libro puede ser de ayuda. Ella identifica tres elementos clave. Por una parte, la escala en tanto alcance de la acción de los algoritmos, por otro lado la capacidad de daño y perjuicio a muchos a costa de beneficiar a unos pocos y, en tercer lugar, la opacidad por la que la programación es considerada patrimonio exclusivo de la empresa y corazón de su propiedad intelectual. El asunto es complejo, pero en tanto la escala a la que afecta o puede afectar es global pues, en gran medida, se trata del suelo estructural en el que nos movemos cotidianamente entre pantallas, la legislación e intervención de los poderes públicos debiera ser básica. No se trata de aplicaciones que nos venden cosas, se trata de aplicaciones que crean y condicionan la imagen y vida pública de las personas.

¿Los algoritmos condenan a las clases más desfavorecidas a una pobreza a perpetuidad? ¿Blindan a las clases adineradas?

Pueden resultar bruscas esas afirmaciones, pero no a lo que apuntan. Los algoritmos pueden contribuir a favorecer igualdad o a que los bucles sigan alimentando los compartimentos estancos de la desigualdad. Tienen un gran y creciente poder, y su invisibilidad, junto a su neutralidad presupuesta, los convierte en una herramienta poderosa.

¿La nueva tecnología ha potenciado la burocracia tradicional? ¿Lo digital ha acabado reforzando el papeleo?

La tecnología viene con nosotros y esto permite que el trabajo venga con nosotros. La tecnología digital favorece y a la par amplifica las tareas de autogestión. Tanto los trabajos formales como las labores de mantenimiento de la vida nos requieren cada vez más tareas de autogestión (bancos, energía, pagos). Las bases de datos son la base narrativa de las vidas contemporáneas. Y ocurre en muchos casos que, mediados por aplicaciones y bases de datos, se presenta como flexibilidad servicios que las empresas proyectan en los consumidores para ahorrar dinero mientras nos convertimos en suministradores y gestores de datos. Esta posiblemente es una diferencia de los privilegiados, que hoy pueden ser leídos por personas y cuentan con asesores humanos que les facilitan este trabajo y gestiones, y quienes deben mediarlo ellos mismos mientras son leídos por máquinas.

Las personas mayores chocan constantemente con ese muro de máquinas.

Un ejemplo muy concreto sería lo que está ocurriendo en los pueblos con personas mayores que no saben, no quieren o no pueden manejar los servicios online a los que han visto reducidos sus servicios bancarios. Y no se trata solo de una cuestión de «adaptación a los cambios», se trata de una filosofía que da nuevas vueltas de tuerca a lo liberal, de la primacía de un sistema que parece denostar la importancia de la empatía y de la mediación humana, pero que, sin embargo, la empaqueta como servicio añadido, como plus para quienes pueden, o podrán, pagarla. Quizá la idea que con más fuerza me movilizó para este libro era la intuición de cómo la mayoría somos cada vez más leídos por máquinas mientras algunos privilegiados tenían la suerte de contar (y poder pagar) asesores privados, humanos que empatizan y les ayudan.

La primera década del siglo XXI fue la de que internet nos iba a traer un mundo perfecto. Ya en la segunda empezó aflorar un pensamiento muy crítico. ¿Usted en qué lado está ahora mismo? ¿Ya se ha hecho ludita del todo?

Ay, no. Puede que al hablar críticamente sobre estos asuntos a algunos le parezca una ludita, pero no es el caso. De hecho, me considero defensora del uso emancipador de la tecnología, de cómo nos hace más libres al permitirnos hacer y ser sin estar presentes materialmente, de cómo puede amplificar nuestros sentidos a quienes (como es mi caso) tenemos algunos mermados y nos cuesta ver y oír. 

Suscríbete para seguir leyendo