«La inteligencia artificial nunca podrá ser verdaderamente inteligente sin un cuerpo»

'Una teoría crítica de la inteligencia artificial' (Galaxia Gutenberg) alerta sobre la democracia algorítmica y el tecnosolucionismo de Silicon Valley. La tecnología vende excepcionalmente bien sus triunfos y logros, implicando también, sin decirlo, que el progreso sólo está viniendo realmente de ese lado, no del de la actividad humana pura. ¿Busca desmoralizarse al ciudadano de alguna manera para que delegue sus poderes políticos?

El actual feudalismo tecnológico ha sido preparado por el culto a la eficacia, el pragmatismo despolitizado, la simplificación y la asepsia ideológica, que se ofrecen como soluciones a los fracasos burocráticos. Asistimos al triunfo hegemónico del paradigma técnico que se traduce en desregulación y optimización presupuestaria e institucional. Al prestigio del tecnosolucionismo contribuye un espacio público cuyas narrativas catastrofistas preparan el terreno para la justificación de formas de gobierno autoritarias, de urgencia sin deliberación, y confieren una atención inmerecida a quienes dramatizan el malestar, se ofrecen para proteger a cualquier precio, anuncian soluciones al margen de los procedimientos democráticos y sin respetar las instituciones. Este es el terreno en el que resulta creíble el autoritarismo tecnológico.

Se aprovechan también para su progreso la dificultad a la hora de limitar, supervisar o controlar la IA, como tantos años después sigue ocurriendo con el campo amplio de internet. ¿Por qué es tan difícil determinar unas normas, siquiera básicas, en facetas como éstas? 

El gran desafío que nos plantea la era digital es el de resistir a los encantos de la despolitización de nuestras sociedades y superar la inercia de los modos de gobierno tradicionales, no dejarse seducir por el discurso falsamente apolítico o post-ideológico, pero al mismo tiempo dejar de insistir en unas prácticas que no se corresponden en absoluto con las nuevas realidades sociales. En cualquier caso, entre la seducción de un mundo despolitizado y la inercia a mantener nuestras instituciones con la vieja cultura política, hay un amplio espacio para pensar el lugar que debe ocupar la política en estas nuevas realidades.

La IA anula la conversación política con el caramelo del solucionismo. El problema es que resulta difícil no caer en la tentación cuando el nivel del debate público es tan pobre como el actual, ¿no cree?

La democracia requiere una conversación de calidad y un espacio público que la permita y fomente. Con frecuencia se tiende a poner la atención en el hecho de que, en el nuevo contexto digital, la democracia se encuentra amenazada por la injerencia extranjera en los procesos electorales o la actuación de bots y dejamos de interrogarnos por las condiciones estructurales propias que están en el origen de una conversación democrática de baja calidad, es decir, con una pobre conversación, polarizada, sin suficiente participación, rendición de cuentas, etcétera. Desde este punto de vista, la debilidad del espacio público no está solo en la deliberada voluntad de intromisión sino en la propia configuración del entorno digital que favorecería fenómenos empobrecedores. La misma apertura del espacio de libre discusión permite difundir ideas sin la menor justificación; la proliferación de noticias y opiniones crea una desorientación específica; en virtud del anonimato de algunas redes sociales se genera una peculiar irresponsabilidad en las intervenciones… Pero no deberíamos perder de vista que buena parte de la mala calidad de nuestros espacios públicos se debe a que la lógica con la que se han configurado los nuevos entornos digitales condiciona en buena medida el modo en que nos relacionamos y nos comunicamos.

Quienes reducen toda la cuestión al combate entre los humanos y las máquinas olvidan que la verdadera batalla es entre humanos que disponen de máquinas con distintos criterios

Ginni Rometty, de IBM, dijo: «La IA no reemplazará a los humanos, pero quienes la usan reemplazarán a quienes no la usan». ¿De acuerdo?

Quienes reducen toda la cuestión al combate entre los humanos y las máquinas olvidan que la verdadera batalla es entre humanos que disponen de máquinas con distintos criterios. La técnica no prescribe un único posible desarrollo; en su encuentro con la sociedad se plantean muchas opciones, es contestada, se utiliza para algo distinto de lo previsto por su diseñador, se reivindica una aplicación inclusiva, en suma: se produce un diálogo que permitiría hablar de un pluralismo tecnológico, una diversidad de modos de concebir la tecnología en su implementación social. De esto que le pasa a cualquier tecnología en el interior de nuestras sociedades es buena muestra el hecho de que a nivel global la misma digitalización adquiera formatos muy distintos y cristalice en modelos que articulan tecnología, estado y mercado de modos diversos e incluso antagónicos, si consideramos lo que piensan y hacen con la inteligencia artificial Estados Unidos, la Unión Europea o China. Si hablamos de pluralismo político o moral, también deberíamos hablar de una «diversidad tecnológica», de un pluralismo en relación con la tecnología, que no es indiscutible, de aplicación inmediata y unívoca.

Ahora le leo a usted: «Estamos sobrevalorando los progresos de la inteligencia artificial e infravalorando la complejidad de la comprensión humana del mundo». ¿Podría ahondar en esta idea?

El reduccionismo de la inteligencia a gestión de datos y cálculo es lo que explica que estemos cediendo poder a unas máquinas que no son muy fiables, especialmente en lo que se refiere a valores humanos, sentido y visión de conjunto o su inserción en una sociedad política, con sus prioridades y sus objetivos de equilibrio, sostenibilidad o igualdad. En sus comienzos la computación era una operación de cálculo que podríamos definir como solipsista: no requería que las máquinas tuviesen un conocimiento sofisticado de ser en el mundo, de estar en nuestro mundo real, complejo y dinámico, emergente, múltiple, impreciso y contingente, un mundo que requiere esa conciencia que los humanos producimos de manera intuitiva e implícita. Nuestra realidad es contextual e histórica. La fracción dominante de la comunidad de la inteligencia artificial ha tenido una concepción cartesiana del conocimiento, reproduciendo el típico dualismo de unos cerebros descorporalizados que producen conocimiento con independencia del mundo en el que se inscriben. Pero un sistema verdaderamente inteligente necesita un cuerpo. 

Explíquese.

Tener un cuerpo quiere decir relacionarse activamente con un entorno dinámico, tanto físico como cultural y social. La subjetividad no es un conjunto de operaciones mentales, como si el conocimiento fuera algo inmaterial e incorporal. Una inteligencia artificial llegará hasta donde pueda llegar una inteligencia sin cuerpo.

¿Cuál es, en su opinión, el peor falso mito en torno a la IA? ¿Eso de que «quitará puestos de trabajo», el falaz argumento esgrimido de manera clásica contra la inmigración?

El peor mito es el de la neutralidad tecnológica, el de que la tecnología no es ni buena ni mala sino que depende del uso que se haga de ella. Para ilustrar las limitaciones de este modelo neutralista puede aducirse el ejemplo clásico de las armas: hay quien afirma que un arma es neutral y todo depende de cómo se use, si para cazar o para asesinar. Esta afirmación es muy simple. 

«No matan las armas sino los humanos», ¿no?

 Hay algo cierto y algo falso en ello. Los humanos no suelen matar con sus manos y las armas no matan si no son empleadas por un humano. Pero la cuestión del condicionamiento no se refiere al uso posible sino a lo que revela la mera posesión masiva de armas en una sociedad, como en el caso de los EEUU. Lo que se pone de manifiesto es que una sociedad en la que hay muchas armas es diferente de otra en la que hay pocas. Que en EEUU las haya en tales proporciones no significa solo que podrían ser utilizadas para matar, sino que hay de hecho una concepción de la soberanía individual, del modo como se resuelven los conflictos, de la seguridad y de la justicia muy distinta de aquellas sociedades en las que, como regla habitual, no hay armas en los domicilios. Algo similar puede decirse de cualquier tecnología y concretamente de las digitales; no son únicamente medios sino que implican una cierta manera de entender y vivir la comunicación, el espacio, el tiempo, el trabajo o la opinión, diferente de las tecnologías analógicas.

La ficción, que tanto ayuda a explorar los mundos posibles, en el caso de la IA nos ha distraído con mundos imposibles

¿Cuánto daño ha hecho la ciencia ficción en este asunto? Tengo la sensación de que nuestra mirada hacia la IA sería más limpia o desprejuiciada si no lleváramos años autobombardeándonos con distopías tipo Skynet, Hal 9000…

Comparto totalmente esa sensación. La mayor parte de los actuales diagnósticos acerca de la significación histórica de la digitalización son histéricos, están llenos de exageraciones y simplificaciones, de expectativas exageradas y miedos difusos o melancólicos. La ficción, que tanto nos ayuda a explorar los mundos posibles, en este caso, nos ha distraído con mundos imposibles. 

Usted es profesor. Tradicionalmente, y de una manera cómoda, muchos profesores se han limitado a configurarse como transmisor de conocimientos, wikipedias más o menos especializadas. Ahora, con la información asequible, cercana, ya no son útiles en este sentido, son reiterativos. ¿Cuál es la tarea entonces, la aportación que se debe esperar del profesor?

Quienes empezamos siendo profesores en una era sin internet nos pasábamos buena parte de la clase dando información. Hoy en día ya no perdemos el tiempo en una tarea que Google hace mejor que nosotros y nos dedicamos a transmitir criterios de interpretación de los datos, estrategias de supervivencia cognitiva en una abundancia abrumadora de cosas entre las que es muy difícil distinguir el ruido de la información acreditada.

Quizás la IA, en un efecto positivo inesperado, haya venido para recordarnos que como humanos dejado realizado una gran dejación de responsabilidades propias, nos hemos conformado con la versión más banal y mecánica de nosotros mismos. ¿La IA nos obligará a ponernos las pilas, a ser más humanos?

Contestaría con una afirmación de Norbert Wiener, uno de los padres de la IA, allá por 1964: «El mundo del futuro será una lucha cada vez más exigente contra las limitaciones de nuestra inteligencia, no una confortable hamaca en la que podamos tumbarnos para que nos atiendan nuestros robots esclavos». La IA representa un desafío para nuestra inteligencia, no en el sentido de que nos vaya a superar, sino en el de que, a medida que vaya realizando cada vez más funciones que llevábamos a cabo nosotros pensando que eran de nuestra exclusividad, nos tendremos que ir concentrando en las tareas específicamente humanas. El esfuerzo será enorme, pero si lo hacemos bien podemos liberarnos de muchas tareas de un modo similar (o aún mayor) a como la mecanización del trabajo nos ahorra muchas tareas penosas, aburridas y peligrosas. n

Suscríbete para seguir leyendo