Ada Hoffmann: "A las tecnológicas les intesa exagerar diciendo que tengamos miedo de la IA"

La efervescencia editorial de los géneros fantásticos en catalán está haciendo que lleguen a nuestras librerías autores que aún no han atraído la atención de la industria editorial en castellano. O que se traduzcan, no ya los autores de éxito seguro sino también autores de nicho, que aunque no hayan sido grandes éxitos internacionales son joyas en potencia. Es el caso de Ada Hoffmann. Canadiense, científica computacional, autodefinida como “escritora de ficción especulativa, autista y poeta”, la editorial Chronos acaba de completar la trilogía formada por ‘L’extern’, ‘Els caiguts’ y ‘L’infinit’, en traducción de Anna Llisterri. Tres libros en los que una realidad lovecraftiana irrumpe en un mundo donde las inteligencias artificiales han conseguido ser adoradas como dioses y dominar a la humanidad a través de sus ángeles (cyborgs).

Cuando investigó sobre IA y su capacidad para generar poesía aún no había estallado el fenómeno ChatGPT.

Entre 2013 y 2018 trabajé en mi tesis doctoral era la Creatividad Computacional. La forma en que una computadora y la inteligencia artificial podrían realizar una tarea creativa. Intenté que el ordenador generara poesía pero no se me dio muy bien. No funcionó, hacía poesía muy, muy mala. Pero lo que me resultó realmente interesante y lo que, en última instancia, constituyó la mayor parte de mi tesis, fue la psicología y la filosofía detrás de una tarea como esa. Así que era algo muy teórico. Bueno, ya había sistemas que pretendían crear arte, pero siempre se había visto como un juguete curioso. Pero ahora todo ha cambiado, hemos pasado de analizar de qué manera tan interesante se equivocaba el ordenador a que haga textos muy muy parecidos a un texto en inglés de nivel medio. Pero, y eso tiene una belleza trágica, después de doctorarme todo ha cambiado por completo, es casi lo contrario de lo que ocurría cuando estaba en el posgrado porque hemos pasado de analizar de qué manera tan interesante se equivoca el ordenador a que de repente el ordenador hace un muy buen trabajo al crear textos muy al nivel de un inglés medio. Ahora lo que pasa con ChatTGP es que todo el mundo lo quiere utilizar, desde la industria a los escolares para hacer sus deberes. Y quienes lo estudiábamos nos encontramos con que realmente no habíamos pensado en qué sucedería si esta generalización se producía. Y en la comunidad de investigación estamos bastante desconcertados. Nos decimos: “Vaya, quizá esto no sea realmente bueno”.

Quizá la poesía sea lo más fácil de emular en el fondo. Somos indulgentes con que sea inconexa, o incomprensible.

Sobre todo los tipos de poesía que invitan al lector a esforzarse para interpretarla. Como el haiku, esos poemas tan compactos en los que el lector lee mucho significado en pocas palabras. Con esos poemas han tenido más éxito.

Vayamos no a la IA de la realidad sino a la de su libro. ¿Puede llegar un momento de singularidad, en que la IA deje de ser una herramienta para convertirse en un ente distinto de nosotros, que pueda colaborar, o competir, o dominarnos?

Aunque he escrito de ello en mis libros, realmente no pienso que sea muy probable que en el mundo real la Inteligencia Artificial se convierta en una superinteligencia. Lo hice porque quería que mis personajes estuvieran inmersos en una disputa cósmica o religiosa. Con ángeles que mantienen el orden y el control y allí fuera, un caos primitivo. ¿Cómo crear una religión de control como esta en un entorno de ciencia ficción? Ahora, en el tercer libro profundizo un poco más en cómo surgieron originalmente esos dioses y cómo los crearon los humanos, por qué los crearon y qué pasó. Ahora, y no cuando empecé a escribir los libros, lo que está sucediendo es que hay ciertos sistemas muy buenos para hacer ciertas cosas. Las empresas de tecnología nos dicen que tenemos que tener miedo y cuidado porque su tecnología se volverá superinteligente… Pero si vemos cómo funciona, lo único que se le da bien es replicar los patrones que ve en las formas en que las palabras van juntas. No tiene lo que llamamos ‘simple grounding’, la capacidad de conectar lo que dicen las palabras con la experiencia física o sensorial o entender realmente qué significan. Las tecnológicas están exagerando deliberadamente, pidiendo atención, porque eso les da más dinero, les ayuda a atraer inversiones de gente que se crea realmente que con esa tecnología se apoderarán del mundo. Pero no es así.

¿ChatGPT es algo más que una interfaz en lenguaje natural de un motor de búsqueda?

ChatGPT 4 cuatro es una red neuronal que se entrenó con una cantidad de texto increíblemente enorme, que incluye básicamente todo Internet y probablemente también un montón de libros con derechos de autor por los que no pagó. Y lo único para lo que está entrenada esta red es para predecir la siguiente palabra que va a venir después en una secuencia de palabras. Predicción estadística, y respuestas conversacionales. Muy bueno en dar cosas que parecen buenas respuesta, y son correctas… pero no siempre.

En la ciencia ficción de hecho hay una larga tradición de robots rebeldes, ordenadores conscientes y díscolos, inteligencias artificiales, pero pensadas como individuos, réplicas de una mente humana. ¿Qué ciencia ficción estamos escribiendo, o se escribirá, ante la nueva visión de la IA?

No creo que haya una tendencia singular. Todavía hay muchas formas de hablar de la IA en la ciencia ficción. Está bien explorar muchas ideas. Uno de mis ejemplos actuales favoritos de esa IA personal de la que hablas son los libros de ‘Murderbot’ de Martha Welles, un cíborg sarcástico que está harto de las tonterías humanas. Pero vamos hacia el tipo de IA en red, algo que empezó a aparecer ya ante Internet en los 90. En los próximos años lo que espero es una ficción más comprometida en explicar cómo nos afecta a los valores humanos en el presente y cómo eso podrá extrapolarse en el futuro. Hay algunos problemas realmente interesantes en la ética de la IA tal como existe hoy en día: cómo absorbe datos sesgados, o qué pasará con las personas cuyos trabajos se automatizan. Aquí habrá mucha ficción en los próximos años.

Bueno, también se ha utilizado la IA para encontrar una forma tecnológicamente plausible de hablar de la inmortalidad.

Efectivamente. En definitiva en mis libros lo que hago es utilizar la IA para hablar de religión y control social.

Se define como no neurotípica, y también lo son varios de sus personajes. ¿Nos puede explicar el concepto?

Son las personas cuyo desarrollo cerebral es realmente un poco diferente de lo que llamaríamos el cerebro promedio. Las personas con, por ejemplo, autismo o TDAH o alguna otra afección neurológica de esa naturaleza, Yo soy no neurotípica. Me diagnosticaron autismo cuando tenía 13 años y me gusta escribir sobre personajes autistas y otros personajes no neurotípicos. Cuando escribía cómo se encuentra mi protagonista ante el horror cósmico ante el que se encuentra, de lo que realmente estoy hablando es de una sobrecarga sensorial autista. Hay personas para las que los ruidos o los colores son muy intensos para ellas, así que imagínate ante un horror cósmico incognoscible.

Hay terror cósmico, en el sentido más general de lo que hizo Lovecraft. Pero voy por media trilogía y de momento, no hay tentáculos, ha evitado su imaginería. Otros autores de ‘new weird’ también prefieren que irrumpa lo extraño en forma de distorsiones de la realidad, como Jeff Vandemeer, Tade Thompson, China Mieville...

Hay ideas muy interesantes en el horror cósmico. La idea de que el universo es tan grande que realmente no podemos comprenderlo. ¿Y qué se siente cuando te enfrentas directamente a algo que no puedes comprender? Las imágenes más reconocibles, en cambio, ya se han vuelto kitsch. Quería centrarme realmente en el aspecto más conceptual, no necesariamente es calamares gigantes. E imaginar un mundo infectado como metáfora de la sobrecarga sensorial. Estar dentro de un mundo tan caótico en el que pasan tantas cosas a la vez y tan intensas que es difícil incluso moverte por él.

Pero de lo cósmico baja a lo muy terrenal. También hay componente de romance. Esos dos ángeles, la científica protagonista y su pareja ingeniera.

Cuando hablas de algo muy abstracto puedes perder la perspectiva, así que pensar en los personajes, sus inclinaciones románticas o sus conexiones con otros personajes ayuda a ver qué está en juego en sus vidas. Hay cosas valiosas en la vida normal, no solo el destino de la galaxia.

Hay unos pasajes especialmente divertidos en el libro. Los pasajes en cada capítulo del catecismo o los cuentos para que los niños aprendan a adorar a las IA divinas.

Sí, me divertí mucho con esas secciones, estaba pensando en cuentos de Kipling más bien. Y, por supuesto, son un vehículo para contarle al lector un poco más sobre el mundo.