03 de junio de 2017
03.06.2017
Entrevista

"Los algoritmos están influyendo mucho en nuestras vidas, en lo que compramos y votamos"

Ramón López de Mántaras es director del Instituto de Inteligencia Artificial del Consejo Superior de Investigaciones Científicas (CSIC)

03.06.2017 | 05:00
El ingeniero del CSIC Ramón López de Mántaras.

López de Mántaras es doctor en Física e Informática y uno de los pioneros en España en el uso y la investigación de los procesos para hacer máquinas inteligentes, así como un destacado experto a nivel Europeo. Dice que su disciplina se enfrenta a un imposible: inculcar el sentido común a las máquinas. Ésa es una de las cosas que nos hace humanos

¿Una máquina puede ser inteligente sin tener consciencia?
Claro, claro. Si usted me pregunta si la máquina piensa, yo le digo que no piensa con pensamiento consciente. Piensa de forma muy distinta a nosotros.

No piensa que piensa.
No sabe nada de lo que está haciendo. La máquina que juega al ajedrez no sabe lo que es el ajedrez. No sabe nada en realidad del ajedrez. Sabe hacer los movimientos y sabe utilizar una serie de estrategias que han programado de forma compleja los programadores. Que ésos sí son muy inteligentes. La inteligencia artificial tiene muy poco que ver con la inteligencia humana. Es más, yo diría que no tiene nada que ver.

¿Pero podremos llegar a provocar sentimientos en las máquinas?
Yo soy de los que piensan que no.

Algunos sostienen que sí.
Se puede engañar y hacer pensar que la máquina tiene sentimientos. Tú puedes tener un robot que al llegar al principio de una escalera se detiene y se va hacia atrás. Lo ves y piensas: ha tenido miedo. No. Eres tú quien está proyectando lo que es humano en él. El robot no tiene miedo, simplemente hay un sensor que ha detectado que hay una discontinuidad en el suelo y un software que le dice que se detenga y se mueva hacia atrás. Esto quiere decir que era el programador quien tenía miedo de que el robot se cayera.

¿Cuando se multiplique nuestra capacidad de computación lograremos que las máquinas adquieran conciencia?
No yo soy muy escéptico ante esas profecías que lanzan algunos. Si usted me dice que eso puede pasar dentro de mil años, yo me callo. Pero que ocurre en un plazo razonable, y le digo que en diez o quince años, ni hablar.

¿Si la conciencia no se alcanza con más capacidad de computación, entonces se podría suponer que nuestro cerebro es «algo más»?
No, no. Básicamente nuestro cerebro es procesamiento de información, de eso estoy convencido. Pero no sabemos muy bien cómo funciona el cerebro. Sabemos demasiado poco del cerebro. El tipo de procesamiento de información que hace un cerebro, cómo aparece el pensamiento consciente en un cerebro, nadie lo sabe. A lo mejor incluso no reside todo en las neuronas. Hay gente que últimamente está hablando de que las células gliales como los blastocitos juegan un papel fundamental en el procesamiento de la información y del pensamiento y que a lo mejor son más importantes que las propias neuronas. Y hay diez veces más células gliales que neuronas. El 90 por ciento del cerebro son células gliales, no neuronas. Por eso todos los sistemas de redes neuronales artificiales son burdas aproximaciones del cerebro que ni merecen ser considerados aproximaciones del cerebro.

¿El avance de la inteligencia artificial depende de imitar la estructura del cerebro?
No. La prueba es que los intentos de imitar el cerebro son todavía muy aproximados y, sin embargo, se están consiguiendo cosas impresionantes en inteligencia artificial. Como jugar al ajedrez mejor que cualquier ser humano. Gracias al llamado aprendizaje profundo, modelos muy complejos con muy poquitas similitudes realmente con el cerebro humano pero que a pesar de todo funcionan muy bien. Del mismo modo que los aviones vuelan sin agitar las alas, se puede conseguir algo similar a lo que consigue la naturaleza por otros medios. Ahora, la gran diferencia, aparte de que las máquinas no saben lo que están haciendo, no son conscientes, es que son inteligencias artificiales muy específicas. Los seres humanos somos más generalistas, tenemos un amplio espectro de capacidades. El ordenador que juega muy bien al ajedrez no sabe jugar a nada más.

Cuando un ordenador ganó por primera vez a un jugador de Go, aquello parecía una derrota de la humanidad.
También se dijo cuando Deep Blue ganó a Kasparov. Al contrario, yo creo que son victorias de la humanidad. Porque son seres humanos los que han diseñado estos programas.

Siempre asoma la amenaza de que la máquina nos va a reemplazar.
Las máquinas nos están reemplazando desde la Revolución Industrial. Y seguirán reemplazándonos. Cada vez las hacemos hacer cosas más complejas. Pero sólo saben hacer una sola cosa.

¿Ésa es nuestra ventaja frente a ellas?
Tenemos dos cosas. Primero, que nuestro pensamiento es consciente y, segundo, que somos muy generales. Tenemos conocimientos de sentido común. Sabemos muchas cosas que no las hemos aprendido en las escuelas o universidades. Que las aprendemos a través de vivencias. Por ejemplo, imagine que tengo un robot doméstico. Me voy por la mañana de casa y le digo que por la noche me gustaría una cena rica en proteínas. Regresas y como no habías comprado carne, descubres que tu gato ha desaparecido. Esto tú no lo harías nunca. Es de sentido común que no hay que cocinar un gato. Pero un robot no tiene sentido común. El robot hará lo que sea para satisfacer tu orden. Una persona no cocina el gato porque el valor nutritivo es menor que el valor emotivo y sentimental. Pero la máquina no comparte los valores humanos.

Pero podríamos programarla con esos valores.
Pero la casuística es muy grande. ¿Le prohíbo cocinar cualquier animal? Las posibilidades son tan grandes e imprevisibles que no le puedes decir todo a una máquina. Los conocimientos de sentido común no se pueden dictar. Hay millones, como que los padres han nacido antes que los hijos, que cuando te mueres permaneces muerto toda tu vida, que no tienes que servir una bebida cuando dentro hay un insecto, que si llueve te mojas, que cuando sueltas un objeto se cae? Hay millones de situaciones. Si tengo que decírselas todas a la máquina para que las tenga todas, nos pasaríamos todos los seres humanos tecleando todos los días de nuestra vida y nunca terminaríamos. No puedes meter en una máquina todos los conocimientos de sentido común que puede llegar a necesitar para desenvolverse en el mundo. Ninguno de nosotros es consciente de todo lo que sabemos que es de sentido común. Yo soy incapaz de decirle a usted qué conocimientos de sentido común tengo, pero los pongo en marcha cuando hace falta.

¿Y en qué ámbito deberíamos especializarnos los humanos para no ser reemplazados por las máquinas?
Es difícil de decir. Creo que en todo aquello que requiera habilidades sociales. Lo que tenga que ver con asuntos de empatía, interactuar con alguien, escuchar. También con cosas más creativas en las que tengas que improvisar una solución. Y la destreza. Los robots, a pesar de que tienen manos artificiales, no tienen la destreza de una mano humana a la hora de hacer ciertas acciones muy finas.

En la creación ya parece que no. Hay una inteligencia artificial que pinta cuadros como Rembrandt.
Sí, es impresionante. Pero es una inteligencia artificial muy específica, solamente sabe hacer esto. Ya es mucho, pero no suficiente a mi juicio. Analiza una gran cantidad de cuadros de Rembrandt y se da cuenta de qué es lo que caracteriza a Rembrandt: hombres varones con pelo en la cara, con un sombrero, con un vestido negro oscuro mirando hacia la derecha; analiza el trazo de la pintura y el grosor... y luego te genera un «rembrandt» con una impresora 3D. Yo me quito el sombrero, pero imitar es una cosa e inventar es otra. Lograr la genialidad de un creador como Rembrandt o Picasso. Lo que las máquinas no hacen es romper reglas. Pueden seguir las reglas de un estilo pictórico o musical, pero esa genialidad de alto nivel que consiste en cambiar lo que se estaba haciendo e inventarse algo nuevo, no lo hacen. Ninguna máquina puede evaluar lo que ha creado. Esta máquina de la que hablamos no sabe quién es Rembrandt ni sabe qué es pintar, ni qué es el arte.

Las técnicas de inteligencia artificial ya son comunes en internet. ¿En qué medida somos esclavos de los algoritmos que se utilizan en la red, en las búsquedas de Google por ejemplo?
Mucho. Los algoritmos están influyendo muchísimo en nuestras vidas. Sobre todo en nuestras decisiones de compra. Incluso en las relaciones sentimentales, porque hay aplicaciones para "ligar" o para encontrar pareja. Comparan los perfiles y te sugieren que esta persona puede ser alguien con la que podrías tener química.

¿Y para manipularnos ideológicamente?
Sin duda alguna. Para influir en tu voto. Para dirigir ciertos mensajes más o menos favorables a ciertos candidatos en función de del perfil que tengan las poblaciones. Esto se ha hecho en la India en la elecciones de 2008 y, últimamente, tanto en la elección de Trump como en el Brexit hay algoritmos que han influenciado. No es que se haya hecho trampa. No es una trampa. Pero sí que se pueden focalizar determinados sectores de la población en función del perfil social o del barrio en el que viven, casi a nivel individual, y enviarte cierta publicidad personalizada. Sobre todo al votante indeciso. Los indecisos sí que pueden cambiar su intención de voto si les muestras exclusivamente información muy positiva de un candidato y muy negativa sobre todo.

Ejemplifique.
Tú estás en una zona geográfica de la India donde un candidato tiene una la intención de voto muy baja y buscas su nombre en internet. No es que se module el algoritmo de Google, porque nadie sabe cómo funciona, es secreto, pero sí que hay empresas que saben posicionar los contenidos. Así que en aquellas zonas donde un candidato tiene malas perspectivas resulta que en los primeros diez o veinte resultados de Google sólo salen cosas buenas sobre él. Las malas aparecían a partir de la tercera o cuarta página. Al que tiene muy claro el voto ni le importa. Primero, ni habrá buscado el candidato. Pero el indeciso es muy probable que se diga «voy a ir al buscar en internet a ver qué me encuentro de este candidato». Va a buscar y resulta que de un candidato sólo ve cosas buenas y de los otros sólo aparecen cosas malas. Es muy probable que acabes votando a ese candidato.

¿Y somos conscientes del poder del algoritmo y de la burbuja que crea en torno a nosotros esa personalización de contenidos?
Desafortunadamente, no. No sé si la gran masa de la población es consciente de las implicaciones que tiene todo esto. Habría que andar con cuidado a la hora de aceptar una tarjeta de fidelización en un supermercado. Tienes descuentos y a lo mejor no me importa que en un supermercado sepan mis costumbres de compras. Pero un supermercado puede saber muchas cosas de ti. Puede saber, y cito un caso conocido, cuándo una mujer está embarazada mucho antes de que ella se lo diga a muchos miembros de su familia.

El gran negocio de los datos.
Estamos dando muy alegremente nuestros datos. Sí, hay empresas que su gran negocio es acceder a nuestros datos, como Facebook o Google. Ganan sus miles de millones gracias nuestros datos para luego vender publicidad. Sin nuestros datos no habría negocio.

Pero los algoritmos no lo pueden todo. Facebook tiene a un montón de personas filtrando contenidos porque las máquinas no logran diferenciar algunos contenidos apropiados de otros impropios.
Esto nos da una idea de lo que queda por avanzar en inteligencia artificial. Hasta hace relativamente poco no decían que tenían un ejército de personas detrás. Parecía que eran unos algoritmos que lo hacían todo. Pero ahora sabemos que no. Ahora sabemos que hay miles de personas etiquetando y clasificando estas imágenes. Esto demuestra los límites de la inteligencia artificial. No estamos tan avanzados como algunos dicen. Me refiero a los que hablan de la «singularidad», un tal José Luis Cordeiro. Es un señor que se pasea por España dando conferencias y dice que ya no vas a morir porque en quince años seremos inmortales y habrá superinteligencias. Lo siento mucho, pero para mí casi lo podemos clasificar como charlatán. Nada de lo que dice tiene base científica alguna. Si me dicen que dentro de 200 años esto que cuentan puede pasar, pues les diría que puede ser que sí o que no. Lo que yo no acepto es que me digan que en 20 años esto va a ocurrir. Si para algo relativamente tan sencillo como distinguir entre una imagen que debería censurarse por cuestiones de pornografía y una obra de arte aún lo tienen que hacer personas, cómo van a ser capaces las máquinas de ser más inteligentes que nosotros en 15 o 20 años. Eso es un salto al vacío total. Estas personas tienen que ver con la Singularity University de California, que cobra miles y miles de dólares por cursos de una semana y están vendiendo su producto.

¿Cuánto daño hizo la crisis y los recortes consiguientes al sistema científico español?
Muchísimo. El balance es muy negativo. En lugar de reaccionar ante la crisis invirtiendo más en I+D, recortaron. No hay que ser un gran experto para saber por qué EE UU, Suiza o Holanda están económicamente tan bien. Es por la I+D. No es que inviertan mucho en ciencia porque son ricos, es que son ricos porque invirtieron antes mucho en ciencia. Y aquí casi hemos perdido una generación de gente superpreparada.

¿Tantos hemos perdido?
Hay un montón de científicos, no cien o doscientos, hablo de miles, que se formaron aquí con tesis doctorales y que ahora están en el extranjero en grandes instituciones, aportando lo que aprendieron en España. Y son gente que están entre los treinta y cuarenta años. Esto vamos a pagarlo caro. Todavía estamos viviendo de las rentas, de mi generación o de los que son más jóvenes que yo, los que tienen ahora cincuenta años. Tenemos una población científica envejecida, tanto en el CSIC como en las universidades. La generación que nos tenía que sustituir está fuera. Algunos quizá regresen, pero ya muchos los hemos perdido para siempre. El instituto que dirijo es de los pequeños, tiene 22 investigadores permanentes y un total de 60 personas. Pues en los últimos cinco años de todos los que hemos doctorado, que serán unos treinta, veintidós están en el extranjero. Tres en Oxford, uno Princeton, otro en la Universidad de Sidney, otro en el Comisariado de la Energía Atómica en Francia, otro en la Universidad de Ginebra, otro en la Universidad de Grenoble, otro en Google Irlanda, otro en Amazon, otro en Apple Cupertino California... Y así hasta 22... ¿Cuántos vamos a recuperar?

Pues no parece que vaya a haber una fuerte inversión en ciencia en España.
Pero la burbuja del ladrillo está creciendo otra vez. Se está volviendo a comprar pisos sobre plano. Estamos repitiendo el mismo error.

Será que nos falta el aprendizaje profundo que ustedes aplican a las máquinas...
Sí, haría falta quizá un poco de inteligencia artificial que pudiéramos inyectar en algunas inteligencias humanas. Lo que hay es mucho analfabetismo sobre ciencia y tecnología por parte de gente importante, en los dirigentes. Parece que hay otras prioridades que parecen más rentables políticamente. Es más rentable invertir en carreteras donde no hay coches o en aeropuetos donde no hay aviones. Y da más votos. Quizá en el fondo la culpa es de la población. Si nosotros votamos a unos dirigentes que tienen otras prioridades en lugar de priorizar la I+D quizá somos todos culpables. La culpa es nuestra porque no exigimos. Estamos contentos porque nos llegue una preciosa autovía a la urbanización donde vivimos. Nos va bien y los votamos.

Compartir en Twitter
Compartir en Facebook

Más información