“La IA aplicada a la medicina no es un tema de futuro, es un tema de presente”

La inteligencia artificial (IA) está revolucionando la medicina a una velocidad sin precedentes. Sin embargo, su incorporación plantea también importantes desafíos éticos y legales, sobre todo, en relación con los derechos de los pacientes, que pueden verse amenazados si no se regula adecuadamente. Todas estas cuestiones y muchas más las aborda el doctor José Antonio Trujillo, vicepresidente del Colegio de Médicos de Málaga, en su nuevo libro ‘Inteligencia Artificial y Derechos de los Pacientes: el equilibrio necesario’, el noveno que publica y el segundo que escribe sobre IA. 

¿Por qué decidió escribir este libro? 

Porque la inteligencia artificial es la tecnología que está transformando la medicina y quería estudiar y divulgar lo relevante que va a ser el contrapeso del respeto a los derechos de los pacientes. Creía que era un tema muy relevante que, normalmente, es como la cruz de la moneda de este tipo de avances, donde no se pone demasiado el foco. Se pone el foco en todos los logros de esta nueva tecnología y no en la amenaza que supone para la ciudadanía.

En él aborda los desafíos éticos y legales de la incorporación de la IA al campo de la medicina, ¿cuál cree que es el principal desafío que plantea?

El desafío más grande que da la inteligencia artificial aplicada a la medicina es que nosotros no seamos los benefactores de esta tecnología, sino que seamos el producto, o sea, que nuestros datos sean comercializados. ¿En qué sentido? Pues en temas relacionados con que seamos víctimas de sesgos algorítmicos, y que por el hecho de que determinada aplicación de inteligencia artificial nos incluyan dentro de un perfil, pues seamos un poco discriminados, por razón de algunos sesgos algorítmicos, por raza, por condición, pensamiento… Todo ese tipo de cosas que antes eran impensables, pero que ahora pueden ser reales. Ese es el gran desafío, la gran amenaza. 

¿Existen entonces sesgos en los algoritmos de la IA que puedan afectar al tratamiento o diagnóstico?

Claro, de hecho hay una parte del libro que se dedica al impacto, precisamente, de los sesgos algorítmicos a la hora de la equidad y la atención sanitaria, y de cómo ya hay estudios hechos sobre que determinados perfiles que se han hecho de pacientes han perjudicado gravemente a algún tipo de paciente que no se han podido beneficiar precisamente de eso. Por ejemplo, ha habido sesgos en el diagnóstico dermatológico dependiendo del color de la piel de cada uno, y no se podían beneficiar de un avance u otro.

¿Y qué medidas se pueden tomar para evitar este problema?

Precisamente, la última ley que se publicó en el año 2024 relacionado con la inteligencia artificial, que es la Ley Europea, una de las grandes cosas que proclamaba y que hace que todos los estados miembros tengan que desarrollar sus normas en ese sentido, es el tema de que no nos pueden clasificar en determinados perfiles que no incluyan en determinados riesgos específicos. Por ejemplo, a nosotros no nos pueden, por el hecho, imagínate, de ser pobres, obesos o de determinada raza, incluirnos en un perfil que eso suponga que nosotros no podamos participar, por ejemplo, en el beneficio de algunas actuaciones en materia de prevención de algún tipo de enfermedad. 

Los expertos apuestan por la Inteligencia Artificial en la lucha contra el cáncer

Otro de los temas centrales de su libro es el de la responsabilidad. Si un algoritmo comete un error en el diagnóstico o tratamiento de un paciente, ¿quién cree que debe asumirla?

Al final siempre los responsables, y así está en toda la legislación, es la persona física. O sea, el profesional que da por buenos los resultados que la inteligencia oficial le da, que los asume como propios y, dependiendo de esos resultados, él toma determinadas decisiones. Por tanto, ¿qué ocurre? que para tomar determinadas decisiones y fiarse el profesional de la inteligencia artificial, también las empresas tecnológicas que desarrollan su algoritmo tienen una responsabilidad a la hora de presentar sus resultados. Por tanto, aunque hay una escala de responsabilidad, al final, siempre el responsable es el que da por buenas las orientaciones que le da la inteligencia artificial, las hace suyas y, por tanto, se hace responsable de las mismas. De ahí la importancia de conocer perfectamente todo el tema de hasta dónde llega lo humano y hasta dónde llega la máquina.

¿Va a llegar un momento en el que la IA reemplace al juicio del médico?

No, no debiera. Y así va la legislación y la regulación, que no puede sustituir nunca el juicio clínico de una persona. Lo puede informar para tomar esa decisión, pero siempre va a necesitar una supervisión humana. ¿Qué ocurre? Que ahora nosotros nos estamos dando cuenta de que la inteligencia artificial, como va aprendiendo su propio algoritmo, cada vez va a dar recomendaciones que nos pueden presentar el espejismo de que pueden tomar decisiones por nosotros mismos. Pero, finalmente, nosotros nunca podemos dar por buena ningún tipo de decisión que no sea con una supervisión humana.

A día de hoy, ya hay herramientas de inteligencia artificial que se han integrado en el día a día de la atención médica

Los derechos de cuarta generación es otro de los temas que trata, entre los que destaca el consentimiento informado digital. ¿Cómo se puede garantizar el mismo?

Nosotros, actualmente, ofrecemos, y estamos obligados por ley, a mostrar un consentimiento informado a los pacientes en relación a lo que hacíamos, sin la participación de la inteligencia artificial. Pero, ahora, la inteligencia artificial, al mostrarnos escenarios nuevos y mucho más específicos y más avanzados, con lo que se llama algoritmo de caja negra, que el profesional realmente no sabe cómo ha conseguido esos resultados, pero entiende que esa tecnología es capaz de llegarlos a dar. Uno tiene que especificar al paciente qué parte de la decisión que ha tomado el profesional está en base a la inteligencia artificial y, de alguna forma, debe explicar esa caja negra, donde se han desarrollado esos resultados, y tienen que ser mucho más específicos los consentimientos informados. 

Precisamente, otro de los derechos que aborda es el de la explicabilidad de los algoritmos médicos. ¿Cómo se puede lograr que los pacientes tengan acceso a esas explicaciones comprensibles?

La nueva Ley Europea que tenemos que desarrollar específicamente obliga a que el modelo de explicabilidad al paciente deba ser a un nivel que, razonablemente, pueda entender el proceso. Que no sea tan complejo técnicamente que el paciente no sepa lo que se está haciendo. Se entiende que no hay que dar hasta el último detalle tecnológico, pero sí, sobre todo, del grado de afectación que existe con esa tecnología sobre la decisión del profesional con respecto al paciente. ¿Y eso cómo se va a hacer? Pues con modelos más tecnológicos en donde no solo haya un texto en el que uno pueda ver cuáles son los riesgos más frecuentes, por ejemplo, de una intervención quirúrgica, sino que el procedimiento del consentimiento nuevo informado va a tener que constar de imágenes, de vídeos, de modelos, audiovisuales que hagan entendible y hagan explicable el porqué se han tomado una decisión u otra.

La privacidad y el manejo de datos personales es una de las grandes preocupaciones, ¿considera que las regulaciones actuales son suficientes para proteger la información de los pacientes ante el avance de la IA?

Nosotros en Europa tenemos dos normas que son importantísimas, que es esta nueva Ley Europea y el Reglamento General de Protección de Datos de la Unión Europea, que son muy específicos. Pero, indudablemente, se está viendo que el avance de la tecnología en materia de inteligencia artificial va a requerir de nueva legislación para proteger precisamente estos derechos. Y estamos teniendo casos a diario donde hay amenazas claras a los derechos de los pacientes y a la intimidad de los pacientes, porque el tema de los datos va a tal velocidad que es muy difícil el realmente proteger el anonimato o la intimidad de muchos de nosotros.

Ha mencionado ya varias veces la reciente Ley Europea de Inteligencia Artificial, ¿cuáles son las claves de la misma y cómo va a impactar en la práctica clínica?

Europa es, de hecho, la única región en el mundo civilizado donde se ha desarrollado esta ley, que es de 2024. Y ahora se tienen que desarrollar en los países leyes específicas. ¿A qué va la ley fundamentalmente? Pues a clasificar la tecnología en función de los riesgos que pueden introducir en nuestras sociedades. Entonces, hay, por ejemplo, riesgos que la Ley Europea dice que son inaceptables y que, por tanto, no va a permitir que se desarrollen tecnologías en ese sentido. Por ejemplo, sistema de puntuación social o sistemas que modifican la realidad y la verdad de las cosas.  Luego hay obligaciones que recaen también en los proveedores, en los que desarrollan los sistemas de inteligencia de alto riesgo. En temas, por ejemplo, de salud pública y de sistema sanitario, pues cada vez va a haber más legislación a propósito de todo lo que tenga que ver con la detección, diagnóstico y prevención y tratamiento de enfermedades que utilicen la inteligencia artificial. Todos esos datos, tanto para desarrollar el algoritmo como para beneficiarse de él, van a ser unos datos de altísima sensibilidad que deben ser muy protegidos.

La inteligencia artificial a día de hoy es una amenaza para los pacientes, si las sociedades no somos capaces de regular el acceso a esa tecnología

¿El paciente malagueño se está beneficiando ya de la IA?

Ya se están beneficiando. A día de hoy, ya hay herramientas de inteligencia artificial que se han integrado en el día a día  de la atención médica. Hay, por ejemplo, chatbot que se utilizan en atención al paciente a la hora de generación de citas o revisiones. También hay ya tecnología que se utiliza en relación a a a la radiología. Por ejemplo, cuando se leen algún tipo de mamografía de programa de screening de cáncer de mama, ya se están leyendo con inteligencia artificial. Otro ejemplo, que es muy importante, es que se está utilizando inteligencia artificial para llegar al diagnóstico anatomopatológico de determinadas enfermedades. En el tema de la fertilidad también hay aplicaciones de inteligencia artificial que seleccionan los espermatozoides o los óvulos mejores para ser fecundados. O sea que, en el día a día, ya está habiendo inteligencia artificial. La inteligencia artificial aplicada a la medicina no es un tema de futuro, es un tema de presente.

¿Considera que la inteligencia artificial, sin la regulación adecuada, puede llegar a ser una amenaza para los derechos de los pacientes?

Sí, la inteligencia artificial a día de hoy es una amenaza para los pacientes, si las sociedades no somos capaces de regular el acceso a esa tecnología y, sobre todo, si no se respetan los derechos básicos que cada uno tiene que tener en una sociedad democrática y libre como las nuestras.

Para terminar, ¿a quién le recomendaría este libro?

Por supuesto, todos los profesionales que se dediquen a la sanidad deben leerlo. Además, el libro está escrito en un lenguaje divulgativo, no es un lenguaje súper específico y técnico, no hay que ser experto en matemáticas ni inteligencia artificial. Y, luego, todas las personas y profesionales que tienen interés en el desarrollo de la inteligencia artificial y quieren ser protagonistas un poco de que nuestro gobierno tome iniciativas reguladoras. Y luego todos los profesionales que están alrededor del tema sanitario, como abogados, agentes mediadores, profesores de universidad… Todo ese tipo de población que entiende que también ellos deben conocer este tema con cierto detalle para poder también alumbrar soluciones en materia de regulación. Porque Europa, por desgracia, no vamos a tener mucho protagonismo a la hora del desarrollo tecnológico de las cosas, porque nos llevan muchos años de adelanto, tanto Estados Unidos como China, pero nosotros sí tenemos la experiencia y, sobre todo, la obligación de saber regular esta tecnología. 

Suscríbete para seguir leyendo