«Es necesario un código ético y de conducta que impida un uso inadecuado de la Inteligencia Artificial Generativa»

Los influencers ya son un nuevo objetivo de la inteligencia artificial. Expertos de la Universidad de Málaga, en concreto de la Facultad de Comercio y Gestión, han colaborado con la firma de publicidad y marketing ‘Be a Lion’ de ViaTalents, que diseña y crea metahumanos generados y entrenados por la IA, para desarrollar un código ético centrado en el comportamiento de estos influencers virtuales

Este proyecto, impulsado mediante un contrato OTRI, está centrado en establecer directrices de comportamiento y aborda los límites éticos, los valores de moralidad y la afectación.

Asimismo, se encarga de analizar el marco normativo y la nueva regulación europea en la Ley de Inteligencia Artificial, para garantizar que la IA sea segura y al mismo tiempo impulse la innovación.

El comité de expertos, liderado desde la Facultad de Comercio y Gestión, está dirigido por los profesores Carmina Jambrino, del Área de Comercialización e Investigación de Mercados, y Francisco Triguero, del Departamento de Lenguaje y Ciencias de la Computación. Participarán en el equipo también las profesoras Carmiña de Vivero, del Departamento de Derecho Mercantil, Patricia Iglesias y Elena Fernández, con perfil de Marketing, y Álvaro Díaz.

Para la Facultad de Comercio y Gestión, donde se imparten titulaciones de grado y posgrado relacionadas con el marketing digital, «estar cerca del entorno empresarial es fundamental». Por ello decidieron participar en esta propuesta para desarrollar este proyecto, que consideran «innovador» y «muy relevante» para la Universidad «pues profundiza en el estudio de la Inteligencia Artificial generativa sobre la que se detecta preocupación social», explica Carmina Jambrino.

Sobre el objeto concreto del proyecto, la profesora subraya que «la ética constituye una parte esencial en todas las disciplinas profesionales, pero muy especialmente en los campos del marketing y la comunicación», por ello, promover una reflexión ética en el ámbito de los influencers creados con IA generativa constituye el objetivo general de este trabajo.

Definir los límites éticos

Tras firmar el acuerdo con la Agencia ‘Be a Lion’ para su unidad de innovación y talento VIA Talents, los expertos de la UMA se encuentran «abordando e identificando los límites éticos y consensuando los valores y cuestiones atinentes a la moralidad y su afectación como consecuencia del uso de la Inteligencia Artificial, especialmente la generativa».

Asimismo, están «analizando el marco normativo y muy especialmente la nueva regulación europea conocida como Ley de Inteligencia Artificial, que, en líneas generales, trata de garantizar que la Inteligencia Artificial en la Unión Europea sea segura y al mismo tiempo impulse la innovación».

Jambrino destaca que, «sin duda», esto «afectará al contexto en el que se mueven los influencers metahumanos».

El desarrollo de una metodología de elaboración de un código ético constituye el paso previo a su implementación. Un proceso para el que estiman una duración de aproximadamente dos meses.

El comité de expertos creará «un código de conducta ético y con valores» que guiarán el comportamiento y personalidad de Alba Renai, la primera influencer metahumana de la familia VIA. Este personaje será entrenado para enfocar contenidos e interacciones con sus seguidores de manera positiva.

Este acuerdo tiene como finalidad divulgar la importancia de hacer un uso responsable y ético de la inteligencia artificial, con la intención de proteger la privacidad de los usuarios y fomentar la transparencia. Además, busca identificar tendencias normativas para el control legal de la Inteligencia Artificial Generativa (IAG) y establecer una estrategia integral de entrenamiento responsable, tanto social como legal.

Actualmente, surge en numerosas ocasiones el interrogante sobre si el metahumano puede llegar a imponerse en redes y suplir a los influencer humanos. Según la opinión de estos investigadores de la Universidad de Málaga, «ambos deberían convivir, aunque sin duda competirán dependiendo del target al que se dirijan».

En esta cuestión, «es indiscutible que el metahumano cuenta con cierta ventaja como la omnipresencia, la ausencia de riesgos físicos o las capacidades de acceso y manejo de información. No obstante, en esta fase tan temprana del proyecto, se detectan ciertas resistencias de adaptación por parte de algunos sectores. La generación Z es la más abierta a la acogida de estos nuevos modelos», asegura la profesora Carmina Jambrino.

Por otro lado, existe un debate en cuanto a la credibilidad de los metahumanos, debido a la desconfianza que generan aún los trabajos realizados por inteligencia artificial. Según esta experta de la UMA, esta cuestión se debe más bien «a las fuentes consultadas que a la falta de veracidad contrastada de la información a la que se accede en la nube».

Otra controversia es la empatía que pueda tenerse con un humano frente a la que se llegue a desarrollar con un metahumano. Los investigadores defienden que la afinidad y empatía por parte de los metahumanos con los usuarios «se irá desarrollando por el propio contenido generado, y es en este aspecto, donde surge la necesidad de un código ético y de conducta que impida un uso inadecuado de la IAG».

«En el caso de estudio de la influencer Alba Renai su ‘dolor’ es que no puede experimentar los sentimientos como los humanos y por eso busca «sus primeras veces» e intenta vivir todas las experiencias», destaca Jambrino ante este problema de la inteligencia artificial generativa, convertido en el compromiso con sus seguidores.

Este tipo de avatares digitales ha consolidado, en los últimos años, distintas líneas de investigación en torno a la ética derivada de esta nueva realidad. Están llegando a las plataformas y redes sociales como una nueva realidad de internet y en numerosas ocasiones son utilizados para campañas publicitarias.

Buscan proyectar un estilo de vida similar al de los influencer humanos, por lo que se plantean la búsqueda de colaboraciones con algunas marcas más destacadas a nivel mundial.