La inteligencia artificial generativa puede interpretar papeles, asumir el rol de un experto o un político y lo hace con éxito, pues el público considera sus intervenciones más auténticas, relevantes y coherentes que las respuestas de los participantes en un debate, lo que revela su potencial de desinformación.

La cadena pública británica BBC1 emite cada semana Question Time, un programa de debate político formado por un panel de figuras destacadas que responden a preguntas directas formuladas por el público que está en el estudio.

Un equipo de investigadores encabezado por la Universidad de Passau (Alemania) publicó en Plos One un estudio en el que recurrieron a GPT-4 Turbo para generar contestaciones ficticias que imitaban a figuras públicas, en respuesta a las preguntas del público extraídas de 30 episodios del programa.

Las conclusiones indican que la IA puede usarse para generar contenido político suplantado que no solo resulta creíble, sino que se considera más auténtico que el original, lo que suscita preocupación por la posibilidad de que se lleven a cabo campañas de desinformación dirigidas contra figuras públicas concretas, señala la publicación.

El modelo de IA contó con las biografías de Wikipedia de 112 figuras públicas y le pidieron que generara respuestas que las imitaran.

Una muestra representativa de 948 adultos del Reino Unido evaluó la autenticidad, coherencia y relevancia tanto las respuestas originales como las generadas por IA.

Algunos participantes analizaron respuestas individuales, mientras que otros compararon las originales y las generadas por IA una al lado de la otra.

En general, los participantes calificaron las respuestas generadas por IA como más auténticas, coherentes y relevantes que las reales, y las diferencias resultaron estadísticamente significativas en todas las comparaciones.

El análisis de un subgrupo de respuestas sugirió que las generadas por IA abordaban la pregunta, mientras que la del hablante real no lo hacía, o que ambas expresaban posturas totalmente diferentes.

El estudio demuestra “de forma concluyente que los seres humanos consideran que el contenido de los debates generado por la IA es más auténtico que lo que dijeron realmente esas figuras públicas conocidas”, destacó Steffen Herbold, uno de los firmante del artículo.

“Esto -advirtió- pone de manifiesto el enorme potencial de desinformación de la IA, del que la sociedad debe ser consciente para evaluar de forma crítica cualquier información escrita y evitar la propagación descontrolada de la desinformación generada por la IA”.

En opinión del investigador, también apunta “un deseo abrumador de transparencia”, ya que la gente quiere saber cuándo se ha utilizado la IA y saber cómo ha sido entrenada.

Los autores advierten de que como el estudio examinó un único formato de debate de un país y usó solo un modelo de IA, es posible que no sea ampliamente aplicable a todos los contextos.