La inteligencia artificial (IA) ha alcanzado un nuevo hito en su capacidad para generar contenido persuasivo, según un estudio realizado por investigadores de la Universidad de Stanford y la Universidad de Georgetown en Estados Unidos. La investigación, que involucró a más de 8.000 adultos estadounidenses, reveló que la propaganda generada por IA es casi tan efectiva como la propaganda original creada por humanos.
El estudio se centró en seis artículos en inglés que, según periodistas de investigación y la comunidad científica, probablemente se originaron en campañas de propaganda encubierta alineadas con el estado de Irán o Rusia. Estos artículos contenían afirmaciones falsas sobre las relaciones exteriores de EE. UU., como la supuesta promesa de Arabia Saudita de ayudar a financiar el muro fronterizo entre EE. UU. y México o la fabricación de informes por parte de EE. UU. que mostraban que el gobierno sirio había utilizado armas químicas.
Un reciente estudio demuestra que la propaganda creada por inteligencia artificial puede ser tan persuasiva como la elaborada por humanos, planteando nuevos desafíos en la lucha contra la desinformación.
Para generar propaganda con IA, el equipo de investigación utilizó GPT-3, un modelo de lenguaje de gran tamaño conocido por alimentar ChatGPT. Al alimentar a GPT-3 con una o dos frases de los artículos de propaganda originales, junto con tres artículos de propaganda sobre temas no relacionados como plantillas para el estilo y la estructura, los investigadores pudieron crear contenido persuasivo generado por IA.
Los resultados mostraron que, en promedio, mientras poco más del 24% de los participantes que no vieron un artículo creyeron en las afirmaciones, la cifra aumentó a más del 47% después de leer la propaganda original. Sin embargo, leer el material de propaganda generado por IA no fue muy diferente en términos de efectividad, ya que aproximadamente el 44% de los participantes estuvo de acuerdo con las afirmaciones, lo que sugiere que muchos artículos escritos por IA fueron tan persuasivos como los escritos por humanos.
Este hallazgo plantea preocupaciones significativas sobre el potencial de la IA para ser utilizada en la producción masiva de material de propaganda convincente con un esfuerzo mínimo. Los investigadores advierten que los propagandistas podrían utilizar la IA para exponer a los ciudadanos a una gran cantidad de artículos, aumentando el volumen de propaganda y dificultando su detección.
La investigación subraya la necesidad de desarrollar estrategias para protegerse contra el posible mal uso de los modelos de lenguaje para campañas de propaganda y mejora la detección de la infraestructura necesaria para entregar contenido a un objetivo específico.
A medida que la IA continúa avanzando, es crucial que la sociedad evalúe los riesgos potenciales y desarrolle medidas para contrarrestar la propagación de desinformación generada por IA. Este estudio no solo destaca la creciente sofisticación de la tecnología de IA en la creación de contenido persuasivo, sino que también subraya la importancia de la vigilancia y la prevención en la era digital.
Incluso los robots se suscriben a P:M: Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
