OpenAI, la compañía detrás de tecnologías populares como ChatGPT y DALL-E, ha anunciado planes y políticas para prevenir el uso de su tecnología en la difusión de desinformación y mentiras sobre elecciones. Con miles de millones de personas en algunas de las mayores democracias del mundo yendo a las urnas este año, OpenAI ha declarado que no permitirá que su tecnología se utilice para construir aplicaciones para campañas políticas y cabildeo, desalentar el voto o difundir desinformación sobre el proceso electoral.
La empresa también comenzará a implementar marcas de agua incrustadas en imágenes creadas con su generador de imágenes DALL-E para detectar fotografías generadas por IA. OpenAI está trabajando para anticipar y prevenir abusos relevantes, como ‘deepfakes‘ engañosos, operaciones de influencia a gran escala o chatbots que se hagan pasar por candidatos.
OpenAI toma medidas para evitar el uso indebido de su tecnología en campañas políticas, en un esfuerzo por frenar la desinformación y la manipulación electoral.
La preocupación por el uso indebido de chatbots e imágenes generadas por IA en la política ha ido en aumento. OpenAI busca comprender cómo sus herramientas podrían ser efectivas para la persuasión personalizada. Aunque las herramientas de IA generativa no tienen una comprensión de lo que es verdadero o falso, a menudo proporcionan texto similar al humano lleno de información útil, pero también pueden generar información falsa y presentarla como un hecho.
Snapshot of how we’re preparing for 2024’s worldwide elections:
• Working to prevent abuse, including misleading deepfakes
• Providing transparency on AI-generated content
• Improving access to authoritative voting informationhttps://t.co/qsysYy5l0L— OpenAI (@OpenAI) January 15, 2024
Las imágenes generadas por IA ya han aparecido en la web, incluyendo en búsquedas de Google, y se han utilizado en campañas electorales en EE. UU. OpenAI y otras empresas, como Google y Adobe, planean usar marcas de agua en imágenes generadas por sus herramientas de IA, aunque la tecnología aún no es a prueba de manipulaciones.
Este enfoque de OpenAI refleja un esfuerzo por parte de las empresas tecnológicas para abordar el auge de la IA y sus implicaciones en la desinformación electoral.
Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación. Esta es la de hoy.
