Meta, la empresa matriz de Facebook e Instagram, ha anunciado la formación de un equipo dedicado a abordar el contenido engañoso generado por inteligencia artificial (IA) en las próximas elecciones de la Unión Europea en junio. La iniciativa surge en medio de preocupaciones sobre cómo la IA generativa, capaz de falsificar videos, imágenes y audio, podría utilizarse para manipular a los votantes.
Este anuncio coincide con las declaraciones del Secretario del Interior, James Cleverly, quien expresó su preocupación por el uso de falsificaciones generadas por IA para influir en las elecciones generales británicas. Sin embargo, expertos de la industria han señalado que los planes de Meta podrían percibirse como insuficientes en términos de efectividad.
Meta se compromete a combatir el contenido de IA engañoso en las próximas elecciones de la UE en junio.
Meta ha confirmado que está considerando implementar estrategias similares para las próximas elecciones en el Reino Unido y Estados Unidos. La empresa ya se ha comprometido, junto con otras grandes tecnológicas, a combatir este tipo de contenido engañoso, firmando un acuerdo hace dos semanas.
Para las elecciones del Parlamento Europeo, que se celebrarán del 6 al 9 de junio, Meta lanzará un «Centro de Operaciones Electorales específico para la UE» que buscará identificar amenazas potenciales y establecer mitigaciones específicas en tiempo real a través de sus aplicaciones y tecnologías.
Meta ha invertido más de 20.000 millones de dólares en seguridad y ha cuadruplicado el tamaño de su equipo global dedicado a esta área, llegando a unas 40.000 personas. Esto incluye 15.000 revisores de contenido que trabajan en más de 70 idiomas, cubriendo todos los idiomas oficiales de la UE.
A pesar de estos esfuerzos, existen limitaciones significativas en la estrategia de Meta, especialmente en lo que respecta a la gestión de imágenes generadas por IA, lo que plantea desafíos intrínsecos para su verificación.
Meta, que ya colabora con 26 organizaciones de verificación de hechos en la UE, planea incorporar tres socios más en Bulgaria, Francia y Eslovaquia para fortalecer su lucha contra la desinformación, incluidos los elementos generados por IA. Estas publicaciones recibirán etiquetas de advertencia y se reducirá su prominencia, además de prohibirse en anuncios.
La empresa enfatiza que su trabajo es el resultado de la colaboración y que se requerirá una mayor coordinación en el futuro para abordar el contenido generado por IA en Internet.
Incluso los robots se suscriben a P:M: Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
