Meta está avanzando en la detección y etiquetado de imágenes generadas por inteligencia artificial (IA) en Facebook, Instagram y Threads, en un esfuerzo por señalar a «personas y organizaciones que activamente quieren engañar a la gente». Las imágenes fotorrealistas creadas utilizando la herramienta de imágenes de IA de Meta ya están etiquetadas como generadas por IA, pero Nick Clegg, presidente de asuntos globales de la compañía, anunció en una publicación de blog que la empresa comenzará a etiquetar imágenes generadas por IA desarrolladas en servicios rivales.
Las imágenes de IA de Meta ya contienen metadatos y marcas de agua invisibles que pueden indicar a otras organizaciones que la imagen fue desarrollada por IA. La compañía está desarrollando herramientas para identificar estos tipos de marcadores cuando son utilizados por otras compañías, como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock en sus generadores de imágenes de IA, según Clegg.
Meta intensifica sus esfuerzos para etiquetar imágenes generadas por IA en sus plataformas, en un movimiento para aumentar la transparencia y combatir la desinformación.
«A medida que la diferencia entre el contenido humano y sintético se difumina, la gente quiere saber dónde está el límite», dijo Clegg. «A menudo, las personas se encuentran con contenido generado por IA por primera vez y nuestros usuarios nos han dicho que aprecian la transparencia en torno a esta nueva tecnología. Por lo tanto, es importante que ayudemos a las personas a saber cuándo el contenido fotorrealista que están viendo ha sido creado utilizando IA».
Clegg mencionó que la capacidad está en desarrollo y las etiquetas se aplicarán en todos los idiomas en los próximos meses. «Estamos adoptando este enfoque durante el próximo año, durante el cual se llevarán a cabo una serie de elecciones importantes en todo el mundo», dijo Clegg.
Clegg señaló que la medida se limita a imágenes y que las herramientas de IA que generan audio y video actualmente no incluyen estos marcadores. Sin embargo, la compañía permitirá que las personas divulguen y agreguen etiquetas a este contenido cuando se publique en línea.
La compañía también colocará una etiqueta más prominente en imágenes, videos o audios «creados o alterados digitalmente» que «crean un riesgo particularmente alto de engañar materialmente al público en un asunto de importancia».
Meta también está explorando tecnología para detectar automáticamente contenido generado por IA, incluso si el contenido no tiene los marcadores invisibles o si estos han sido eliminados. «Este trabajo es especialmente importante ya que es probable que este se convierta en un espacio cada vez más adversarial en los años venideros», dijo Clegg.
Alucina con Paréntesis. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
