El Reglamento de IA de la Unión Europea obligará a los desarrolladores a poner marcas de agua al contenido generado con IA. De momento, OpenAI lo está implementando solo en el plan gratuito.
OpenAI está experimentando con la incorporación de marcas de agua en las imágenes creadas mediante su modelo de generación de imágenes en ChatGPT, específicamente en cuentas gratuitas. Este movimiento busca abordar las preocupaciones sobre la autenticidad y el origen del contenido generado por inteligencia artificial.
El investigador de IA Tibor Blaho descubrió referencias a una función denominada «image-gen-watermark-for-free» en el código de la aplicación beta de ChatGPT para Android, lo que sugiere que OpenAI planea implementar marcas de agua en las imágenes generadas por usuarios sin suscripción. Por otro lado, los suscriptores de ChatGPT Plus podrían guardar imágenes sin estas marcas. Sin embargo, OpenAI no ha confirmado oficialmente esta función ni su alcance definitivo.
La popularidad del modelo de generación de imágenes de OpenAI ha crecido notablemente, permitiendo a los usuarios crear imágenes en diversos estilos, como el característico de Studio Ghibli. Esta tendencia ha llevado a la empresa a considerar medidas que garanticen la identificación clara de los contenidos generados por IA.
De obligación en Europa
Atendiendo al Reglamento de IA de la Unión Europea, los contenidos generados por IA deberán ir correctamente identificados con una marca de agua, que puede estar en el código o ser visible. De hecho, ya existen algunos sistemas para incluir este tipo de marcas también en el texto generado, aunque esto genera muchas dudas a los proveedores de estas tecnologías por el rechazo que podría generar en sus usuarios, que algunas veces quieren ocultar que han usado la IA para redactar.
La implementación de marcas de agua en contenidos generados por IA no es nueva. Empresas como OpenAI han explorado previamente técnicas similares para identificar contenido creado artificialmente. Sin embargo, la eficacia de estas marcas ha sido cuestionada, ya que pueden ser eliminadas o alteradas, lo que limita su utilidad en la prevención de desinformación. En cambio, si se integran en el código, serían más difíciles de alterar o quitar.
Además, OpenAI ha anunciado planes para desarrollar una API de su herramienta de generación de imágenes, lo que permitiría a desarrolladores externos integrar esta funcionalidad en sus propias aplicaciones. No está claro si las marcas de agua se aplicarán también a las imágenes generadas a través de esta API. De momento, estas se probarán en el plan gratuito.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
