YouTube ha anunciado una serie de medidas para combatir la creciente amenaza de los deepfakes en su plataforma. Estas están diseñadas para proteger a los creadores de contenido de la manipulación no autorizada de sus vídeos mediante inteligencia artificial, un problema que ha ganado relevancia en los últimos años.
Herramientas de detección y etiquetado de deepfakes
El sistema de detección de deepfakes complementará la actual herramienta de Content ID de YouTube, diseñada para proteger los derechos de autor de los creadores. Content ID utiliza IA para detectar infracciones de derechos en los vídeos subidos a la plataforma. Uno de los principales objetivos de YouTube es fortalecer la confianza en su plataforma. Para lograrlo, ha presentado un sistema avanzado de detección de deepfakes que analiza los vídeos en busca de manipulaciones basadas en IA. Esta tecnología tiene como meta identificar los contenidos que han sido modificados para hacer parecer que alguien dijo o hizo algo que en realidad no sucedió. Al detectar este tipo de manipulaciones, YouTube etiquetará los vídeos, permitiendo a los usuarios estar al tanto de posibles alteraciones.
Así pues, esta herramienta ayudará a artistas reconocidos a evitar que imitaciones de sus voces creadas por IA se difundan en YouTube. Sin embargo, es incierto si será efectiva para músicos menos conocidos.
Sanciones a creadores que no informen sobre el uso de deepfakes
Por otra parte, YouTube también ha establecido nuevas políticas que exigen a los creadores notificar cuando un vídeo incluya deepfakes o contenido generado mediante IA. Aquellos que no cumplan con esta normativa podrían enfrentarse a penalizaciones, que van desde la desmonetización de sus vídeos hasta la eliminación de su contenido. Esta medida pretende frenar el uso irresponsable de la tecnología, evitando que los usuarios sean engañados por vídeos que no son auténticos.
La plataforma ha recalcado la importancia de diferenciar entre el uso legítimo de la tecnología, como las recreaciones artísticas o parodias, y los intentos de manipular o desinformar. En casos en los que se utilicen deepfakes para fines recreativos, YouTube permitirá su publicación, siempre y cuando los creadores adviertan de manera clara y visible que se ha empleado esta tecnología.
Protección de los derechos de los creadores
Otra función que YouTube está desarrollando se centra en proteger a los creadores de contenido cuyos vídeos son falsificados o modificados sin su consentimiento. Para ello, la plataforma ha implementado un sistema que permite a los creadores denunciar vídeos que hayan sido manipulados mediante deepfakes. De esta manera, YouTube buscará mitigar los efectos negativos de este tipo de contenido al brindar a los afectados un proceso sencillo para solicitar la eliminación de vídeos falsos.
Todas estas iniciativas forman parte de un esfuerzo más amplio de YouTube por mantenerse a la vanguardia en la lucha contra las amenazas digitales. La plataforma ha dejado claro que seguirá perfeccionando sus herramientas de detección y protección para garantizar un entorno seguro tanto para creadores como para usuarios.
Abre un paréntesis en tus rutinas. Suscríbetea nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
