El uso de bots de IA se ha aplicado para algo alarmante: millones de usuarios en Telegram están generando imágenes explícitas no consensuadas. Un análisis de ‘WIRED‘ ha descubierto la existencia de al menos 50 bots que permiten “desnudar” imágenes con solo unos clics, que alcanzan en conjunto más de 4 millones de usuarios al mes. Algunos de los bots han superado los 400,000 usuarios cada uno.
La facilidad de acceso a estos bots ha hecho que su uso crezca de manera descontrolada, empeorando aún más el problema. No hay filtros, no hay barreras y cualquiera puede utilizarlos.
El auge de los deepfakes no consensuales no nos viene de nuevo, las imágenes manipuladas han sido utilizadas durante años para humillar, manipular y acosar a miles de mujeres y niñas. Los avances en la IA, como consecuencia, nos han llevado a una situación macabra, donde la tecnología mejora tanto que ahora es casi imposible distinguir lo que es real y lo que es falso.
El crecimiento descontrolado de los bots de desnudos falsos
Los bots funcionan de manera sencilla (demasiado): los usuarios suben una foto de la persona a la que quieren manipular y en segundos el bot genera una imagen falsa en la que la persona aparece desnuda o en situaciones sexuales explícitas. El acceso es tan rápido y simple, que ha facilitado que se popularice. Y aunque Telegram eliminó 75 bots y canales después de la investigación, siguen apareciendo nuevos bots. Es muy difícil frenar esta práctica.
Los bots suelen estar enlazados a canales de Telegram con cientos de miles de suscriptores, donde se anuncian nuevas funciones, promociones y descuentos en los tokens que los usuarios necesitan para acceder a imágenes de más calidad. Pero cuando un bot es eliminado, los mismos desarrolladores crean otro casi de inmediato.
La respuesta tardía de plataformas y reguladores
La respuesta de las plataformas y de los gobiernos ante el daño de los deepfakes ha sido lenta e insuficiente. En Estados Unidos, 23 estados han aprobado leyes contra los deepfakes explícitos, pero en la mayoría del mundo no existen unas regulaciones claras.
Telegram también ha sido históricamente criticado por su falta de control sobre el contenido que circula en la plataforma. La aplicación ha servido como refugio para ciberdelincuentes, grupos extremistas y estafadores, y la poca moderación ha permitido que estos bots sigan existiendo. Aunque eliminó algunos de los bots, la rapidez con la que aparecen nuevos demuestra que no toma medidas para frenar el problema.
El impacto en las víctimas
Las imágenes pueden tener consecuencias devastadoras para las víctimas. Emma Pickering, que es experta en abuso digital de la organización Refuge, advierte que estos deepfakes pueden causar daño psicológico severo, llevan a la ansiedad, la vergüenza y el miedo. La facilidad con la que estas imágenes pueden difundirse en redes sociales y en internet empeora el problema: las víctimas pierden el control sobre su propia imagen y lo que se hace con ella.
Hay una falta de regulación que pone en cuestión la necesidad de una respuesta tajante. Organizaciones de derechos digitales han insistido en que la responsabilidad debería recaer en las plataformas y no en las víctimas, que muchas veces tienen que luchar solas para evitar que su imagen sea utilizada de forma abusiva. Sin una regulación más estricta y sin medidas por parte de Telegram, la expansión de estos bots seguirá afectando a miles de personas en el mundo.
Si has sido víctima de acoso virtual o alguna situación similar llama a 016 o escribe a 016-online@igualdad.gob.es.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
