Los actores desinformadores están utilizando herramientas de IA para confundir a los usuarios en redes sociales. Con el desarrollo de la IA generativa, la capacidad de algunas aplicaciones para clonar voces y suplantar identidades en cuestión de segundos representa una de las mayores amenazas en la actualidad. Estas tecnologías permiten a los criminales llevar a cabo estafas más convincentes y difíciles de detectar, poniendo en riesgo la privacidad y la seguridad financiera de las personas. Pero también se usa en la arena política para influir en los resultados electorales o movilizar a los ciudadanos en contra de las instituciones democráticas.
La desconfianza crece entre el público
Los deepfakes han sembrado la duda sobre la veracidad de cualquier contenido visual. Estos videos y fotos manipulados pueden hacer que personas parezcan decir o hacer cosas que nunca ocurrieron, complicando diferenciar qué es real y qué no lo es, facilitando la propagación de desinformación. Parece que la IA no solo ofrece un abanico de posibilidades para mejorar nuestro día a día, sino que se está utilizando para usos ilícitos que podrían en algún caso considerarse actividades delictivas. Por otro lado, la creciente desconfianza hacia el contenido visual auténtico podría tener implicaciones profundas en la forma en que consumimos y verificamos la información.
Para mitigar estos riesgos, se están desarrollando tecnologías más avanzadas de detección de deepfakes y establecer así nuevas regulaciones que limiten el uso indebido. Además, redes sociales como Instagram o Facebook están comenzando a implementar nuevos sistemas para informar a los usuarios de la procedencia de la información. Aunque, por el momento, han demostrado see insuficientes.
Elon Musk y la criptomoneda fake
En mayo de 2023, apareció un vídeo de Elon Musk promocionando una criptomoneda fraudulenta que obviamente se trataba de una noticia falsa. El video, que mostraba a Musk hablando sobre los beneficios de invertir en la criptomoneda, se volvió viral y llevó a muchos a creer en su autenticidad, resultando en pérdidas significativas para algunos inversores antes de que se descubriera que era totalmente falso.
Afortunadamente, ya existen algunas plataformas que se dedican a verificar las noticias, podemos consultarlas para saber si la información que nos ha llegado mediante alguna red social es real o es se trata de un deepfake. Estas son algunas opciones:
- Deepware Scanner: Una herramienta diseñada para analizar videos y detectar si han sido manipulados mediante deepfake.
- Is it AI: Permite detectar imágenes generadas con IA.
Toda revolución necesita sus cronistas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
