Un informe revela fallos en la moderación de contenido en plena campaña electoral
Las recientes elecciones al parlamento federal alemán, celebradas el 23 de febrero de 2025, han puesto en evidencia una conexión entre las redes sociales y la difusión de campañas de odio. Un informe elaborado por la organización sin ánimo de lucro Eko revela que Meta y X aprobaron anuncios con contenido violento y discriminatorio dirigidos a las comunidades musulmanas y judías en Alemania, apenas unos días antes de las elecciones.
Publicidad con mensajes violentos aprobada en cuestión de horas
Los investigadores de Eko han sometido a prueba los sistemas de revisión de anuncios de ambas plataformas, enviando contenido que incluía llamados explícitos a la violencia, imágenes generadas por IA mostrando ataques a mezquitas y sinagogas, y mensajes que incitaban a la discriminación de inmigrantes.
X ha aprobado los diez anuncios presentados, mientras que Meta ha permitido la publicación de cinco de ellos, rechazando los otros cinco por considerarlos “políticamente sensibles”.
Esto ponen en duda la eficacia de los mecanismos de moderación de contenido de las plataformas, en un contexto electoral donde la desinformación y los discursos de odio pueden influir en la opinión pública. Entre los anuncios aprobados había mensajes que comparaban a refugiados musulmanes con «virus» o «roedores», y llamados a la quema de sinagogas para frenar una supuesta «agenda globalista judía». Estas narrativas, históricamente usadas en propaganda de odio, demuestran fallos graves en los filtros de contenido de Meta y X.
Elon Musk, X y el ascenso de la extrema derecha
La influencia de figuras como Elon Musk, propietario de X, ha añadido una capa más de controversia. Musk ha manifestado abiertamente su apoyo al partido de extrema derecha Alternativa para Alemania (AfD), llamando a los votantes a respaldarlo para «salvar Alemania». También, organizó un livestream con la líder del AfD, Alice Weidel, en su propia plataforma, lo que pudo haber amplificado su discurso.
Estos eventos han coincidido con un ascenso de AfD, que en las elecciones del 23 de febrero se ha consolidado como la segunda fuerza política con un 20,9% de los votos, duplicando su porcentaje respecto a las elecciones anteriores. Un informe de Global Witness señala que los algoritmos de X y TikTok han favorecido la visibilidad de contenido del AfD frente al de otros partidos, sugiriendo un sesgo en la promoción de su discurso.
Only the AfD can save Germany https://t.co/Afu0ea1Fvt
— Elon Musk (@elonmusk) December 20, 2024
El Reglamento de Servicios Digitales de la UE en entredicho
Este escándalo cobra aún más importancia en el contexto del Reglamento de Servicios Digitales (DSA) de la Unión Europea, vigente desde febrero de 2024. La normativa obliga a las grandes plataformas digitales a luchar contra la desinformación y los discursos de odio, especialmente en períodos electorales.
Pero, los resultados del estudio de Eko y la investigación de Global Witness sugieren que ni Meta ni X están cumpliendo con estas regulaciones, lo que podría llevar a sanciones. La Comisión Europea ya ha abierto investigaciones formales contra ambas empresas por la posible violación del DSA, con multas que podrían alcanzar hasta el 6% de su facturación global anual.
Urgencia de reforzar la regulación de plataformas digitales
La aprobación de anuncios con contenido de odio y la intervención de actores influyentes en el proceso electoral alemán refuerzan la urgencia de mejorar los mecanismos de supervisión y regulación de las plataformas digitales.
Proteger la integridad de los procesos democráticos en un contexto donde la desinformación y la radicalización en redes están en aumento requiere una acción firme de los reguladores, la sociedad civil y las propias empresas tecnológicas. La Unión Europea debe ahora garantizar que su legislación digital sea aplicada con rigor, evitando que el discurso del odio y la manipulación electoral encuentren en las redes un canal sin restricciones.
Foto de Element5 Digital en Unsplash
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
