En un caso sin precedentes que ha sacudido los cimientos de la comunidad educativa y tecnológica, un profesor de educación física y exdirector deportivo de la Escuela Secundaria Pikesville en Baltimore ha sido arrestado por utilizar tecnología de inteligencia artificial para clonar la voz del director del instituto y difundir grabaciones con comentarios racistas y antisemitas en redes sociales. Este incidente no solo pone de manifiesto el poder y los peligros del uso indebido de la tecnología de IA, sino que también abre un importante debate sobre la necesidad de regulaciones más estrictas en este campo emergente.
Dazhon Darien, de 31 años, fue detenido mientras intentaba abordar un vuelo hacia Houston en el aeropuerto BWI de Baltimore. Las autoridades descubrieron que llevaba un arma y que existía una orden de arresto en su contra. Darien está acusado de usar un servicio de clonación de voz mediante inteligencia artificial para crear una grabación falsa en la que se suponía que Eric Eiswert, el director de la escuela, hacía declaraciones discriminatorias.
La policía de Baltimore County y expertos en IA determinaron que la grabación era un montaje después de analizar varios elementos que apuntaban a la manipulación digital, incluyendo un tono plano, fondos sonoros inusualmente limpios y la ausencia de pausas naturales o sonidos respiratorios. La investigación reveló que Darien había accedido a herramientas de OpenAI y servicios de Microsoft Copilot utilizando los ordenadores de la escuela, lo que le permitió fabricar y distribuir la grabación incriminatoria.
Un exdirector deportivo utiliza inteligencia artificial para falsificar la voz del director de un instituto y difundir mensajes racistas, desatando un escándalo y un debate sobre la ética en la tecnología.
El móvil detrás de este acto fraudulento parece ser una represalia personal contra Eiswert, quien había iniciado una investigación sobre posibles malversaciones de fondos que involucraban a Darien. La grabación falsa tuvo repercusiones profundas, no solo afectando la reputación y la carrera de Eiswert, sino también causando una oleada de mensajes de odio en redes sociales y múltiples perturbaciones en el entorno escolar.
Este incidente ha encendido un debate sobre la ética del uso de la inteligencia artificial y la necesidad de establecer límites más claros para prevenir abusos. La facilidad con la que se pueden crear ‘deepfakes’ de voz y su potencial para causar daño plantea serios interrogantes sobre la regulación de estas tecnologías. Las autoridades y expertos en IA están llamando a una revisión de las leyes para adecuarlas a los desafíos que presenta la evolución tecnológica.
Mientras que la IA tiene el potencial de transformar la educación y otros sectores de maneras positivas, incidentes como este subrayan la urgencia de desarrollar estrategias efectivas para su implementación segura y ética. La comunidad educativa, junto con legisladores y tecnólogos, debe trabajar conjuntamente para crear un entorno donde la tecnología sirva para mejorar la sociedad y no para destruir la confianza y el tejido social.
Toda revolución necesita sus cronistas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
