Entre la innovación tecnológica y las preocupaciones éticas se difuminan cada vez más en las fronteras. TikTok se encuentra al borde de lanzar una revolucionaria función que permitiría clonar la voz de los usuarios utilizando inteligencia artificial. Este desarrollo, aunque impresionante, levanta serias interrogantes sobre la seguridad y la privacidad.
Un analista tecnológico ha destapado, mediante el análisis del código de la aplicación de TikTok, la existencia de una nueva función denominada «Biblioteca de voz de TikTok«. Esta característica permitiría a los usuarios crear una réplica digital de su voz a partir de un breve clip de audio de apenas 10 segundos. Según los hallazgos, esta voz clonada podría ser utilizada para narrar videos o para cualquier otro tipo de contenido audiovisual dentro de la plataforma.
Una nueva herramienta de TikTok podría permitir clonar voces en solo 10 segundos, generando tanto fascinación como preocupación por su potencial uso en la creación de deepfakes.
La inteligencia artificial de TikTok procesaría el audio suministrado por el usuario para generar una copia digital que pueda ser empleada en diversos contextos dentro de la aplicación. Esto supone un avance tecnológico notable, capaz de transformar radicalmente la forma en que se crean contenidos en la plataforma, ofreciendo una herramienta poderosa pero también potencialmente peligrosa si se usa inadecuadamente.
La principal preocupación con esta tecnología emergente es su potencial para ser utilizada en la creación de deepfakes, especialmente aquellos que podrían implicar suplantación de identidad o difusión de desinformación. La capacidad de imitar voces con alta precisión abre un abanico de posibilidades para actores malintencionados que deseen manipular o crear contenido engañoso.
A pesar de la innovación que representa, TikTok no ha ofrecido detalles concretos sobre cómo piensa manejar los riesgos asociados con esta tecnología. No existe aún un documento de términos y condiciones que aclare las medidas de seguridad, el manejo de datos y la privacidad de los usuarios afectados por esta nueva función.
La comunidad tecnológica y los usuarios de la plataforma han reaccionado con una mezcla de asombro y preocupación. Expertos en ética digital y derechos digitales están llamando a un debate más amplio sobre la regulación de este tipo de tecnologías para prevenir abusos y garantizar que su implementación no comprometa la integridad ni la privacidad de los usuarios.
El desarrollo y potencial lanzamiento de esta función de TikTok plantean cuestiones urgentes sobre la necesidad de regulaciones más estrictas en el ámbito de la inteligencia artificial aplicada a redes sociales. Las autoridades y organismos reguladores podrían necesitar intervenir para establecer límites claros y asegurar que todas las innovaciones tecnológicas se realicen de manera responsable y segura.
Toda revolución necesita sus cronistas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
