Character AI, una startup que permite a los usuarios interactuar con personajes de IA a través de llamadas y mensajes de texto, ha añadido una nueva función de control parental llamada ‘Parental Insights’
Esta medida de seguridad llega a Character AI después de que la startup fuera acusada de estar implicada en algunos suicidios en adolescentes a finales del año pasado, tras la muerte de un joven de 14 años, el cual había establecido una relación íntima con un chatbot basado en el personaje de «Juego de Tronos» Daenerys Targaryen, al cual le menciono su deseo de quitarse la vida.
La herramienta ‘Parental Insights’, proporcionará un resumen semanal de la actividad de sus hijos en la plataforma a los padres o tutores legales. Este informe que recibirán los padres a través de su correo electrónico detalla el tiempo promedio que el adolescente pasa al día interactuando con los personajes Character AI, ya sea a través de la aplicación o de la web. Este informe, también especifica los personajes con los que más ha interactuado y el tiempo que le ha dedicado a cada uno de estos. Es importante mencionar, que tan solo se proporcionan datos estadísticos sobre el uso de la aplicación por parte del adolescente y en ningún caso se comparte la conversación específica del usuario con los personajes de IA, manteniendo así la privacidad de los jóvenes al usar la aplicación.
¿Como activar esta función?
Para activar esta función, los jóvenes tienen que ir a la configuración de su cuenta para introducir el correo electrónico de sus padres o tutores. Una vez, los adultos responsables acepten esta invitación, empezarán a recibir la actualización semanal a través de su correo electrónico. Si el adolescente en algún momento quiere o intenta revocar este control parental, lo podrá hacer desde su cuenta, pero necesitará la confirmación por parte del adulto para completar el proceso.
A partir de las diferentes demandas que Character AI ha recibido por parte de algunas familias, la startup sigue implementando medidas para mejorar la seguridad de sus usuarios, sobre todo aquellos que son adolescentes. Recientemente, también han añadido un modelo o personaje específico para menores de 18 años. Sin embargo, las medidas de seguridad instauradas por parte de la startup parecen no ser suficientes para algunos expertos, estos consideran que podrían no ser suficientes para abordar los riesgos que conlleva el uso de chatbots por parte de adolescentes. Señalan que, aunque las herramientas de supervisión parental ofrecen cierta transparencia, es esencial que los padres mantengan un diálogo abierto y continuo con sus hijos sobre el uso de estas tecnologías y los posibles peligros que conllevan.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
