Esta semana leí que un adolescente de 14 años residente en Orlando, que había desarrollado un vínculo romántico y dependiente de un chatbot, se suicidó el pasado mes de febrero. Su familia ahora había demandado a la empresa al entender que la adicción al chatbot fue determinante en su decisión.
Leer la noticia me ha reiterado en el hecho de que la inteligencia artificial está transformando nuestra cotidianeidad dejando obsoleta nuestra preparación, pautas de conducta y las formas de discernir entre realidad y ficción. Lo logra, porque avanza más rápido que la capacidad humana de adaptación generando contenido hiperrealista y rompiendo nuestros patrones tradicionales de conducta y evaluación crítica al introducir dinámicas a menudo sorprendentes y poco transparentes.
Estamos caminando hacia un futuro incierto en el que las IA obligan a cuestionarse las prácticas habituales. Un entorno en el cual únicamente saber tomar decisiones complejas, con visión de futuro y con la información disponible, es lo que diferencia la inteligencia humana de la inteligencia artificial. La pregunta que me hago es si, tanto a nivel individual como colectivo, nos estamos preparando para ello, teniendo especial cuidado con los colectivos en situación de vulnerabilidad, tales como son los niños, adolescentes, personas con baja formación, personas mayores y personas con diversidad funcional, entendiendo que debemos afrontar desafíos éticos que deben ser abordados de manera proactiva para garantizar que los beneficios de la IA sean inclusivos y respeten los derechos fundamentales de todas las personas, en especial los asociados a la privacidad, la igualdad y la no discriminación. Estos aspectos hay que encuadrarlos en que los algoritmos no son neutrales, al estar moldeados por los datos con los que se entrenan y los intereses y objetivos que persiguen y las organizaciones que los diseñan. A título de ejemplo, la red social X (antes twitter), ya no es la plaza pública donde podías informarte en tiempo real: la actual propiedad ha cambiado el algoritmo para potenciar la divulgación de sus ideas.
Las IA pueden perpetuar y amplificar las desigualdades, por ello es esencial adoptar medidas que eviten los sesgos discriminatorios relacionados con género, etnicidad, o la condición socioeconómica. Lograrlo obliga no sólo a tener mucho cuidado con el origen y contenido de los datos, sino también en articular equipos de desarrollo con diversidad cultural para detectarlos y mitigar estos sesgos desde la fase de diseño. Ahora bien, no será posible lograrlo sin la participación activa, asumiendo un rol central, del sector público.
«Los países de la UE deben implementar medidas proactivas para el desarrollo de sistemas de IA propios»
De un análisis de la realidad y sus tendencias de futuro se concluye la necesidad de que los países de la UE, de forma conjunta, implanten medidas proactivas para el desarrollo de sistemas de IA propios que estén impregnados de sus valores constitucionales, establecidos en el Tratado de la Unión Europea: respeto por la dignidad humana; libertad de pensamiento, expresión, asociación y movimiento; Democracia; derecho a ser tratados de forma equitativa, sin discriminación por género, raza, origen, religión, edad u orientación sexual; y con un escrupuloso respeto por los derechos humanos individuales y colectivos.
Unos desarrollos de IA que, además, asuman que la protección de los datos deber ser un derecho reforzado en la era de la IA, así como la transparencia y explicabilidad para conocer cómo se toman decisiones automatizadas y puedan impugnarlas si afectan sus derechos.
La implementación de una IA ética y no discriminatoria impregnada de los valores de la UE, debe encuadrarse en que una herramienta tan transformadora y de capacidades aún sin identificar, sus limites no puede estar definidos únicamente por el sector privado americano o por China. Por ello es requerido un esfuerzo colectivo de la UE, que involucre al sector público, privado, a la academia y la sociedad civil, para que la inteligencia artificial sea una herramienta para mejorar la competitividad, el desarrollo sostenible y la vida de todas las personas sin excepciones.
