Gloria Guerrero es directora de Iniciativa Latinoamericana por los Datos Abiertos (ILDA). Desde su entidad han colaborado en la elaboración del Índice Global en IA Responsable, una evaluación exhaustiva a las políticas de gobernanza en el terreno de la Inteligencia Artificial impulsada desde el Sur Global.
Guerrero nos atiende desde México por videollamada, y a lo largo de la conversación va desgranando la mirada de Latinoamérica sobre la regulación de la IA, los retos y desigualdades de estas tecnologías, pero sobre todo las posibilidades que tiene esta tecnología si se logra aplicar desde una perspectiva ética y de derechos humanos.
¿Es fácil acceder a los datos abiertos en Latinoamérica? ¿Cómo se gestiona esto?
Creo que es una pregunta difícil de responder, ya que depende mucho del contexto, el país, el momento y la temática. En ILDA llevamos alrededor de diez años trabajando en la agenda de gobierno abierto y datos abiertos, fomentando la apertura y el acceso a datos de calidad. Hemos observado distintas tendencias en los gobiernos respecto a la apertura de fronteras y, hace unos 5 o 6 años, hubo un ‘boom’ en el que casi todos los países tenían portales de datos abiertos.
Sin embargo, esa apertura ha sido cíclica, y hemos experimentado períodos en los que no hay tantos datos abiertos y los portales se cierran debido a la falta de presupuesto, recursos, capital humano y cambios políticos o de agenda en los países.
Por lo tanto, considero que, si bien es difícil dar una respuesta definitiva sobre si es fácil o no, lo que sí puedo afirmar es que hay una comunidad muy activa que facilita este trabajo. Esta comunidad empuja para que los gobiernos continúen abriendo datos y diseñen herramientas y plataformas para que el acceso a la información sea más sencillo.
Has comentado que no todos los países lo llevan igual. ¿Nos podrías rápidamente hacer un repaso? ¿Cuáles lo llevan peor? ¿Cuáles lo llevan mejor?
Ha habido diferentes momentos. En su día, México fue líder, pero luego hubo una pausa y la agenda cambió, pasando el liderazgo a otros países. Uruguay y Costa Rica, por ejemplo, han estado a la vanguardia en este ámbito. Recientemente, hemos visto un resurgimiento en Brasil, con mucha energía y esfuerzo por retomar esta agenda de apertura, organizando eventos y fortaleciendo comunidades. Incluso a finales de este 2024, tendremos nuestro evento de América Abierta en Brasilia.
Brasil será el país anfitrión y, junto con OGP, la OEA y este año también la OCDE, organizaremos el evento más grande de la región sobre datos abiertos y gobierno abierto. Brasil ha regresado con fuerza a esta agenda y está impulsándola de manera significativa.
¿Cómo habéis participado desde ILDA en el índice global de la IA responsable?
Esta iniciativa nace como una colaboración con el Global Center for Responsible AI, ubicado en Sudáfrica, que forma parte del Sur Global. Su objetivo es fomentar el uso, la implementación y, sobre todo, la legislación de inteligencia artificial desde una perspectiva de derechos humanos. Lo que se evaluó fue el estado de los países en cuanto a legislación, marcos regulatorios e iniciativas de política pública que promuevan el uso responsable de la inteligencia artificial.
Brasil ha conseguido la puntuación más alta con 44.2 puntos sobre un total de 100, superando a todos los demás países. Le siguen en el ranking Uruguay, Chile, Costa Rica y Colombia.
Además, se observó que existen muchas iniciativas que abordan los derechos humanos y el uso ético de datos, pero hay grandes diferencias en cuanto a infraestructura ¿Cuál es la infraestructura de datos que respalda y permite la implementación exitosa de la inteligencia artificial a nivel gubernamental o en otros sectores? Esto pone de manifiesto el tema de la infraestructura, donde existen grandes diferencias entre los países de América Latina.
Sigue existiendo una gran brecha en el acceso a Internet y la brecha digital es un problema urgente que debe ser abordado. Si bien, Internet ha permitido el desarrollo económico, la innovación, etc. Seguimos viendo que en la región no hemos solventado el tema del acceso.
Creo que este tema es muy importante porque, aunque Internet ha permitido el desarrollo económico, la innovación y el acceso a contenidos y educación, en la región aún no hemos solventado el problema del acceso. Esto sigue siendo crucial.
Con la inteligencia artificial, es urgente asegurarnos de que no se convierta en otra herramienta que incremente las desigualdades. El índice está muy enfocado a hacer esta reflexión. Es importante preguntarnos si estamos mitigando los riesgos y diseñando una inteligencia artificial que tenga en cuenta la perspectiva de género y cómo se están abordando las consecuencias negativas que puede tener para ciertas comunidades, especialmente en contextos donde los datos ya están sesgados por defecto.
Aunque el ecosistema de IA avanza rápidamente, este es el momento preciso para enfatizar la importancia de la diversidad lingüística, que es muy necesaria en el sector tecnológico y más aún con la inteligencia artificial.
Algo que consideramos sumamente importante es el papel que desempeñan la academia, la sociedad civil, los «think tanks» y las organizaciones independientes de investigación porque algo interesante del índice y sus resultados, tanto a nivel global como regional, es el rol crucial de las universidades y la sociedad civil respecto a los derechos humanos y derechos digitales, donde hay mayor participación, más proyectos y un mayor posicionamiento. Estas han conseguido obtener mayor score en el índice.
Esto evidencia la importancia de seguir impulsando, presionando y colaborando con los gobiernos y los estados. A menudo, los gobiernos enfrentan déficits en capacidades técnicas y capital humano, pero junto a la sociedad civil se pueden lograr grandes avances. Abogamos por una apertura gubernamental y una co-creación con organizaciones que llevan años dedicándose a estos temas, para desarrollar soluciones que hagan de la tecnología una herramienta para reducir desigualdades, en lugar de agravarlas.
Ahora que hablabas también de la desigualdad entre los diferentes idiomas, aunque me imagino que hablabas de lenguas más minoritarias aún, pero ¿Cómo se ve desde allí, desde América Latina, este empeño por gobiernos como el de España en hacer una IA pública?
Creo que esta iniciativa es interesante y, en este momento, hay varios proyectos piloto posibles. Aunque, ¿Cuál es el mejor modelo? No lo sabemos, pero sí es el momento de experimentar y probar, siempre con esquemas que protejan contra riesgos, preserven la privacidad y aseguren la protección de los datos.
Además, es muy valioso empezar a pensar en la tecnología desde una perspectiva de diversidad, tanto lingüística como de enfoques; no todo debe ser impulsado por el sector privado.
Los estados tienen un papel crucial en esta agenda, asignando recursos y alineando voluntades, ya que muchas veces se trata de voluntad política, en coordinación con agencias de cooperación. Sin embargo, creo que toca pensar que las soluciones no van a venir solamente de un sector, porque todos los sectores tienen intereses distintos y no podemos tampoco esperar que solamente el sector privado sea el que encabece la innovación.
El Estado tiene la responsabilidad de garantizar que estas tecnologías no solo generen ganancias, sino también el bien común, como muestra la iniciativa de España. Tenemos que pensar en nuestra región, con una diversidad lingüística enorme: todas las lenguas indígenas que tenemos en nuestra región, creo que también es un trabajo de involucrar a estas comunidades en los desarrollos.
¿Hay alguna iniciativa interesante?
En la región hay iniciativas interesantes que han trabajado en temas como las lenguas indígenas en internet y la digitalización de contenidos de ciertas comunidades. Sin embargo, algunas comunidades prefieren no digitalizar ciertos contenidos por su gran valor cultural y tienen sus propias reglas.
Es muy importante abrir procesos de participación e intercambio, donde los gobiernos, como entes reguladores, marquen el ritmo. Los gobiernos tienen más recursos y generan la estructura para que todos participemos, estableciendo reglas para orientar al sector privado.
También es necesario realizar consultas públicas verdaderamente representativas. No se trata solo de preguntar a la gente en las ciudades o a través de internet, sino de llegar a comunidades donde la conectividad no es permanente, no es de 24 horas al día. Estas comunidades deben tener voz y voto en estos procesos y una representación adecuada.
¿La falta de datos de estas comunidades lingüísticas que son minoritarias puede dificultar, por ejemplo, crear un modelo de lenguaje a partir de ellas? Porque si no existen datos tampoco se puede crear un ChatGPT que pueda hablar en estas lenguas.
Desde ILD siempre recordamos en los foros que no hay inteligencia artificial sin datos. Por esta razón, es fundamental que estos cuenten con un sistema de filtros para saber realmente cómo estamos entrenando a los sistemas de IA. Muchas veces se espera que la inteligencia artificial resuelva problemas o que nos dé las soluciones que no hemos podido encontrar como sería, por ejemplo los temas de desarrollo o el cambio climático… Sin embargo, también tenemos que entender que si los datos no son suficientes, estos sistemas, por más sofisticados que sean, también pueden tomar decisiones erróneas.
Los datos que estamos introduciendo van cargados con nuestros errores o con nuestros propios prejuicios, nuestras propias discriminaciones, nuestras propias omisiones. Sin duda, las tecnologías replicarán y amplificarán estos sesgos. Por ello, estos deben ser inclusivos, representativos y de calidad. Además, no debemos olvidar que existe un posicionamiento político cuando se decide qué datos son valiosos y cuáles no. Eso abre una discusión más profunda que no debemos dejar de lado.
Has hablado de una desigualdad que es la del acceso a este tipo de contenidos pero luego hay otra muy grande que plantea lo siguiente: ¿A dónde van nuestros datos cuando usamos estas herramientas?
Creo que este es un tema importante y desafiante. A menudo nos preguntamos cuál es la solución: ¿Deberíamos generar nuestras propias IA o nuestras propias plataformas desde el Sur Global o desde otros países? En América Latina, por ejemplo, hay muchos factores que han impedido que esto ocurra al mismo ritmo o de la misma manera que en Estados Unidos, donde ha sido muy exitoso, o en China, donde también generan sus propias plataformas, pero con un apoyo del Estado muy fuerte, con otras condiciones y también con otras limitantes.
Creo que debemos repensar estos modelos. No podemos diseñar la tecnología de manera binaria, como si solo existieran las opciones de Estados Unidos o China. Un ejemplo interesante es la Unión Europea, que ha puesto límites a las grandes empresas multinacionales. Estas empresas se comportan de manera diferente según el mercado en el que operan y tienden a cumplir más las reglas en países con legislaciones fuertes, a diferencia de aquellos donde estas leyes no existen.
Esto deja a la ciudadanía desprotegida como usuarios, obligados a aceptar términos y condiciones que nunca leemos y sin otras opciones. Por tanto, debemos plantear esta pregunta a los gobiernos: ¿Cómo o de qué manera van a poner recursos en esta agenda para generar esos ecosistemas de innovación, de desarrollo, de rehuso de información, acceso a datos y por otro lado también exigir que estas empresas, que muchas operan de manera global, tengan políticas claras apegadas a los derechos humanos?
Las multinacionales son casi hasta países virtuales y lo demuestran con reacciones como la de Apple que de repente dice: «Pues ahora la IA va a llegar más tarde a Europa porque nos vamos a tener que adaptar a la legislación».
Un factor importante es el fenómeno de la Unión Europea. Cuentan con una legislación que se aplica a un gran número de países, mientras que en América Latina no lo tenemos. Aquí, la legislación depende de cada país. Aunque existen espacios de colaboración, tratados de libre comercio, intercambios multilaterales y bloques regionales que trabajan juntos por proximidad, es más complicado porque no hay una legislación común.
Por ejemplo, no tenemos un GDPR para América Latina. Nos adaptamos a lo que Brasil, México o Uruguay tienen. Fomentamos muchos espacios de intercambio con distintos países, como en Naciones Unidas, pero al final no hay una ley o una aplicación que abarque toda la región. Esto representa un reto enorme y demuestra el poder de estas empresas, que a menudo es mayor que la presión que pueden ejercer ciertos países.
Hemos hablado mucho de los retos o de las dificultades que de alguna forma implica la IA, pero también se abre un mar de oportunidades. ¿A través de esta tecnología se podría incluso gestionar o fiscalizar mejor a los gobiernos o por ejemplo el uso que hacen de los recursos públicos o mejorar en la toma de decisiones?
Ninguna tecnología es neutral; todas tienen aspectos positivos y negativos. Cualquier tecnología que se utilice sin límites puede ser muy riesgosa, pero un uso consciente y responsable puede abrir enormes posibilidades. Y nosotras desde ILDA tuvimos un programa que se llamaba Empatía, que fomentaba el uso de inteligencia artificial para la resolución de problemas públicos. Trabajamos en distintos países con distintas organizaciones locales que lo que hacían era, por ejemplo, usar algún algoritmo, alguna plataforma que usaba IA para hacer un análisis de cantidades de datos sobre temáticas como cambio climático, identificar la calidad del aire, gestión de recursos, anticorrupción, cómo facilitar el acceso a información…
Un ejemplo exitoso es ‘Querido Diario’, un proyecto que traducía el lenguaje legal y técnico del diario federal a un lenguaje más accesible y coloquial, facilitando así la comprensión de nuevas legislaciones y cambios legales. Hoy en día, tenemos tecnologías que nos permiten estar mejor informados y entender diversos temas. Estas herramientas pueden facilitar muchas tareas y ayudar a resolver problemas de nuevas maneras, haciendo la información y el conocimiento más accesibles.
Creo que va a tocar también pensar en cómo logramos que esa tecnología nos beneficie y no nos afecte negativamente, pero yo creo que las posibilidades en temas de innovación, de creación de empresas, de ayuda a pequeñas y medianas empresas que son la gran mayoría de la región, abre también un campo muy interesante para ellos.
Es crucial pensar en cómo hacer que la tecnología nos beneficie en lugar de perjudicarnos. Las posibilidades en temas de innovación, creación de empresas y apoyo a pequeñas y medianas empresas, que son la mayoría en la región, son muy prometedoras. Es importante que los gobiernos reflexionen sobre lo que se necesita para que esta tecnología beneficie al mayor número de personas posible.
Toda revolución necesita sus cronistas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
