Eric Schmidt rechazó por completo la idea de un “Proyecto Manhattan para las AGI” de una envergadura similar al de la creación de la bomba atómica para el desarrollo de la inteligencia artificial en Estados Unidos.
Eric Schmidt, ex CEO de Google, levantó las alarmas respecto al plan de desarrollo de la IA. En un documento titulado “Superintelligence Strategy” (“Estrategia de Superinteligencia”), aseguró que Estados Unidos no debería seguir un camino como el del Proyecto Manhattan para el desarrollo de las AGI, inteligencias artificiales con capacidades “sobrehumanas”.
Además del exdirigente de Google, fue firmado por el CEO de Scale AI, Alexandr Wang, y el director del Centro para la Seguridad de la IA, Dan Hendricks. El documento asegura que una estrategia de apropiación exclusiva de los sistemas de inteligencia artificial podría provocar un ciberataque de alta magnitud desde China.
“Lo que comienza como un impulso a favor de una superarma y un control global corre el riesgo de provocar contramedidas hostiles y una escalada de las tensiones, socavando así la propia estabilidad que la estrategia pretende asegurar” indica el ex dirigigente de Google y sus coautores.
“Superintelligence Strategy” se publica meses después de la propuesta de financiar la innovación en IA en una comisión del Congreso de Estados Unidos. Esta apuesta por la inteligencia artificial sería “al estilo del Proyecto Manhattan”, el programa estadounidense para el desarrollo de la bomba atómica.
“Mutual Assured AI Malfunction”
En el documento, Schmidt y compañía aseguran que la carrera por el dominio de la IA puede generar conflictos entre potencias y aumentar el riesgo de pérdida de control: “Si, en una apresurada puja por la superioridad, un Estado pierde inadvertidamente el control de su IA, pone en peligro la seguridad de todos los Estados” indica.
Además, asegura que la ambición de los Estados puede llegar a desencadenar una situación bélica a nivel global: “Al igual que los rivales nucleares llegaron a la conclusión de que atacar primero podría desencadenar su propia destrucción, los Estados que buscan un monopolio de IA arriesgándose a perder el control deben asumir que los competidores mutilarán su proyecto antes de que esté a punto de completarse”.
Para evitar esto, introducen el concepto de Mutual Assured AI Malfunction (MAIM), un sistema de disuasión donde los estados se ven forzados a sabotear proyectos de IA que representen un riesgo existencial. Para poder mantenerlo, se sugieren medidas como la colocación de centros de datos lejos de áreas pobladas, protocolos de transparencia y mecanismos de escalada bien definidos.
Evitar que la IA caiga en manos de terroristas
Un segundo punto en el que insisten los autores es en la precaución ante las organizaciones terroristas. Insisten en evitar que terroristas o actores no estatales accedan a IA avanzada con fines destructivos.
Para esto, recomiendan un control estricto sobre los chips de IA, similar al control de materiales nucleares, con monitoreo de envíos y restricciones de exportación. También proponen reforzar la seguridad de la información para evitar filtraciones de modelos de IA avanzados.
“Restringir el acceso de los actores maliciosos a los chips y capacidades de IA mediante controles estrictos garantiza que la IA no se convierta en una herramienta de destrucción catastrófica” advierten Schmidt y compañía.
La competitividad y la soberanía tecnológica
A través del documento, los autores llaman a los estados a desarrollar marcos legales que regulen el comportamiento de los agentes de IA.
De hecho, a integración de IA en el ámbito militar sería crucial para mantener la seguridad nacional y evitar depender de actores externos: “Más allá de asegurar su supervivencia, los estados tendrán interés en aprovechar la IA para reforzar su competitividad, ya que el éxito en la adopción de la IA será un factor determinante de la fortaleza nacional”.
Una tercera vía
El documento firmado por el ex CEO de Google también propone una tercera vía para el desarrollo de la IA y las AGI: Un camino de innovación que apunte a un desarrollo prioritario en las estrategias de defensa.
Algo totalmente distinto a lo que ha planteado la administración de Donald Trump, que apuesta por una inversión agresiva en el desarrollo de las nuevas tecnologías y la inteligencia artificial.
Te propongo un paréntesis de información. Suscríbete a nuestra newsletter y ponte al día con lo último en IA y tecnología.
