Dario Amodei, director ejecutivo de la startup de IA Anthropic, calificó la Cumbre de Acción de IA en París como una “oportunidad perdida” e instó a la industria y a los gobiernos a actuar con mayor rapidez y claridad. También añadió: «Nos complació asistir a la Cumbre de Acción de IA en París y apreciamos los esfuerzos del gobierno francés para reunir a empresas de IA, investigadores y responsables políticos de todo el mundo. Sin embargo, se necesita un mayor enfoque y urgencia en varios temas, dado el ritmo al que avanza la tecnología»
Críticas y perspectivas de los investigadores
Las críticas de Amodei reflejan las preocupaciones expresadas por investigadores. Uno de ellos afirmó a Transformer que los compromisos de la conferencia, rechazados por Estados Unidos y el Reino Unido, carecían de contenido concreto. Mientras tanto, el vicepresidente estadounidense, JD Vance, adoptó una postura completamente opuesta, denunciando las regulaciones europeas sobre IA como excesivas y calificando las iniciativas de moderación de contenido como un intento de censura.
Regulación activa y transparencia gubernamental
Amodei alertó sobre el avance acelerado de la IA y los riesgos que implica una falta de regulación adecuada. En su declaración, comparó los sistemas de IA con una nueva entidad global, poblada por inteligencias avanzadas que podrían alterar el equilibrio de poder mundial. Además, advirtió sobre el posible uso indebido de la tecnología por parte de actores no estatales y subrayó la necesidad de que las democracias lideren su desarrollo para evitar que regímenes autoritarios logren una supremacía militar basada en IA.
Para mitigar estos riesgos, Amodei animó a los gobiernos a monitorear activamente el uso de la IA y a diseñar políticas que garanticen que los beneficios económicos derivados de su avance se distribuyan de manera equitativa. También enfatizó la importancia de una mayor transparencia gubernamental en seguridad de IA y la implementación de planes sólidos para evaluar sus riesgos.
La postura de Amodei contrasta con la de OpenAI
La visión optimista de OpenAI, expresada en un comunicado que calificó la cumbre como “otro hito hacia el desarrollo responsable y beneficioso de la IA”, contrasta con la evaluación de Amodei, quien la describió como “una oportunidad perdida”. No obstante, Anthropic ha demostrado en el pasado una actitud más abierta a la regulación en comparación con otras empresas del sector. Su apoyo implícito al proyecto de ley SB 1047 de California, que buscaba establecer un marco regulatorio para la IA, la distanció de OpenAI, que se opuso a la propuesta hasta su veto por parte del gobernador Gavin Newsom.
El respaldo de Anthropic a la regulación no responde únicamente a motivos filantrópicos. Al igual que Sam Altman en su reciente ensayo, Amodei no ha ofrecido propuestas concretas para garantizar que los beneficios de una IA avanzada se distribuyan de forma justa. La ambigüedad en sus declaraciones refleja el dilema más amplio en la industria de la IA: cómo equilibrar el avance tecnológico con la seguridad y la equidad económica.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
La imagen fue publicada originalmente en Flickr por TechCrunch en https://flickr.com/photos/52522100@N07/53202070940. Fue revisada el 16 de mayo de 2024 por FlickreviewR 2 y se confirmó que estaba licenciada bajo los términos de cc-by-2.0.
