El Instituto Nacional de Estándares y Tecnología (NIST), una agencia del Departamento de Comercio de Estados Unidos dedicada a promover la innovación y la competitividad industrial a través del avance de la ciencia de la medición, los estándares y la tecnología, se encuentra en medio de una crisis interna. Miembros del personal y científicos han amenazado con renunciar ante el nombramiento anticipado de Paul Christiano, un investigador de inteligencia artificial (IA) conocido por sus lazos con el movimiento de altruismo efectivo (EA) y su derivado, el longtermismo, para un puesto crucial, aunque no político, en el recién creado Instituto de Seguridad de IA de EE. UU. (AISI).
La controversia surge en un momento en que el gobierno insta a las empresas estatales a pilotar el uso de la IA en sus negocios. La designación de Christiano, que se dice proviene directamente de la Secretaria de Comercio Gina Raimondo, ha provocado indignación entre los empleados del NIST. Existe un temor generalizado de que la asociación de Christiano con el EA y el longtermismo pueda comprometer la objetividad e integridad del instituto.
La comunidad científica del NIST se alza en protesta ante la posible incorporación de Paul Christiano, vinculado al altruismo efectivo, temiendo por la objetividad del AISI.
El EA, definido por el Centro para el Altruismo Efectivo como un «proyecto intelectual que utiliza la evidencia y la razón para averiguar cómo beneficiar a otros tanto como sea posible», ha sido criticado por convertirse en un grupo de seguidores casi sectario, altamente influyente y adinerado, cuya preocupación principal gira en torno a prevenir una futura catástrofe de IA que destruya a la humanidad. Esta concentración en el riesgo existencial, o «x-riesgo», se dice que se produce en detrimento de un enfoque necesario en los riesgos actuales y medibles de la IA, incluidos el sesgo, la desinformación, las aplicaciones de alto riesgo y la ciberseguridad tradicional.
El AISI se estableció en noviembre de 2023 para «apoyar las responsabilidades asignadas al Departamento de Comercio» bajo la Orden Ejecutiva de IA. La misión del AISI incluye centrarse en tareas específicas, como los materiales CBRN (químicos, biológicos, radiológicos y nucleares), para los cuales Paul Christiano es «extremadamente calificado», según Divyansh Kaushik, director asociado de tecnologías emergentes y seguridad nacional en la Federación de Científicos Americanos.
Sin embargo, la posible partida de «científicos estrella» del NIST en protesta por este nombramiento subraya la tensión entre la innovación tecnológica y la integridad científica. La situación plantea preguntas críticas sobre cómo las instituciones pueden equilibrar el avance de la IA con la preservación de los principios éticos y metodológicos que han guiado la investigación científica.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
