Ilya Sutskever, uno de los cofundadores de OpenAI, ha recaudado mil millones de dólares para su nueva empresa Safe Superintelligence Inc. (SSI). Esta startup, creada en junio de 2024, se dedica al desarrollo de inteligencia artificial avanzada con un enfoque en la seguridad. La financiación proviene de importantes inversores como Andreessen Horowitz (a16z), Sequoia Capital, DST Global y SV Angel, y ha valorizado la compañía en cinco mil millones de dólares.
Sutskever, quien dejó OpenAI en mayo de 2024 tras diferencias con el equipo directivo, fundó SSI junto a Daniel Gross, antiguo responsable de IA en Apple, y Daniel Levy, otro ex empleado de OpenAI. Esta empresa tiene como objetivo crear un sistema de inteligencia artificial que no solo supere las capacidades humanas, sino que lo haga de manera segura. La seguridad de la IA ha sido un tema central para Sutskever, quien manifestó su preocupación por el rápido avance de los sistemas de inteligencia artificial general (AGI) en OpenAI, lo que finalmente contribuyó a su salida de la organización.
SSI ha establecido su sede en Palo Alto, California, con una segunda oficina en Tel Aviv, y destinará los fondos a la contratación de talento y la adquisición de infraestructura de computación de alta capacidad, elementos esenciales para su visión de combinar avances en IA con estrictas medidas de seguridad. La empresa busca abordar los desafíos técnicos que conlleva crear un sistema de inteligencia artificial que pueda operar sin riesgos, estableciendo paralelismos con otras industrias que requieren altos niveles de seguridad, como la nuclear.
Los objetivos de SSI
Sutskever ha declarado que SSI aspira a liderar un enfoque que considere tanto la seguridad como las capacidades de la IA de manera simultánea, con la intención de evitar los peligros que podría traer un desarrollo descontrolado. Esta preocupación por la seguridad fue parte de las tensiones que Sutskever experimentó en OpenAI, especialmente durante el intento fallido de destituir al CEO Sam Altman en noviembre de 2023, un movimiento por el que luego se disculpó públicamente.
La misión de SSI, según ha explicado Sutskever, es abordar uno de los problemas técnicos más complejos y cruciales de nuestro tiempo: el desarrollo de una superinteligencia segura. La empresa planea avanzar rápidamente en sus investigaciones, priorizando siempre que los sistemas que creen no representen un riesgo para la humanidad, marcando una clara distinción entre el progreso acelerado y el desarrollo ético y seguro.
Con esta significativa financiación, SSI se posiciona como un actor clave en el futuro del desarrollo de inteligencia artificial, diferenciándose de otros proyectos al enfocar su trabajo no solo en crear sistemas más potentes, sino también en garantizar su seguridad.
Toda revolución necesita sus cronistas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
