Ilya Sutskever, cofundador y exjefe científico de OpenAI, ha reaparecido tras su salida de la empresa después de casi una década. Recientemente ha revelado sus planes de establecer una empresa con el nombre de Safe Superintelligence y oficinas en Palo Alto y Tel Aviv, según ha adelantado Axios.
Este proyecto tiene como objetivo desarrollar métodos para guiar y regular sistemas de IA superinteligentes, es decir, sistemas con una inteligencia mucho mayor que la humana. Según Sutskever, las innovaciones en este campo están «superando los límites de lo que es posible» e «impulsando la próxima ola de avance tecnológico».
Sutskever fue uno de los miembros que votó a favor del despido del CEO Sam Altman en noviembre pasado, debido a preocupaciones sobre la comunicación y la confianza dentro de la empresa. Ilya es reconocido como uno de los investigadores más destacados en el campo de la IA, inició su carrera trabajando con Geoffrey Hinton, uno de los «padrinos de la IA». Anteriormente, fue investigador en Google Brain y realizó un postdoctorado en Stanford.
La falta de transparencia en la industria
Ahora, con la creación de esta nueva empresa, la idea es que funcione como un laboratorio de IA para impulsar el desarrollo de una superinteligencia segura. La obsesión de Sutskever dentro de OpenAI fue siempre la seguridad y reducir los riesgos asociados a estas nuevas tecnologías. Con la presentación de GPT-4o, el último modelo de la compañía, el investigador decidió abandonar la compañía.
Tras su salida, algunos compañeros se quejaron de la falta de mecanismos dentro de la empresa para denunciar avances peligrosos. También subrayan que les hacen firmar cláusulas de confidencialidad que les impiden denunciar a OpenAI incluso tras abandonar la compañía.
Toda revolución necesita sus cronistas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
