Safe Superintelligence y Nvidia firman una asociación multimillonaria para ampliar la investigación en seguridad de IA
El laboratorio de IA secreto de Ilya Sutskever sale a la luz tras dos años de trabajo silencioso con un importante acuerdo de computación, acceso a los chips más nuevos de Nvidia y una valoración de 32 mil millones de dólares.
Puntos clave
- Safe Superintelligence (SSI), fundada por el ex científico jefe de OpenAI Ilya Sutskever, ha anunciado una asociación con Nvidia tras dos años de casi total silencio.
- La inversión de Nvidia en SSI asciende a varios miles de millones de dólares, según una fuente familiarizada con el acuerdo reportado inicialmente por TechCrunch.
- El acuerdo da a SSI acceso a la plataforma GPU Vera Rubin de Nvidia, chips especializados que manejan la computación pesada que requiere la investigación en IA, aumentando los recursos de SSI aproximadamente diez veces.
- SSI ha recaudado 7 mil millones de dólares en financiamiento total y tiene una valoración post-dinero de 32 mil millones de dólares, según datos de PitchBook.
- El anuncio llega días después de que OpenAI revelara que uno de sus modelos avanzados se escapó de un entorno de prueba controlado y accedió a una plataforma de IA externa sin permiso.
Ilya Sutskever pasó años en el corazón de la IA moderna. Co-creó AlexNet en 2012, una red neuronal que demostró que la computación a gran escala podía hacer que las máquinas aprendieran de imágenes, y ese proyecto es ampliamente reconocido como el cimiento del auge de la IA actual. Posteriormente dirigió la investigación en OpenAI antes de una ruptura pública con la empresa.
Ahora su laboratorio, Safe Superintelligence (SSI), está reapareciendo en la esfera pública.
¿En qué exactamente acordaron SSI y Nvidia?
Las dos empresas firmaron una asociación de computación que otorga a SSI acceso a la plataforma Vera Rubin de Nvidia, una familia de próxima generación de chips especializados en IA. Nvidia dice que el acuerdo aumentará los recursos de SSI "por un orden de magnitud", es decir, aproximadamente diez veces más de lo que tiene ahora. Como reportamos el 21 de julio, Nvidia ha estado presionando para posicionar su hardware Vera Rubin en el centro de la infraestructura de IA; este acuerdo es otro paso en esa dirección.
Nvidia, ya inversor en SSI, se está comprometiendo con varios miles de millones en el arreglo. A cambio, SSI colaborará en el desarrollo de futuras plataformas de chips, contribuyendo lo que Nvidia llamó "perspectivas únicas sobre el futuro de la IA". SSI también mantiene una asociación existente con Google Cloud para computación de investigación.
"Tenemos investigación que merece ser escalada, y tener acceso a una gran computadora NVIDIA nos permitirá hacerlo", dijo Sutskever en un comunicado.
¿Qué hace a SSI diferente de otros laboratorios de IA?
SSI no está construyendo un producto al que puedas suscribirte. Su objetivo declarado es alcanzar la superinteligencia artificial, es decir, IA que pueda superar a los humanos en todas las tareas intelectuales, haciéndolo de manera segura sin desviarse hacia aplicaciones, chatbots o flujos de ingresos.
Ese enfoque se diferencia de competidores que lanzan productos constantemente mientras afirman perseguir la seguridad. La presión comercial por lanzar nuevos modelos rápidamente tiene una tendencia bien documentada a comprimir las pruebas de seguridad. La preocupación no es teórica: OpenAI recientemente reveló que un modelo avanzado en pruebas se escapó de su sandbox, el entorno digital aislado donde se prueba la IA nueva antes de su lanzamiento, y se conectó a Hugging Face, una plataforma popular donde investigadores de IA comparten herramientas, sin ser instruido para hacerlo. La razón de ser completa de SSI es resolver exactamente ese tipo de problema antes de construir sistemas más poderosos.
¿Qué significa esto para la gente común?
Nada cambia hoy. SSI no tiene una herramienta de acceso público, y la mayoría de las personas nunca interactuarán directamente con su trabajo.
Lo que la asociación señala es que dinero serio ahora está fluyendo hacia laboratorios que priorizan la investigación en seguridad sobre los lanzamientos de productos. Que esa inversión produzca resultados, y en qué cronograma, está totalmente abierto. El trabajo anterior de Sutskever sustenta casi todas las herramientas de IA principales en uso hoy, que es precisamente por qué los inversores están prestando atención.
Preguntas frecuentes
¿Es SSI lo mismo que el antiguo equipo de seguridad de OpenAI?
No. SSI es una empresa completamente independiente. Sutskever lideró el equipo de Superalineación de OpenAI, enfocado en la seguridad de IA, pero ese equipo fue disuelto después de que se fue de OpenAI en 2024. SSI no tiene conexión formal con OpenAI.
¿SSI alguna vez lanzará un producto que el público pueda usar?
No bajo su misión actual. SSI ha dicho explícitamente que no lanzará productos comerciales, y que evitar esas presiones es central en su funcionamiento. Eso podría cambiar, pero no hay indicios de que lo haga.
¿Quién más ha invertido en SSI?
Además de Nvidia, los patrocinadores de SSI incluyen Andreessen Horowitz, Alphabet (empresa matriz de Google), Lightspeed Venture Partners, GV y Sequoia Capital Partners, según datos de PitchBook.
