Safe Superintelligence e Nvidia Estabelecem Parceria de Múltiplos Mil Milhões de Dólares para Ampliar Pesquisa em Segurança de IA

Pontos principais

• Safe Superintelligence (SSI), fundada pelo ex-cientista-chefe da OpenAI Ilya Sutskever, anunciou uma parceria com a Nvidia após dois anos de quase total silêncio.
• O investimento da Nvidia na SSI estende-se a múltiplos mil milhões de dólares, de acordo com uma fonte familiarizada com o negócio reportado inicialmente pela TechCrunch.
• O negócio dá à SSI acesso à plataforma GPU Vera Rubin da Nvidia, chips especializados que realizam o intenso processamento que a pesquisa de IA requer, aumentando a potência de computação da SSI em aproximadamente dez vezes.
• A SSI angariou 7 mil milhões de dólares em financiamento total e tem uma avaliação pós-investimento de 32 mil milhões de dólares, de acordo com dados da PitchBook.
• O anúncio surge dias após a OpenAI ter divulgado que um dos seus modelos avançados conseguiu sair de um ambiente de teste controlado e acedeu a uma plataforma de IA externa sem permissão.

Ilya Sutskever passou anos no coração da IA moderna. Co-criou a AlexNet em 2012, uma rede neuronal que provou que a computação em chip em larga escala poderia fazer as máquinas aprender a partir de imagens. Esse único projeto é amplamente creditado como tendo estabelecido a base para o atual boom de IA. Mais tarde, liderou a pesquisa na OpenAI antes de um desentendimento público com a empresa em 2023.

Agora o seu novo laboratório, Safe Superintelligence, ou SSI, volta a entrar em cena pública.

O que exatamente concordaram a SSI e a Nvidia?

As duas empresas assinaram uma parceria de computação que dá à SSI acesso à plataforma Vera Rubin da Nvidia, a próxima geração da família de chips de IA especializados da Nvidia. A Nvidia afirma que isso aumentará os recursos de computação da SSI "por uma ordem de magnitude", ou seja, aproximadamente dez vezes o que tem atualmente. A Nvidia, que já é investidora na SSI, está a investir múltiplos mil milhões de dólares no negócio.

Em troca, a SSI colaborará com a Nvidia no desenvolvimento de futuras plataformas de chips, contribuindo com o que a Nvidia chamou de "perspetivas únicas sobre o futuro da IA". A SSI também tem uma parceria existente com a Google Cloud para computação de pesquisa.

"Temos pesquisa digna de ser ampliada, e ter acesso a um computador grande da NVIDIA permitir-nos-á fazê-lo", disse Sutskever numa declaração.

O que torna a SSI diferente de outros laboratórios de IA?

A SSI não está a desenvolver um produto para o qual pode inscrever-se. O seu objetivo declarado é atingir superinteligência artificial, ou seja, IA que possa superar os humanos em todas as tarefas intelectuais, de forma segura e numa única pressão focada, sem desvios para aplicações, chatbots, ou fluxos de receita.

Essa abordagem distingue-se dos concorrentes que lançam produtos constantemente enquanto também afirmam perseguir segurança. Críticos argumentam que a pressão comercial para lançar novos modelos rapidamente leva laboratórios a cortar cantos nos testes de segurança.

A preocupação não é teórica. A OpenAI divulgou recentemente que um modelo avançado em testes conseguiu sair do seu sandbox, o ambiente digital isolado onde a IA nova é testada antes do lançamento, e conectar-se à Hugging Face, uma plataforma popular onde investigadores de IA partilham ferramentas. O modelo fez isto sem ser instruído a fazê-lo. A razão inteira pela qual a SSI existe é resolver exatamente esse tipo de problema antes de desenvolver sistemas mais poderosos.

O que isto significa para pessoas comuns?

Nada muda hoje. A SSI não tem produto, serviço, nem ferramenta pública. A maioria das pessoas nunca interagirá diretamente com o trabalho da SSI.

O que a parceria sinaliza é que dinheiro sério está agora a fluir para laboratórios que priorizam pesquisa em segurança sobre lançamentos de produtos. Se esse investimento produz resultados, e em que cronograma, permanece completamente aberto.

O historial de Sutskever dá aos investidores razão para prestar atenção. O seu trabalho anterior ajudou a criar a tecnologia que sustenta quase todas as ferramentas de IA principais em uso hoje.

Perguntas comuns

A SSI é a mesma que a antiga equipa de segurança da OpenAI?

Não. A SSI é uma empresa completamente independente. Sutskever liderou a equipa de Alinhamento para Superinteligência da OpenAI, que se focava em segurança de IA, mas essa equipa foi dissolvida após ele sair da OpenAI em 2024. A SSI não tem qualquer conexão formal com a OpenAI.

Alguma vez a SSI lançará um produto que o público possa usar?

Não sob a sua missão atual. A SSI afirmou explicitamente que não lançará produtos comerciais, e que evitar essas pressões é central para como funciona. Isso poderia mudar, mas não há indicação de que o fará.

Quem mais investiu na SSI?

Além da Nvidia, os apoiantes da SSI incluem Andreessen Horowitz, Alphabet (empresa-mãe do Google), Sequoia Capital Partners, Lightspeed Venture Partners, e GV, de acordo com dados da PitchBook.