Dezenas de Gigantes Tecnológicos Formam Aliança de IA Segura Aberta para Colocar Ferramentas de Defesa Cibernética nas Mãos de Todos
Mais de 40 empresas, da Microsoft à Hugging Face, estão agrupando ferramentas de segurança de IA de código aberto para que qualquer organização possa defender-se sem depender de um punhado de fornecedores fechados.
Pontos-chave
- Mais de 40 empresas lançaram a Aliança de IA Segura Aberta em 2025 para criar ferramentas de segurança de IA disponíveis gratuitamente.
- Uma recente violação de segurança na Hugging Face demonstrou por que a IA aberta é importante: as ferramentas fechadas bloquearam os investigadores, portanto a empresa executou um modelo aberto para analisar mais de 17.000 ações suspeitas.
- A NVIDIA está a contribuir modelos abertos e uma nova estrutura de investigação chamada NOOA (NVIDIA Labs Object-Oriented Agent) para a Aliança.
- A unidade de IA da SpaceX, xAI, disponibilizou publicamente o agente de codificação Grok Build e planeia publicar os pesos, os ficheiros matemáticos essenciais, da sua linha de modelos Grok.
- A Aliança está a apela aos governos para tratarem as ferramentas de segurança de IA aberta como ativos defensivos, não como riscos a serem restritos.
Mais de quarenta das maiores empresas tecnológicas mundiais aderiram a uma nova coligação para disponibilizar defesa cibernética alimentada por IA gratuitamente a qualquer defensor, em qualquer lugar. O grupo chama-se Aliança de IA Segura Aberta, e os seus membros fundadores incluem NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce e Capital One, entre outros.
A ideia fundamental é simples. Neste momento, as ferramentas de segurança de IA mais poderosas encontram-se dentro de um pequeno número de produtos comerciais fechados de grande escala. Se essas ferramentas bloquearem o seu acesso, ou simplesmente não conseguirem diferenciá-lo de um atacante, fica preso.
O que realmente aconteceu para provar o ponto?
Um incidente real foi o argumento para isso. Quando a Hugging Face, uma plataforma de investigação de IA utilizada por milhões de programadores, sofreu uma violação de segurança, a empresa tentou usar ferramentas de IA fechadas para investigar. Essas ferramentas recusaram-se a ajudar porque não conseguiam verificar se as pessoas que faziam perguntas eram defensores ou atacantes.
A Hugging Face executou então o modelo GLM 5.2 de pesos abertos, um sistema de IA cujos ficheiros essenciais estão disponíveis publicamente para qualquer pessoa descarregar e executar, nos seus próprios servidores. O modelo analisou mais de 17.000 ações registadas e ajudou a conter a intrusão. Sem esse modelo aberto, executado em infraestrutura que a empresa controlava, a investigação teria parado.
Esse episódio ilustra exatamente por que a Aliança existe. Quando a velocidade é mais importante, os defensores precisam de ferramentas que possam inspecionar, adaptar e executar por si mesmos.
O que os membros estão realmente a construir?
Cada membro está a contribuir algo concreto. A NVIDIA, primeiro reportada como organizadora líder pelo seu próprio blog, está a libertar modelos abertos e a estrutura de investigação NOOA, um kit de ferramentas que facilita testar e auditar agentes de IA, programas de software que podem executar tarefas com múltiplos passos por conta própria, antes de serem implementados. A Microsoft está a contribuir com MDASH, um arnês de varredura, ou seja, uma camada de coordenação, que envia vários agentes de IA especializados para encontrar e verificar falhas de segurança em software. A HPE está a contribuir para um padrão chamado SPIFFE/SPIRE que dá aos agentes de IA uma identidade criptográfica, uma espécie de cartão de identificação digital à prova de adulteração, para que os sistemas possam confirmar que estão a comunicar com uma carga de trabalho confiável e não com um impostor.
A Hugging Face ofereceu Safetensors, um formato de ficheiro seguro para armazenar pesos de modelos de IA que bloqueia um ataque comum onde um ficheiro de modelo executa secretamente código prejudicial no computador que o abre, à Fundação PyTorch para curadoria comunitária.
| Contribuidor | Ferramenta ou contribuição | O que faz |
|---|---|---|
| NVIDIA | Estrutura NOOA + modelos abertos | Testa, rastreia e audita o comportamento de agentes de IA |
| Microsoft | Arnês de varredura MDASH | Sistema multi-agente para encontrar bugs de software exploráveis |
| HPE | Padrão de identidade SPIFFE/SPIRE | Dá aos agentes de IA uma identidade digital verificada |
| Hugging Face | Formato Safetensors | Armazena ficheiros de modelos com segurança, bloqueia execução de código oculto |
| IBM + Red Hat | Ferramenta de cadeia de fornecimento Lightwell | Assina digitalmente patches de software em projetos de código aberto |
Pessoas comuns devem preocupar-se com isto?
Sim, se utilizam serviços online, banca, registos de saúde ou qualquer coisa que funcione em software de nuvem. As empresas e agências governamentais que protegem esses serviços são os defensores que esta Aliança tenta ajudar. Ferramentas de defesa mais fortes e amplamente disponíveis significam menos violações e respostas mais rápidas quando incidentes ocorrem.
A Aliança também está a apela diretamente aos decisores políticos para não banirem ou restringirem ferramentas de IA aberta de fronteira. Restrições gerais, argumenta o grupo, empurrariam as organizações a dependerem inteiramente de um pequeno número de fornecedores fechados, criando um único ponto de falha para infraestruturas críticas.
Perguntas comuns
IA aberta significa que qualquer pessoa, incluindo criminosos, pode usar estas ferramentas de segurança?
Modelos abertos carregam riscos reais de uso indevido, e a Aliança os reconhece claramente. A resposta, argumentam os membros, é salvaguardas fortes e regras claras contra o uso malicioso, não negar aos defensores o acesso a ferramentas capazes. Sistemas fechados enfrentam os mesmos riscos e não os fazem desaparecer.
O que é um modelo de pesos abertos e por que é importante para a segurança?
Um modelo de pesos abertos é um sistema de IA cujos ficheiros matemáticos essenciais são publicados publicamente, para que qualquer organização possa descarregar, inspecionar e executá-lo nos seus próprios computadores. Para equipas de segurança, isso significa que podem analisar os seus próprios dados sem os enviar para um serviço de terceiros, e podem verificar exatamente o que a IA está a fazer.
O que deve a minha organização fazer agora?
Se gere TI ou segurança para uma empresa, a estrutura NOOA e o formato Safetensors já estão disponíveis publicamente no GitHub e através da Fundação PyTorch. Acompanhar o trabalho publicado da Aliança é um ponto de partida prático para equipas que avaliam ferramentas de segurança de IA aberta.
