Com uma semana de vida e já em funcionamento: a nova aliança de segurança em IA a dar os primeiros passos

Pontos-chave

• A Open Secure AI Alliance (OSAA), liderada pela Nvidia, foi lançada há menos de duas semanas e já conta com mais de 120 empresas-membro.
• Um grupo de trabalho chamado Shared AI Findings Exchange (SAFE) publicou as suas primeiras propostas de rascunho para comentário público.
• Adobe, Cisco, Intel, Microsoft e Visa são membros; OpenAI, Google e Anthropic não são.
• Tanto OpenAI como Google assinaram a carta aberta original que criou o grupo, tornando a sua ausência da adesão notável.
• A Linux Foundation, uma organização sem fins lucrativos que gere projectos de software de código aberto amplamente utilizados, está a supervisionar as propostas.

Uma aliança industrial completamente nova construída em torno da segurança da IA já está a fazer algo invulgar para uma organização com uma semana de vida: trabalho real.

A Open Secure AI Alliance, conhecida como OSAA e liderada pela Nvidia, desvendou o seu primeiro resultado concreto na conferência de cibersegurança Black Hat em Las Vegas esta semana. Dentro da OSAA existe um grupo de trabalho chamado Shared AI Findings Exchange, ou SAFE. As suas primeiras propostas de rascunho já estão abertas para comentário público, com a Linux Foundation, uma organização sem fins lucrativos que gere software de código aberto amplamente utilizado, a gerir o processo.

O que é que o grupo está realmente a propor?

As primeiras propostas são práticas em vez de vistosas. Abrangem como as empresas devem relatar confidencialmente incidentes de segurança em IA, como alertar todos os afectados, e como realizar revisões sem culpa para que toda a indústria possa aprender com os erros.

Os membros também estão a juntar ferramentas de código aberto. A Nvidia está a contribuir com uma família de modelos de IA abertos e uma ferramenta chamada Garak, um scanner que procura vulnerabilidades em modelos de linguagem grandes (a tecnologia por trás dos chatbots de IA). A empresa de segurança de identidade Okta está a trabalhar em formas de verificar a identidade de agentes de IA, programas de software que podem executar tarefas de múltiplas etapas de forma autónoma. A Red Hat está a trabalhar em estruturas de governação para esses mesmos agentes. A Amazon contribuiu com duas ferramentas: Strands Agents, para construir agentes de IA, e Cedar, uma linguagem para definir quem ou o quê está autorizado a fazer o quê dentro de um sistema de software.

O objetivo, ao longo do tempo, é para que estas peças se somem num kit de ferramentas de código aberto prático que qualquer negócio pudesse usar para proteger os seus sistemas de IA ou defender-se de ataques, incluindo incidentes como um modelo de IA desonesto a infiltrar-se numa plataforma externa. Hugging Face, um site popular para partilhar modelos de IA que sofreu exactamente esse tipo de incidente envolvendo um modelo da OpenAI, é ela própria membro da OSAA.

Quem está dentro, e quem está ausente?

A lista de membros tem peso considerável. Adobe, BlackRock, Cisco, Intel, Microsoft e Visa aderiram todas.

Notavelmente ausentes estão Anthropic (que faz o assistente de IA Claude), OpenAI (ChatGPT) e Google. Este último par é especialmente curioso. Ambas as empresas assinaram a carta aberta, primeiro relatada pela TechCrunch AI, que apelava à Casa Branca para apoiar o desenvolvimento de IA de código aberto. Essa carta, apoiada por mais de 200 empresas de tecnologia e defendida pela Nvidia, foi publicada apenas na semana passada. Assinar a carta que criou um grupo e depois não aderir ao grupo é uma posição estranha.

O distanciamento da Anthropic é menos surpreendente. A empresa historicamente manteve uma distância cautelosa dos esforços de IA de código aberto.

O que é que isto significa para as pessoas comuns?

Por enquanto, nada muda na sua vida diária. Mas se esta aliança tiver sucesso, as empresas por trás das aplicações e serviços que usa irão partilhar conhecimentos de segurança mais rapidamente, corrigir vulnerabilidades de IA mais depressa, e terão melhores ferramentas para impedir que sistemas de IA sejam usados contra os seus utilizadores. Uma cultura de relato sem culpa, onde as empresas admitem problemas sem medo de punição, é o tipo de mudança estrutural que silenciosamente torna a tecnologia mais segura para todos.

A aliança propriamente dita colocou-o claramente na sua carta de fundação: "A abertura pode ser um dos caminhos mais importantes para a segurança e segurança da IA." Dado o ritmo a que se moveu até agora, essa afirmação merece ser levada a sério.

Questões comuns

SAFE é um órgão governamental?

Não. SAFE é um grupo de trabalho da indústria privada dentro da OSAA, gerido pela Linux Foundation. Não tem poder regulador; a participação é voluntária.

É que isto afecta os meus utensílios de IA neste momento?

Não directamente. As propostas estão em forma de rascunho e abertas para comentário. Quaisquer ferramentas ou normas que resultem serão adoptadas pelas empresas-membro ao seu próprio ritmo.

Por que é que a IA de código aberto importa para a segurança?

Quando o código de IA está aberto para qualquer pessoa inspecionar, os investigadores de segurança podem encontrar e relatar problemas mais rapidamente. Os sistemas fechados dependem apenas da empresa para apanhar falhas, o que historicamente demora mais tempo.