Con apenas una semana de vida y ya en funcionamiento: la nueva alianza de seguridad en IA hace sus primeros movimientos

Puntos clave

• La Open Secure AI Alliance (OSAA), liderada por Nvidia, se lanzó hace menos de dos semanas y ya cuenta con más de 120 empresas miembros.
• Un grupo de trabajo llamado Shared AI Findings Exchange (SAFE) ha publicado sus primeras propuestas en borrador para comentarios públicos.
• Adobe, Cisco, Intel, Microsoft, Visa y BlackRock son miembros; OpenAI, Google y Anthropic no lo son.
• Tanto OpenAI como Google firmaron la carta abierta original que creó el grupo, lo que hace notable su ausencia de la membresía.
• La Linux Foundation, una organización sin fines de lucro que gestiona proyectos de software de código abierto ampliamente utilizados, está supervisando las propuestas.

Una alianza industrial completamente nueva construida alrededor de mantener la IA segura ya está haciendo algo inusual para una organización de una semana de edad: trabajo real.

La Open Secure AI Alliance (OSAA), encabezada por Nvidia, presentó su primer resultado concreto en la conferencia de ciberseguridad Black Hat en Las Vegas esta semana. Dentro de OSAA existe un grupo de trabajo llamado Shared AI Findings Exchange, o SAFE. Sus primeras propuestas en borrador están abiertas para comentarios públicos, con la Linux Foundation gestionando el proceso.

Informamos por primera vez sobre la formación de OSAA el 28 de julio de 2026, cuando se lanzó con más de 40 empresas. Ahora tiene más de 120.

¿Qué está proponiendo realmente el grupo?

Las propuestas tempranas son prácticas en lugar de llamativas. Cubren cómo las empresas deben reportar confidencialmente incidentes de seguridad en IA, cómo alertar a todos los afectados, y cómo realizar revisiones sin culpables para que toda la industria pueda aprender de los errores.

Los miembros también están reuniendo herramientas de código abierto. Nvidia está contribuyendo con una familia de modelos de IA abiertos y una herramienta llamada Garak, un escáner que busca vulnerabilidades en modelos de lenguaje grande (la tecnología detrás de los chatbots de IA). La empresa de seguridad de identidad Okta está trabajando en formas de verificar la identidad de agentes de IA, programas de software que pueden realizar tareas de múltiples pasos por su cuenta. Red Hat está trabajando en marcos de gobernanza para esos mismos agentes. Amazon ha contribuido dos herramientas: Strands Agents, para construir agentes de IA, y Cedar, un lenguaje para definir quién o qué puede hacer qué dentro de un sistema de software.

Con el tiempo, estas piezas están destinadas a sumarse a un conjunto de herramientas de código abierto práctico que cualquier empresa podría usar para asegurar sus sistemas de IA o defenderse contra ataques, incluyendo incidentes como un modelo de IA rogue infiltrándose en una plataforma externa. Hugging Face, un sitio popular para compartir modelos de IA que sufrió exactamente ese tipo de incidente involucrando un modelo de OpenAI, es miembro de OSAA.

¿Quién está dentro y quién falta?

La lista de miembros tiene un peso serio. Adobe, BlackRock, Cisco, Intel, Microsoft y Visa se han unido.

Notablemente ausentes están Anthropic (que hace el asistente de IA Claude), OpenAI (ChatGPT) y Google. Este último par es especialmente curioso. Ambas empresas firmaron la carta abierta, reportada primero por TechCrunch AI, que instaba a la Casa Blanca a apoyar el desarrollo de IA de código abierto. Esa carta, respaldada por más de 200 empresas de tecnología y promovida por Nvidia, fue publicada hace apenas una semana. Firmar la carta que creó un grupo y luego no unirse es una posición extraña de mantener.

La distancia de Anthropic es menos sorprendente. La empresa históricamente ha mantenido una distancia cautelosa de los esfuerzos de IA de código abierto.

¿Qué significa esto para las personas comunes?

Nada cambia en tu vida diaria en este momento. Pero si esta alianza tiene éxito, las empresas detrás de las aplicaciones y servicios que usas compartirán conocimientos de seguridad más rápidamente, parcharán vulnerabilidades de IA más rápidamente, y tendrán mejores herramientas para evitar que los sistemas de IA se vuelvan contra sus usuarios. Una cultura de reporte sin culpables, donde las empresas admiten problemas sin miedo al castigo, es el tipo de cambio estructural que tranquilamente hace que la tecnología sea más segura para todos.

La alianza lo expresó claramente en su carta fundacional: "La apertura puede ser uno de los caminos más importantes hacia la seguridad y la defensa de la IA". Dado el ritmo al que se ha movido hasta ahora, esa afirmación merece ser tomada en serio. Lo que yo observaría es si OpenAI y Google eventualmente se unen: sus firmas en la carta fundacional sin membresía son el indicador más honesto de cuánto esta coalición aún tiene que demostrar.

Preguntas comunes

¿Es SAFE un organismo gubernamental?

No. SAFE es un grupo de trabajo de la industria privada dentro de OSAA, gestionado por la Linux Foundation. No tiene poder regulatorio; la participación es voluntaria.

¿Esto afecta mis herramientas de IA en este momento?

No directamente. Las propuestas están en forma de borrador y abiertas para comentarios. Cualquier herramienta o estándar que surja será adoptado por las empresas miembros a su propio ritmo.

¿Por qué importa la IA de código abierto para la seguridad?

Cuando el código de IA está abierto para que cualquiera lo inspeccione, los investigadores de seguridad pueden encontrar e informar problemas más rápidamente. Los sistemas cerrados dependen únicamente de la empresa para detectar defectos, lo que históricamente toma más tiempo.