Docenas de Gigantes Tecnológicos Forman la Alianza de IA Segura Abierta para Poner Herramientas de Ciberdefensa en Manos de Todos
Más de 40 empresas, desde Microsoft hasta Hugging Face, están agrupando herramientas de seguridad de IA de código abierto para que cualquier organización pueda defenderse sin depender de un puñado de proveedores cerrados.
Puntos clave
- Más de 40 empresas lanzaron la Alianza de IA Segura Abierta en 2025 para construir herramientas de seguridad de IA disponibles gratuitamente.
- Una reciente brecha de seguridad en Hugging Face demostró por qué importa la IA abierta: las herramientas cerradas bloquearon a los investigadores, por lo que la empresa ejecutó un modelo abierto para analizar más de 17.000 acciones sospechosas.
- NVIDIA está contribuyendo modelos abiertos y un nuevo marco de investigación llamado NOOA (NVIDIA Labs Object-Oriented Agent) a la Alianza.
- La unidad de IA de SpaceX, xAI, ha abierto el código del agente de programación Grok Build y planea publicar los pesos, los archivos matemáticos centrales, de su línea de modelos Grok.
- La Alianza está pidiendo a los gobiernos que traten las herramientas de seguridad de IA abierta como activos defensivos, no como riesgos que deben restringirse.
Más de cuarenta de las mayores empresas tecnológicas del mundo se han unido a una nueva coalición para poner herramientas de ciberdefensa impulsadas por IA a disposición de cualquier defensor, en cualquier lugar. El grupo se llama a sí mismo la Alianza de IA Segura Abierta, y sus miembros fundadores incluyen NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce y Capital One, entre otros.
La idea central es sencilla. Actualmente, las herramientas de seguridad de IA más poderosas se encuentran dentro de un pequeño número de grandes productos comerciales cerrados. Si esas herramientas bloquean tu acceso, o simplemente no pueden diferenciarte de un atacante, te quedas atrapado.
¿Qué sucedió realmente para demostrarlo?
Un incidente real argumentó el punto. Cuando Hugging Face, una plataforma de investigación de IA utilizada por millones de desarrolladores, sufrió una brecha de seguridad, la empresa intentó utilizar herramientas de IA cerradas para investigar. Esas herramientas se negaron a ayudar porque no podían verificar si las personas que hacían preguntas eran defensores o atacantes.
Hugging Face luego ejecutó el modelo GLM 5.2 de código abierto, un sistema de IA cuyos archivos principales están disponibles públicamente para que cualquiera los descargue y ejecute, en sus propios servidores. El modelo clasificó más de 17.000 acciones registradas y ayudó a contener la intrusión. Sin ese modelo abierto, ejecutándose en infraestructura que la empresa controlaba por sí misma, la investigación se hubiera estancado.
Ese episodio captura exactamente por qué existe la Alianza. Cuando la velocidad es lo más importante, los defensores necesitan herramientas que puedan inspeccionar, adaptar y ejecutar por sí mismos.
¿Qué están construyendo realmente los miembros?
Cada miembro está contribuyendo algo concreto. NVIDIA, informada por primera vez como organizador principal por su propio blog, está lanzando modelos abiertos y el marco de investigación NOOA, un conjunto de herramientas que facilita probar y auditar agentes de IA, programas de software que pueden realizar tareas de múltiples pasos por sí solos, antes de ser desplegados. Microsoft está contribuyendo con MDASH, un arnés de escaneo, es decir, una capa de coordinación, que envía varios agentes de IA especializados para encontrar y verificar vulnerabilidades de seguridad en el software. HPE está contribuyendo a un estándar llamado SPIFFE/SPIRE que da a los agentes de IA una identidad criptográfica, una especie de tarjeta de identidad digital a prueba de manipulaciones, para que los sistemas puedan confirmar que están hablando con una carga de trabajo confiable y no con un impostor.
Hugging Face ha ofrecido Safetensors, un formato de archivo seguro para almacenar pesos de modelos de IA que bloquea un ataque común donde un archivo de modelo ejecuta secretamente código dañino en la computadora que lo abre, a la Fundación PyTorch para administración comunitaria.
| Colaborador | Herramienta o contribución | Qué hace |
|---|---|---|
| NVIDIA | Marco NOOA + modelos abiertos | Prueba, rastrea y audita el comportamiento del agente de IA |
| Microsoft | Arnés de escaneo MDASH | Sistema multiagente para encontrar errores de software explotables |
| HPE | Estándar de identidad SPIFFE/SPIRE | Da a los agentes de IA una identidad digital verificada |
| Hugging Face | Formato Safetensors | Almacena archivos de modelo de forma segura, bloquea la ejecución de código oculto |
| IBM + Red Hat | Herramienta de cadena de suministro Lightwell | Firma digitalmente parches de software en proyectos de código abierto |
¿Deberían importarle esto a la gente común?
Sí, si utilizan servicios en línea, banca, historiales médicos o cualquier cosa que se ejecute en software en la nube. Las empresas y agencias gubernamentales que protegen esos servicios son los defensores a los que esta Alianza intenta ayudar. Herramientas de defensa más sólidas y ampliamente disponibles significan menos brechas y respuestas más rápidas cuando ocurren incidentes.
La Alianza también está pidiendo directamente a los legisladores que no prohíban ni restrinjan las herramientas de IA de frontera abierta. Las restricciones generalizadas, argumenta el grupo, empujarían a las organizaciones a depender completamente de un pequeño número de proveedores cerrados, creando un único punto de falla para la infraestructura crítica.
Preguntas frecuentes
¿Significa IA abierta que cualquiera, incluidos los delincuentes, puede usar estas herramientas de seguridad?
Los modelos abiertos conllevan riesgos reales de uso indebido, y la Alianza los reconoce claramente. La respuesta, argumentan los miembros, son salvaguardas sólidas y reglas claras contra el uso malintencionado, no negar a los defensores el acceso a herramientas capaces. Los sistemas cerrados enfrentan los mismos riesgos y no los hacen desaparecer.
¿Qué es un modelo de código abierto y por qué importa para la seguridad?
Un modelo de código abierto es un sistema de IA cuyos archivos matemáticos principales se publican públicamente, para que cualquier organización pueda descargarlo, inspeccionarlo y ejecutarlo en sus propias computadoras. Para los equipos de seguridad, esto significa que pueden analizar sus propios datos sin enviarlos a un servicio de terceros, y pueden verificar exactamente lo que está haciendo la IA.
¿Qué debería hacer mi organización ahora?
Si diriges TI o seguridad para una empresa, el marco NOOA y el formato Safetensors ya están disponibles públicamente en GitHub y a través de la Fundación PyTorch. Seguir el trabajo publicado de la Alianza es un punto de partida práctico para equipos que evalúan herramientas de seguridad de IA abierta.
