Decenas de Gigantes Tecnológicos Forman la Alianza de IA Segura Abierta para Poner Herramientas de Ciberdefensa en Manos de Todos
Más de 40 empresas, desde Microsoft hasta Hugging Face, están uniendo herramientas de seguridad de IA de código abierto para que cualquier organización pueda defenderse sin depender de un puñado de proveedores cerrados.
Puntos clave
- Más de 40 empresas lanzaron la Alianza de IA Segura Abierta en 2025 para construir herramientas de seguridad de IA disponibles libremente.
- Una brecha de seguridad en Hugging Face mostró el problema en la práctica: las herramientas cerradas bloquearon a los investigadores, por lo que la empresa ejecutó un modelo abierto para analizar más de 17.000 acciones sospechosas.
- NVIDIA está contribuyendo modelos abiertos y un marco de investigación llamado NOOA (Agente Orientado a Objetos de NVIDIA Labs) a la Alianza.
- La unidad de IA de SpaceX, SpaceXAI, ha abierto el código del agente de programación Grok Build y planea publicar los pesos, los archivos matemáticos básicos, de su línea de modelos Grok.
- La Alianza está pidiendo a los gobiernos que traten las herramientas de seguridad de IA abierta como activos defensivos, no como riesgos a restringir.
Más de cuarenta de las mayores empresas tecnológicas del mundo se han unido a una nueva coalición para poner a disposición de cualquier defensor, en cualquier lugar, herramientas de ciberdefensa impulsadas por IA de forma gratuita. El grupo se llama Alianza de IA Segura Abierta. Los miembros fundadores incluyen NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce, Capital One y más de treinta otros.
La idea central es esta: en este momento, las herramientas de seguridad de IA más poderosas se encuentran dentro de un pequeño número de grandes productos comerciales cerrados. Si esas herramientas te bloquean el acceso, o no pueden distinguirte de un atacante, te quedas sin nada.
¿Qué sucedió realmente para demostrar el punto?
Un incidente real proporcionó el argumento. Cuando Hugging Face, una plataforma de investigación de IA utilizada por millones de desarrolladores, sufrió una brecha de seguridad, la empresa intentó usar herramientas de IA cerradas para investigar. Esas herramientas se negaron a ayudar porque no podían verificar si las personas que hacían preguntas eran defensores o atacantes. Cubrimos el detalle de ese fallo en nuestro artículo del 23 de julio de 2026 sobre cómo los mecanismos de seguridad detuvieron a los propios investigadores de Hugging Face.
Hugging Face luego ejecutó el modelo GLM 5.2 de peso abierto, un sistema de IA cuyos archivos básicos están disponibles públicamente para que cualquiera los descargue y ejecute, en sus propios servidores. El modelo clasificó más de 17.000 acciones registradas y ayudó a contener la intrusión. Sin ese modelo abierto, ejecutándose en la infraestructura que la empresa controlaba por sí sola, la investigación se habría estancado.
Ese episodio captura exactamente por qué existe la Alianza. Cuando la velocidad es lo más importante, los defensores necesitan herramientas que puedan inspeccionar y ejecutar por sí mismos.
¿Qué están construyendo realmente los miembros?
Cada miembro está contribuyendo algo concreto. NVIDIA está lanzando modelos abiertos y el marco de investigación NOOA, un conjunto de herramientas que facilita probar y auditar agentes de IA, programas de software que pueden llevar a cabo tareas de múltiples pasos por sí solos, antes del despliegue. Microsoft está contribuyendo MDASH, una capa de coordinación que envía varios agentes de IA especializados para encontrar y verificar vulnerabilidades de seguridad en software. HPE está contribuyendo a un estándar llamado SPIFFE/SPIRE que proporciona a los agentes de IA una identidad criptográfica, una tarjeta de identificación digital a prueba de manipulaciones, para que los sistemas puedan confirmar que están hablando con una carga de trabajo confiable y no con un impostor.
Hugging Face ha ofrecido Safetensors, un formato de archivo seguro para almacenar pesos de modelos de IA que bloquea un ataque común donde un archivo de modelo ejecuta secretamente código dañino en la computadora que lo abre, a la Fundación PyTorch para la administración comunitaria.
| Contribuyente | Herramienta o contribución | Qué hace |
|---|---|---|
| NVIDIA | Marco NOOA + modelos abiertos | Prueba, rastrea y audita el comportamiento del agente de IA |
| Microsoft | Arnés de escaneo MDASH | Sistema multiagente para encontrar errores de software explotables |
| HPE | Estándar de identidad SPIFFE/SPIRE | Proporciona a los agentes de IA una identidad digital verificada |
| Hugging Face | Formato Safetensors | Almacena archivos de modelo de forma segura, bloquea la ejecución de código oculto |
| IBM + Red Hat | Herramienta de cadena de suministro Lightwell | Firma digitalmente parches de software en proyectos de código abierto |
¿Debería importarle esto a la gente común?
Sí, si utilizan servicios en línea, banca o registros de atención médica. Las empresas y agencias gubernamentales que protegen esos servicios son los defensores a los que esta Alianza intenta ayudar. Herramientas de defensa más sólidas y más ampliamente disponibles significan menos brechas y respuestas más rápidas cuando ocurren incidentes.
La Alianza también está pidiendo a los formuladores de políticas que no prohíban ni restrinjan las herramientas de IA de frontera abiertas. Las restricciones generales, argumenta el grupo, empujarían a las organizaciones a depender completamente de un pequeño número de proveedores cerrados, creando un único punto de falla para la infraestructura crítica. Ese argumento se hace eco de lo que dijo el director de tecnología de Arcee al blog de Arcee, citado en nuestro artículo del 22 de julio de 2026: restringir modelos abiertos pierde la amenaza completamente.
Lo que más importa aquí es el incidente de Hugging Face: no fue hipotético, y la Alianza tiene razón al construir el argumento de política pública alrededor de algo que realmente sucedió. Lo que se está vendiendo en exceso es la idea de que la apertura por sí sola resuelve el problema del mal uso. Observa si los gobiernos tratan este llamado como defensa o como evidencia.
Preguntas frecuentes
¿Significa la IA abierta que cualquiera, incluidos los criminales, puede usar estas herramientas de seguridad?
Los modelos abiertos conllevan riesgos reales de mal uso, y la Alianza los reconoce claramente. La respuesta, argumentan los miembros, es salvaguardas sólidas emparejadas con reglas claras contra el uso malintencionado, no negar a los defensores el acceso a herramientas capaces. Los sistemas cerrados enfrentan los mismos riesgos y no los hacen desaparecer.
¿Qué es un modelo de peso abierto y por qué es importante para la seguridad?
Un modelo de peso abierto es un sistema de IA cuyos archivos matemáticos básicos se publican públicamente, para que cualquier organización pueda descargarlo y ejecutarlo en sus propias computadoras. Para los equipos de seguridad, eso significa que pueden analizar sus propios datos sin enviarlos a un servicio de terceros, y pueden verificar exactamente qué está haciendo la IA.
¿Qué debería hacer mi organización ahora?
Si ejecutas IT o seguridad para una empresa, el marco NOOA y el formato Safetensors ya están disponibles públicamente en GitHub y a través de la Fundación PyTorch. Seguir el trabajo publicado de la Alianza es un punto de partida práctico para los equipos que evalúan herramientas de seguridad de IA abierta.
