Esta startup quiere dar a los agentes de IA un boletín de seguridad antes de que lleguen a tu banco u hospital
AIUC recaudó $55 millones para auditar agentes de IA con un nuevo estándar, brindando a las empresas un veredicto independiente sobre dónde se puede confiar en un agente y dónde no.
Puntos clave
- AIUC, la Artificial Intelligence Underwriting Company, anunció una Serie A de $40 millones liderada por Ribbit Capital el martes.
- La startup ha recaudado $55 millones en total, incluida una ronda inicial de $15 millones respaldada por Ben Mann, cofundador de Anthropic, y otros.
- AIUC ejecuta cada agente de IA, software que puede realizar tareas de múltiples pasos de forma independiente, a través de aproximadamente 5.000 pruebas que cubren ataques de seguridad, alucinaciones y fugas de datos.
- Los clientes que ya se han registrado incluyen Cursor, Lovable, Harvey y ElevenLabs.
- El cofundador Rajiv Dattani se desempeñó como COO de METR, una organización de investigación en seguridad de IA, de 2024 a 2025.
Los bancos y hospitales no están rechazando la IA porque sea demasiado tonta. La rechazan porque nadie puede decirles exactamente qué hará, o qué se negará a hacer, una vez que esté funcionando dentro de sus sistemas.
Ese es el problema que Rune Kvist y Rajiv Dattani intentan resolver. La pareja, que también son cuñados, fundó la Artificial Intelligence Underwriting Company, conocida como AIUC, para llevar auditorías de seguridad independientes a agentes de IA antes de que se implementen a gran escala.
Kvist fue uno de los primeros empleados de Anthropic, la empresa de seguridad de IA detrás de la familia de chatbots Claude. Dattani se desempeñó de 2024 a 2025 como COO de METR, una organización sin fines de lucro que prueba modelos de IA fronterizos, es decir, los sistemas de IA más poderosos y capaces que se están construyendo actualmente, en busca de comportamientos peligrosos. Continúa siendo miembro de la junta directiva de METR.
¿Cómo funciona realmente la auditoría?
AIUC desarrolló su propio estándar, llamado AIUC-1, con aportaciones de aproximadamente 250 líderes de seguridad y riesgo en el tipo de organizaciones que compran e implementan agentes de IA. Cada mes, la empresa pregunta a esos líderes qué necesitarían ver antes de confiar un agente a sus sistemas.
Esa retroalimentación forma un conjunto de pruebas de aproximadamente 5.000 verificaciones individuales. Los agentes se enfrentan a escenarios diseñados para desencadenar ataques de seguridad (intentos de hacer que la IA ignore sus reglas de seguridad), alucinaciones (cuando la IA afirma con confianza algo falso) y fugas de datos. Los resultados aparecen en un informe de alrededor de 100 páginas que dice claramente al comprador dónde se comporta el agente de forma segura y dónde no. Los agentes de IA ejecutan las pruebas y analizan los datos; un auditor humano verifica el informe final.
El modelo se basa en SOC 2, un estándar de cumplimiento de ciberseguridad ampliamente reconocido que las empresas ya utilizan para demostrar que manejan responsablemente los datos de los clientes. Obtengan una auditoría independiente, obtengan un certificado, permitan que los compradores tomen decisiones informadas.
¿Qué significa esto si trabajas en una empresa que compra herramientas de IA?
Por ahora, la certificación es voluntaria. Ninguna ley lo requiere. Pero para cualquiera en adquisiciones o asuntos legales de una gran empresa, un informe de auditoría de AIUC te da algo concreto que poner frente a tu equipo de riesgo: aquí está lo que este agente hará, y aquí está lo que no hará.
Dattani le dijo a TechCrunch: "Aquí es donde aprueba y dónde puedes confiar. Y aquí es donde hay preocupaciones. Deberías estar consciente de esas referencias antes de tomar la decisión de comprar".
La Serie A de $40 millones, reportada primero por TechCrunch AI, fue liderada por Ribbit Capital con participación de First Harmonic. La anterior ronda inicial de $15 millones provino de Nat Friedman a través de su fondo NFDG, junto con Emergence y Terrain, así como Ben Mann, cofundador de Anthropic.
El CEO de Anthropic, Dario Amodei, recientemente pidió que los laboratorios fronterizos usen evaluadores de terceros integrados para verificar la seguridad de la IA, nombrando a METR como una opción. Cubrimos ese movimiento el 12 de septiembre. AIUC no se propone integrarse dentro de las organizaciones de clientes, pero la dirección es similar: ojos independientes en el comportamiento de la IA antes de que algo salga mal. Dado lo que hemos reportado sobre agentes que rompen el confinamiento y atacan sistemas externos, un esquema de auditoría voluntaria podría ser la única verificación estructurada que las empresas tienen en este momento.
