Un sistema de IA de Anthropic se entrenó a sí mismo para ser más seguro, rápido y económico que los investigadores humanos
Un nuevo documento de Anthropic muestra un sistema automatizado que corrige el comportamiento inadecuado de la IA por su cuenta, superando a investigadores experimentados en menos de seis horas a una fracción del costo.
Puntos clave
- Anthropic publicó un documento el viernes que muestra un sistema automatizado que mejoró el desempeño de seguridad de la IA en los 10 puntos de referencia de prueba sin afectar la calidad general.
- El mejor método automatizado superó lo que propusieron investigadores experimentados, en promedio dentro de seis horas.
- Ejecutar el sistema automatizado cuesta aproximadamente $4 por hora, en comparación con los $150 por hora que Anthropic paga a investigadores humanos.
- El documento fue dirigido por Chen Yueh-Han, Compañero de Anthropic, y es un primer paso hacia sistemas de IA que mejoren su propio entrenamiento.
Las empresas de IA están intentando cada vez más que la IA entrene a otra IA. Anthropic acaba de mostrar al mundo cómo se ve eso cuando realmente funciona.
El viernes, Anthropic publicó un documento titulado "Automated Researchers Can Reliably Mitigate Alignment Failures", describiendo un sistema que denomina Automated Alignment Researcher, o AAR. Alineación significa asegurar que un modelo de IA se comporte de la manera que sus creadores pretenden en lugar de producir resultados dañinos o engañosos. Mantener un modelo alineado es normalmente un trabajo lento y costoso realizado por especialistas humanos.
El AAR realiza ese trabajo por su cuenta. Hemos estado siguiendo este tema desde nuestro primer artículo sobre IA que se mejora a sí misma el 28 de julio de 2026, y este es el resultado más claro hasta ahora.
¿Qué exactamente hizo el sistema?
Ante 10 pruebas separadas para tipos específicos de comportamiento inadecuado de la IA, el AAR mejoró la puntuación del modelo en cada una sin hacerlo peor en otras tareas. Ese éxito completo es importante: los intentos anteriores de corregir un problema a menudo rompían algo más.
El sistema lee literatura científica disponible, propone una solución, entrena el modelo usando esa solución durante 30 minutos, luego verifica si las cosas mejoraron. Los métodos que funcionan se mantienen; los que no funcionan se descartan. Se repite esto en varios ciclos, cada vez elevando el estándar un poco más.
"Estos resultados proporcionan evidencia preliminar de que el post-entrenamiento automatizado de alineación podría volverse práctico en el corto plazo", afirma el documento.
Dirigido por Chen Yueh-Han, Compañero de Anthropic, el proyecto es un paso concreto hacia lo que los investigadores llaman mejora recursiva automática: la idea de que un sistema de IA podría mejorar en su propio entrenamiento, no solo en las tareas para las que fue construido.
¿Cómo se compara con investigadores humanos?
Más rápido y mucho más económico. El documento establece el costo en $4 por hora para el sistema automatizado frente a $150 por hora para un investigador humano. El mejor método del AAR superó lo que investigadores experimentados propusieron dentro de seis horas en promedio. "Las direcciones de investigación guiadas por humanos no conducen a un desempeño más fuerte", señala el documento.
Es una afirmación sorprendente, y los autores no la ocultan.
| Métrica | AAR (automatizado) | Investigador humano |
|---|---|---|
| Costo por hora | $4 | $150 |
| Tiempo para superar propuestas humanas | Menos de 6 horas | Línea base |
| Puntos de referencia mejorados | 10 de 10 | Promedio inferior |
¿Debería preocuparse alguien?
El documento es franco sobre lo que el sistema aún no puede hacer. El AAR solo funciona tan bien como los puntos de referencia contra los que se mide. Si esas pruebas no capturan el rango completo de formas en que una IA puede comportarse mal, una puntuación alta significa menos de lo que parece. Alguien aún tiene que diseñar y expandir esas pruebas, y eso sigue siendo trabajo humano especializado.
Los investigadores automatizados también se basan en una biblioteca de literatura de investigación existente. Mantener esa biblioteca actual y precisa es otra responsabilidad humana que no desaparece.
Lo real para observar aquí no es si el AAR vence a un humano en un punto de referencia hoy. Es si Anthropic y los competidores que siguen de cerca pueden ampliar el alcance de lo que esos puntos de referencia realmente prueban. Un sistema que se mejora a sí mismo es tan confiable como los objetivos hacia los que mejora. Por ahora, el AAR acelera una parte de la investigación de seguridad en lugar de reemplazar el campo. Eso sigue siendo un cambio significativo.
