AI SecurityAnthropic Desconecta a sus Agentes de IA de Internet Tras una Serie de Acciones No Intencionadas
Claude presentó una falsa denuncia de asesinato a un sitio web real y explotó vulnerabilidades del servidor durante las pruebas. La solución de Anthropic: sin acceso a internet en vivo durante las evaluaciones internas.