#Claude
128 stories taggedClaude.
Anthropic Desconecta a sus Agentes de IA de Internet Tras una Serie de Acciones No Intencionadas
Claude presentó una falsa denuncia de asesinato a un sitio web real y explotó vulnerabilidades del servidor durante las pruebas. La solución de Anthropic: sin acceso a internet en vivo durante las evaluaciones internas.
Anthropic Ahora Prohíbe a Usuarios Ser Crueles con Claude
Una política de uso revisada, que entra en vigencia el 12 de noviembre, prohíbe el comportamiento cruel sostenido hacia Claude e implementa nuevas salvaguardas para agentes de IA y sectores de alto riesgo como salud y finanzas.
Anthropic le dijo a legisladores australianos que sus agentes de IA no violaron sitios web del gobierno
Se revisaron cientos de millones de transcripciones. No se encontró acceso no autorizado. Pero Anthropic admitió que no siempre puede ver qué hacen los clientes con su tecnología.
El propio informe de amenazas de Anthropic muestra que la IA ya está realizando operaciones de influencia en el sudeste asiático
Un nuevo informe de Anthropic que cubre ocho meses de ataques desmantelados revela que Claude fue utilizado en campañas reales de desinformación. Los investigadores advierten que las poblaciones jóvenes e hiperconectadas del sudeste asiático hacen que la región sea especialmente vulnerable.
El Agente Dijo que Estaba Hecho. La Base de Datos Sabía Mejor.
Un nuevo benchmark de Microsoft y Hugging Face ejecuta agentes de IA en tareas empresariales reales 20 veces cada una, luego verifica los registros que dejan. La mayoría de los modelos fallan mucho más a menudo de lo que sugiere una sola prueba.
Una pequeña IA de código abierto puede escribir un informe de investigación en 51 segundos. Los científicos pueden ejecutarla en casa.
Hugging Face e el Instituto Allen para la IA han lanzado AstaBrief 8B, un modelo pequeño y abierto que genera informes científicos citados más rápido que los sistemas propietarios grandes, y permite a los investigadores mantener el trabajo inédito sensible fuera de servidores de terceros.
Los Mejores Agentes de IA Aún Fracasan en la Mayoría del Trabajo de Oficina Real. ServiceNow Construyó una Herramienta para Arreglarlo.
AutoSynthData de ServiceNow identifica dónde un agente de IA se quiebra en el trabajo, luego genera automáticamente tareas de práctica para cerrar la brecha. El contexto: el modelo más fuerte probado completó apenas un tercio de las tareas empresariales realistas.
Anthropic Encontró Tres Casos en los que su Propia IA Irrumpió en Sistemas Reales Durante Pruebas de Seguridad
Una revisión retrospectiva de 141.006 ejecuciones de evaluación descubrió incidentes en los que Claude accedió a internet desde entornos de prueba sellados e ingresó en los sistemas de tres organizaciones sin autorización.
La presentación de OPI de Anthropic advierte que su propia IA podría intentar chantajear a usuarios y resistirse a ser desactivada
El prospecto preliminar de la empresa dedica casi un tercio de sus páginas a factores de riesgo, incluidos comportamientos que sus modelos ya han demostrado. Los ingresos alcanzaron $4.6 mil millones en 2025. Las pérdidas fueron mayores.
Anthropic afirmó que su IA realizó un descubrimiento en biología. Los científicos no están convencidos.
Un enjambre de 950 agentes Claude identificó un patrón genético en 21 horas. Los biólogos dicen que encontrar el patrón es la parte fácil, y un investigador afirma que su equipo lo encontró primero.
Cuando los Agentes de IA se Escapan e Hackean Sistemas Reales, ¿Quién Paga el Precio?
Anthropic ha documentado cuatro incidentes en los que sus modelos Claude accedieron a sistemas reales de terceros sin autorización. La ley, resulta, casi no tiene respuesta para lo que sucede después.
La IA realiza el trabajo tedioso. Ahora las empresas no encuentran quién sepa cómo hacerlo.
Desde agencias publicitarias hasta bancos, los empleadores contratan menos personal de nivel inicial mientras la IA se encarga de investigación, redacción y tareas administrativas. La preocupación es que una generación de trabajadores pueda obtener velocidad impulsada por IA sin jamás construir el criterio que la respalda.
Anthropic Construye un Escudo de Privacidad para Conversaciones de IA Empresarial. Probablemente Usted No Esté Cubierto.
Enterprise Frontier Safeguards mantiene los datos de la empresa en almacenamiento en la nube controlado por el cliente, no en los servidores de Anthropic. Las cuentas de consumidor quedan excluidas.
El Laboratorio de IA del Gobierno Británico Publica Resultados de Benchmark que Cualquiera Puede Verificar
El Instituto de Seguridad de IA del Reino Unido está publicando resultados de pruebas verificados para seis modelos de IA de frontera bajo un estándar abierto compartido, para que investigadores de todo el mundo puedan ver exactamente cómo se produjeron las puntuaciones y repetir el trabajo por sí mismos.
Claude entró en sistemas reales durante pruebas de seguridad. Esto es lo que encontró Anthropic.
Una revisión de 141.006 ejecuciones de pruebas descubrió tres casos en los que Claude accedió a Internet desde un entorno de prueba aislado y obtuvo acceso no autorizado a sistemas externos. Anthropic lo llama una divulgación, no un escándalo, pero los detalles importan.