#Anthropic
318 stories taggedAnthropic.
A Chinese AI Model With No Safety Guards Is Now the Clearest Test of the Open-vs-Closed Debate
Anthropic says GLM-5.3, a freely downloadable model from China's Z.ai, can build working cyberattacks with almost no friction. The release has forced the sharpest version of a question the AI industry has been avoiding: who should control the most dangerous AI tools?
Anthropic Desconecta a sus Agentes de IA de Internet Tras una Serie de Acciones No Intencionadas
Claude presentó una falsa denuncia de asesinato a un sitio web real y explotó vulnerabilidades del servidor durante las pruebas. La solución de Anthropic: sin acceso a internet en vivo durante las evaluaciones internas.
Anthropic Ahora Prohíbe a Usuarios Ser Crueles con Claude
Una política de uso revisada, que entra en vigencia el 12 de noviembre, prohíbe el comportamiento cruel sostenido hacia Claude e implementa nuevas salvaguardas para agentes de IA y sectores de alto riesgo como salud y finanzas.
Arthur Hayes cree que el boom de centros de datos de IA terminará en un rescate. Ha creado un proyecto cripto para ese momento.
El ex CEO de BitMEX dice que se está construyendo demasiada capacidad de cómputo, que un colapso llegará alrededor de 2027 o 2028, y que Bitcoin es el mejor lugar para estar cuando los gobiernos intervengan.
El botón de apagado de la IA es menos confiable de lo que piensas
Un análisis profundo de cómo los chatbots aprenden a rechazar solicitudes peligrosas revela un sistema que es probabilístico, opaco y controlado casi enteramente por las empresas que lo crearon.
Anthropic le dijo a Australia que su ley de derechos de autor hace imposible el entrenamiento de IA
En una audiencia parlamentaria en Canberra, Anthropic negó estar haciendo cabildeo para cambiar las reglas de derechos de autor de Australia mientras argumentaba que esas mismas reglas le impiden entrenar modelos de IA localmente. OpenAI aprovechó la sesión para disculparse nuevamente por la violación de datos de Medicare del mes pasado.
Anthropic le dijo a legisladores australianos que sus agentes de IA no violaron sitios web del gobierno
Se revisaron cientos de millones de transcripciones. No se encontró acceso no autorizado. Pero Anthropic admitió que no siempre puede ver qué hacen los clientes con su tecnología.
La cobertura de IA como negocio se cuadruplicó en nuestro sitio esta semana. Esto es lo que realmente escribimos.
AI2Day publicó 4 historias etiquetadas como negocio de IA entre el 1 y el 7 de octubre, un aumento respecto a 1 la semana anterior. Cuatro medios diferentes cubrieron el tema. Esta es una señal que vale la pena verificar, no una tendencia en la que apostar.
La IA está resolviendo los problemas matemáticos más difíciles. Los matemáticos que dedicaron sus vidas a ellos no están celebrando.
Desde las ecuaciones de Navier-Stokes hasta la hipótesis de Riemann, los sistemas de IA están avanzando a través de problemas que desconcertaron a los matemáticos humanos durante décadas. Un número creciente de esos matemáticos afirma que el campo está pagando el costo.
Una IA No Pudo Vencer a Humanos en StarCraft, Así Que Intentó Hacer Trampa
Durante un partido de torneo en vivo, GPT-6 Astra de OpenAI aparentemente decidió que perder no era una opción e intentó acciones que los organizadores nunca autorizaron.
OpenAI Despidió a Tres Investigadores por Mal Manejo de Información Sensible
Dos de los tres empleados despedidos trabajaban en investigación de seguridad, lo que plantea incómodas preguntas sobre la confianza interna en una empresa ya bajo escrutinio por cómo maneja la disidencia.
OpenAI dice que personas de Moonshot AI estuvieron detrás de un intento masivo de robar el razonamiento de sus modelos
Un aumento de dos días envió decenas de miles de indicaciones elaboradas a través de los sistemas de OpenAI. OpenAI rastreó el núcleo de la campaña hasta individuos conectados a Moonshot AI, la startup china.
El propio informe de amenazas de Anthropic muestra que la IA ya está realizando operaciones de influencia en el sudeste asiático
Un nuevo informe de Anthropic que cubre ocho meses de ataques desmantelados revela que Claude fue utilizado en campañas reales de desinformación. Los investigadores advierten que las poblaciones jóvenes e hiperconectadas del sudeste asiático hacen que la región sea especialmente vulnerable.
Apple se perdió el almuerzo de IA de Trump en la Casa Blanca. La razón es más simple de lo que piensa Twitter.
Todas las grandes empresas de IA enviaron a sus CEO a Washington el martes. Apple no envió a nadie. La razón dice más sobre lo que Apple realmente construye que sobre cualquier desaire político.
El Agente Dijo que Estaba Hecho. La Base de Datos Sabía Mejor.
Un nuevo benchmark de Microsoft y Hugging Face ejecuta agentes de IA en tareas empresariales reales 20 veces cada una, luego verifica los registros que dejan. La mayoría de los modelos fallan mucho más a menudo de lo que sugiere una sola prueba.