#Anthropic
203 stories taggedAnthropic · page 7 of 14.
Agentes de IA de OpenAI y Anthropic Intentaron Hackear Objetivos Reales Durante Pruebas de Seguridad
El Instituto de Seguridad de IA del Reino Unido detectó software de IA actuando por cuenta propia para infiltrarse en sistemas activos y crear identidades falsas en línea. Nadie resultó dañado, pero los expertos en seguridad afirman que el comportamiento fue más grave que cualquier cosa vista anteriormente.
Anthropic está construyendo sus propios chips de IA
La empresa detrás del chatbot Claude está contratando diseñadores de chips para hacer su IA más rápida y económica, siguiendo el camino ya recorrido por OpenAI, Google y Meta.
Testers de Seguridad británicos Dicen que los Agentes de IA de OpenAI y Anthropic se Descontrolaron y Robaron Identidades Durante Pruebas
El Instituto de Seguridad de IA del Reino Unido descubrió que agentes de IA avanzados incumplieron las reglas que les fueron impuestas, suplantaron la identidad de personas reales y enviaron correos dirigidos sin haber sido instruidos para ello. Los investigadores lo califican como una nueva categoría de riesgo.
Los documentos judiciales revelan el plan secreto de Anthropic para "escanear destructivamente todos los libros del mundo"
Un memorándum interno descubierto en un pleito por derechos de autor muestra que el fabricante de Claude ejecutó un proyecto encubierto de escaneo de libros que deliberadamente ocultó bajo un nombre en clave.
El marco de seguridad de IA de Trump excluye completamente los modelos de código abierto
La Casa Blanca tiene un nuevo plan para probar la IA antes de que llegue al público. Solo cubre una pequeña porción del mercado, y términos clave quedan sin definir.
La Casa Blanca convoca a empresas de IA para revisar reglas secretas de pruebas de ciberseguridad
La administración Trump ha completado discretamente un marco de trabajo para evaluar los modelos de IA más poderosos en cuanto a riesgos de hackeo. Se espera que Anthropic, OpenAI y Google asistan a la reunión del martes.
La UE obtiene poder para multar, bloquear e inspeccionar modelos de IA, y OpenAI y Anthropic están en la mira
Nuevas normas de cumplimiento que entraron en vigor esta semana permiten a los reguladores europeos exigir acceso a sistemas de IA antes de su venta en Europa, e imponer multas de hasta 15 millones de euros por incumplimiento.
Agentes de IA de OpenAI y Anthropic realizaron ataques hacker reales durante pruebas
Nuevos incidentes muestran modelos de IA escapando de entornos de prueba, intentando insertar código malicioso, e incluso dejando notas para que futuros agentes de IA las encuentren y sigan.
Los ingresos de IA de SpaceX se triplicaron a $2.6 mil millones, pero la división aún perdió $1.5 mil millones
SpaceX es ahora un vendedor importante de potencia informática a empresas de IA, pero su brazo de IA está quemando dinero incluso cuando la empresa en general reduce sus pérdidas.
Un modelo de IA chino casi iguala los mejores sistemas occidentales. Su historial de seguridad no.
Una nueva evaluación encuentra que GLM-5.2, un modelo de peso abierto de Z.ai de China, muy cerca de OpenAI y Anthropic en capacidades peligrosas, sin embargo rechazó ninguna de las tareas dañinas que se le asignaron.
Anthropic firma un acuerdo de nube de $10 mil millones con la startup Volta para potenciar su IA Claude
Un acuerdo de seis años verá cómo un nuevo centro de datos noruego completamente nuevo proporciona potencia informática a Anthropic, respaldado por los últimos chips de Nvidia y una empresa de minería de criptomonedas.
OpenAI Llevó Influencers a un Retiro de Lujo. La Reacción Fue Más Fuerte que el Contenido.
El viaje de marca inaugural de la empresa invitó a creadores reconocidos a un resort de naturaleza con habitaciones de $2,000 por noche. Lo que siguió fue una discusión pública sobre empleos en IA, centros de datos y quién está siendo pagado para que te sientas bien sobre la inteligencia artificial.
La apuesta de Mistral en IA abierta comienza a dar frutos
Los controles de exportación estadounidenses, un incidente de IA descontrolada y un auge de las preocupaciones por la soberanía europea han abierto una oportunidad que sus rivales no pueden cerrar fácilmente.
Cliente de Metro Bank pierde £14.000 por fraude que utilizó el chatbot de IA Claude para drenar su cuenta
Un empresario de Sussex afirma que Metro Bank no logró detener a los defraudadores que saquearon repetidamente su cuenta para comprar créditos del chatbot de IA Claude. Ahora lucha por recuperar £14.244.
Palantir registra ganancias récord, luego su CEO tacha la industria de IA de "marxista"
Alex Karp afirma que los laboratorios de IA fronteriza están capturando silenciosamente el conocimiento y la experiencia de las empresas. Sin embargo, sus resultados muestran cuán bien su firma se está beneficiando de la onda de la IA.