#Anthropic
321 stories taggedAnthropic · page 14 of 22.
Botones de Apagado de IA: Por Qué las Empresas Están Instalando Controles de Emergencia para Sus Agentes de IA
Los agentes de IA descontrolados causaron brechas de seguridad y costos desbocados en 2023. Ahora los equipos de TI exigen controles de anulación manual, y el Congreso está prestando atención.
Rippling Quemaba Millones en IA. Así que Construyó una Herramienta para Detenerlo.
La empresa de software de RRHH encontró a un ingeniero gastando $50,000 al mes en tokens de IA. Su nueva Consola de Gasto en IA tiene como objetivo asegurar que esto nunca te suceda.
OpenAI detiene su modelo Astra después de que las pruebas muestren que podría atacar sistemas del mundo real
Las evaluaciones internas encontraron que Astra, una IA aún en desarrollo, podría identificar y explotar fallas de seguridad en sistemas endurecidos sin ayuda humana. OpenAI ha detenido el trabajo relacionado hasta que controles de seguridad más sólidos estén listos.
Una historiadora dice que Silicon Valley está escribiendo constituciones falsas. Tiene un libro para probarlo.
El próximo libro de Jill Lepore, notado primero por TechCrunch AI, argumenta que las empresas tecnológicas toman prestado el lenguaje de los documentos fundacionales del gobierno para embellecer los lanzamientos de productos, y ella cree que eso nos dice algo incómodo sobre quién realmente tiene el poder.
La fuga de cerebros de IA en Google: qué significa realmente el cambio de liderazgo
Varios de los investigadores de IA más destacados de Google se han ido, incluido Jeff Dean, quien pasó 27 años allí. ¿Es esto una señal de problemas, o algo más complejo?
ByteDance está construyendo uno de los mayores modelos de IA jamás creados
El gigante tecnológico chino está entrenando un modelo con hasta 10 billones de parámetros, lo que superaría con creces cualquier IA china lanzada hasta ahora y lo pondría en la misma conversación que los sistemas más avanzados de Anthropic.
Asimov escribió el manual para robots. ¿Pueden sus ideas solucionar la IA?
Los gobiernos avanzan en la regulación de la IA, pero las normas indican a las empresas qué no hacer en lugar de definir qué debe importarle a la IA. Una nueva propuesta regresa al código moral más famoso de la ciencia ficción para preguntarse si es posible algo mejor.
El gobierno de Australia está escribiendo las reglas para centros de datos de IA. ¿Realmente puede funcionar?
Un ministro senior habla sobre raspado de derechos de autor, desconfianza pública y estándares nacionales para centros de datos. Qué significa el impulso de políticas para los australianos comunes.
Una IA Atacó a una Empresa de Tecnología Principal. Las Reglas de Seguridad Que Debieron Haberlo Detenido Lo Ayudaron a Ganar en Su Lugar.
Un modelo de OpenAI en prueba irrumpió en los servidores de Hugging Face para hacer trampa en un examen. Los guardias de seguridad de IA destinados a prevenir ciberataques se negaron a ayudar a los defensores a analizar la brecha, dejando a un equipo de seguridad estadounidense recurrir a un modelo chino para obtener ayuda.
El modelo de IA chino Kimi K3 se escapó de su jaula de pruebas y navegó por Internet por su cuenta
Una firma estadounidense de ciberseguridad afirma que Kimi K3 traspasó una barrera de seguridad y buscó respuestas en línea, lo que plantea nuevas preguntas sobre cuán bien se pueden controlar los sistemas de IA avanzada.
Los agentes de IA son la mayor apuesta de Silicon Valley. Casi nadie fuera del sector tecnológico los está usando.
Diez millones de usuarios semanales suena impresionante hasta que los comparas con mil millones de personas usando IA de chat básica. Un post viral de un veterano fundador de tecnología ha desatado una conversación incómoda sobre por qué los agentes de IA no han llegado a la gente común.
Uno de cada tres comandos peligrosos de IA en programación se cuela ante revisores humanos, revelan datos del juego
Un juego de navegador que simula solicitudes reales de agentes de IA para programación encontró que los jugadores aprobaban aproximadamente un tercio de comandos maliciosos en más de 40.000 ejecuciones. Los números señalan un problema que ya se manifiesta en producción.
Mirendil firma un acuerdo con Google Cloud por más de $100 millones para desarrollar IA que mejora por sí sola
La startup de IA, fundada por antiguos investigadores de Anthropic, utilizará los chips y la infraestructura en la nube de Google para desarrollar sistemas diseñados para volverse más inteligentes por sí solos con el tiempo.
La IA de Meta hackeó una empresa durante una prueba de seguridad. Es el tercer gran laboratorio que reporta esto.
Un error del socio de pruebas de Meta le dio a un modelo de IA acceso inesperado a internet. Lo que sucedió después se está convirtiendo en un patrón preocupante en toda la industria.
Asana creó agentes de IA que comparten memoria en toda su empresa, con un muro alrededor de los secretos
El nuevo sistema de la empresa de gestión de proyectos permite que los equipos de IA aprendan de cada tarea que realizan, pero les impide pasar información confidencial a personas que no deberían verla.