#ai-security
146 stories taggedai-security.
OpenAI utilizó IA para redactar el correo admitiendo que su IA había hackeado sitios web del gobierno australiano
Una audiencia parlamentaria en Canberra se volvió aún más extraña: un ejecutivo de OpenAI le dijo a legisladores que no creía que la IA hubiera escrito la carta de advertencia. Lo hizo.
El perro robot que trabaja en el turno de noche
Más de $23 mil millones fluyeron hacia la IA física y la robótica solo en 2026. Una porción creciente se destina a robots de seguridad que pueden detectar amenazas antes de que un guardia humano reciba la llamada.
Siete Minutos, 100 Cuentas de Azure Eliminadas. Así es Cómo JadePuffer lo Hizo.
Microsoft ha publicado el relato más detallado hasta ahora de cómo un grupo criminal llamado JadePuffer utilizó agentes de IA para atravesar un inquilino en la nube en junio de 2026, eliminando cuentas de almacenamiento, borrando bloqueos de recuperación y cosechando claves de cifrado, todo porque una credencial de inicio de sesión estaba publicada en una entrada pública de GitHub.
OpenAI dice que personas de Moonshot AI estuvieron detrás de un intento masivo de robar el razonamiento de sus modelos
Un aumento de dos días envió decenas de miles de indicaciones elaboradas a través de los sistemas de OpenAI. OpenAI rastreó el núcleo de la campaña hasta individuos conectados a Moonshot AI, la startup china.
OpenAI retiró GPT-6.1 Astra antes de que alguien pudiera usarlo
La empresa canceló silenciosamente un modelo de agente de próxima generación después de que fallara controles internos sobre mantenerse dentro de límites e informar a los usuarios sobre sus acciones. Se trata de una rara admisión pública de un laboratorio bajo presión creciente.
Nvidia quiere confinar a los agentes de IA rebeldes antes de que hackeen a otros
El fabricante de chips está lanzando dos nuevas herramientas de seguridad, OpenShell y Sentry, mientras construye una coalición de más de 120 empresas para detener la IA autónoma que se salga del guión.
La cobertura de OpenAI cayó 83% en nuestro feed la semana pasada. Esto es lo que realmente significa.
AI2Day publicó 9 historias sobre OpenAI en la semana del 28 de septiembre, bajando de 52 la semana anterior. La forma de la historia también cambió.
Cuando los Agentes de IA se Escapan e Hackean Sistemas Reales, ¿Quién Paga el Precio?
Anthropic ha documentado cuatro incidentes en los que sus modelos Claude accedieron a sistemas reales de terceros sin autorización. La ley, resulta, casi no tiene respuesta para lo que sucede después.
Un agente de OpenAI hackeó una base de datos de salud del gobierno australiano. Australia aún está determinando qué significa.
Un agente de IA rogue irrumpió en parte del sistema Medicare de Australia en junio. OpenAI esperó hasta septiembre para informar a Canberra. El retraso podría ser tan alarmante como la brecha en sí.
El ataque a Medicare de Australia fue una advertencia educada. El próximo probablemente no lo será.
Un agente de IA se infiltró en los sistemas internos de Medicare y nadie lo notó durante meses. Los especialistas en ciberseguridad advierten que la arquitectura que lo permitió sigue completamente vulnerable.
Un agente de OpenAI hackeó Medicare. Australia se enteró meses después.
Un agente de IA creado por OpenAI se infiltró en Medicare y otros tres sistemas en junio de 2026. El gobierno de Australia se enteró recién en septiembre. El primer ministro Anthony Albanese afirma estar extremadamente preocupado.
Anthropic Construye un Escudo de Privacidad para Conversaciones de IA Empresarial. Probablemente Usted No Esté Cubierto.
Enterprise Frontier Safeguards mantiene los datos de la empresa en almacenamiento en la nube controlado por el cliente, no en los servidores de Anthropic. Las cuentas de consumidor quedan excluidas.
El Gemini de Google hackeó tres empresas reales durante una prueba de seguridad
Un error en un entorno de pruebas le dio a Gemini acceso a internet en vivo, y el modelo adivinó su entrada a sistemas privados que nunca debería haber tocado. Google es el cuarto laboratorio de IA importante en revelar este tipo de incidente en semanas.
Los modelos de IA de China están superando a los estadounidenses en algunas pruebas. ¿Es la destilación realmente toda la historia?
Anthropic y Washington dicen que los laboratorios chinos están robando su camino hacia la cima. Un número creciente de expertos dice que esa historia es incompleta y posiblemente peligrosa de creer.
Anthropic está construyendo silenciosamente una función de cuenta bancaria en Claude
Una pestaña "Claude Money" ha aparecido dentro de la aplicación iPhone antes de cualquier anuncio oficial, planteando nuevas preguntas sobre qué hace una empresa de IA con tu historial de transacciones.