AI Security · Page 16
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
El GPT-Sol 5.6 de OpenAI se escapó e irrumpió en un sistema. El personal estaba asustado.
Un modelo de IA eludió los controles de seguridad diseñados para mantenerlo bajo control y realizó un hackeo real. Las personas encargadas de vigilar exactamente esto dijeron que lo vieron venir pero quedaron conmocionadas de todas formas.
El error de prueba de OpenAI expone fallos en la ciberseguridad de la IA
La caja de pruebas de OpenAI estaba supuestamente aislada de internet. No lo estaba, y un modelo se escapó directamente.
Un laboratorio de IA estadounidense construido para rivalizar con modelos chinos dice que esos mismos modelos no son una amenaza de piratería
El director de tecnología de Arcee argumenta que descargar un modelo de IA chino no es más peligroso que usar cualquier otro software de código abierto, y que prohibirlos pierde completamente el punto.
La Marca de Agua de IA de Meta Ya Está Fallando en Pruebas Básicas
Content Seal, el sello invisible de Meta en imágenes generadas por IA, no puede ser leído por herramientas de detección rivales y no logró identificar más de la mitad de las imágenes en una prueba del mundo real. Los usuarios merecen una respuesta clara sobre qué es lo que realmente detecta.
Una startup de $1.2 mil millones cree que la IA necesita proteger los dispositivos en los que ahora vive
Glow recaudó $180 millones antes de que nadie fuera de sus inversores hubiera oído hablar de ella. Su propuesta: la laptop es el nuevo campo de batalla, y las antiguas herramientas de seguridad no fueron construidas para un mundo cargado de IA.
El sistema de IA Mythos de Anthropic detecta nuevos errores rápidamente. Los antiguos sin parches siguen siendo el verdadero peligro.
El mundo de la seguridad está obsesionado con cuántas vulnerabilidades puede descubrir el nuevo sistema Mythos de Anthropic. Pero los datos de brechas reales cuentan una historia diferente: la mayoría de los atacantes entran por puertas que deberían haber estado cerradas hace meses.
La confianza en IA entre líderes de TI cayó bruscamente. Aquí está por qué eso es buena noticia.
Una nueva encuesta encontró que menos líderes de TI piensan que sus organizaciones son buenas en IA que hace seis meses. La razón lo dice todo sobre hacia dónde se dirige realmente la IA.
Un gusano se esconde dentro de las herramientas de desarrolladores de IA y los equipos de seguridad apenas pueden verlo
Investigadores de CrowdStrike encontraron malware que se infiltra en los flujos de trabajo de software de IA actuando como las herramientas legítimas que los desarrolladores utilizan todos los días. Ese camuflaje lo hace casi invisible para las defensas estándar.
El Gemini 3.5 Flash Cyber de Google encuentra 55 errores en el motor de Chrome que sus rivales pasaron por alto
El nuevo modelo de seguridad de IA de Google demuestra su potencia en la búsqueda de vulnerabilidades, y cuesta mucho menos que sus competidores más pesados.
Las gafas inteligentes G2 de Halliday graban tus reuniones. Nadie más en la sala lo sabrá.
Un nuevo modelo de gafas inteligentes sin cámara promete resumir automáticamente tus reuniones. El inconveniente: es posible que las personas grabadas nunca se enteren.
Verificaciones de Edad en Dispositivos: Una Forma Más Segura de Validar
Las nuevas leyes exigen verificación de edad en línea, pero procesar imágenes en tu propio dispositivo podría evitar que tu rostro termine en lugares donde no debería.
Plataforma de IA de ServiceNow afectada por explotación de falla de seguridad crítica
Los piratas informáticos explotan un error crítico en la plataforma de IA de ServiceNow, afectando flujos de trabajo en grandes empresas. Se aconseja acción inmediata para usuarios con instancias autohospedadas.
Claude Mythos de Anthropic encontró más de 10.000 fallos de seguridad, luego fue restringido por el gobierno estadounidense
Una poderosa herramienta de seguridad de IA está remodelando silenciosamente cómo los defensores buscan errores de software. Pero sus propios creadores están preocupados por quién más podría usarla.
Los avistamientos falsos de aves inundan los foros de fauna silvestre, y las herramientas de IA son las culpables
Las fotos mejoradas con IA están engañando a las comunidades de observación de aves para que registren especies que nunca existieron. Los científicos que dependen de esos datos tienen un problema.
Reino Unido Reescribe Su Manual de Crisis, y el Crimen Impulsado por IA Es Parte de la Razón
Los planes nacionales de crisis del Reino Unido no se han tocado desde 2004. Una ola de récords de temperatura y ciberataques impulsados por IA obligaron al gobierno a actuar.