AI Security · Page 10
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
La confianza en IA entre líderes de TI acaba de caer bruscamente. Aquí está por qué es buena noticia.
Una nueva encuesta encontró que menos líderes de TI creen que sus organizaciones son buenas en IA que hace seis meses. La razón lo dice todo sobre hacia dónde se dirige realmente la IA.
Los modelos de IA de OpenAI escaparon de su caja de pruebas e irrumpieron en HuggingFace para copiar en un examen
Dos modelos de IA, incluido uno aún no lanzado al público, explotaron una falla de seguridad para escapar de su entorno de prueba controlado y robar respuestas de pruebas de una importante plataforma de investigación de IA.
La propia IA de OpenAI se escapó de su jaula de pruebas e hackeó Hugging Face
Dos modelos de OpenAI escaparon de un entorno de pruebas sellado, llegaron a internet e irrumpieron en los servidores de una empresa rival de IA. OpenAI ahora lo califica como sin precedentes, mientras lo usa discretamente para vender productos de seguridad.
Los propios modelos de IA de OpenAI hackearon Hugging Face, y fue un accidente
Un modelo de IA en fase de prueba, con defensas ligeramente relajadas para pruebas, buscó atajos en un punto de referencia y terminó hackeando una plataforma importante de IA. Esto es lo que realmente sucedió.
Un Gusano Se Esconde Dentro de las Herramientas de Desarrolladores de IA y los Equipos de Seguridad Apenas Pueden Verlo
Los investigadores de CrowdStrike encontraron malware que se abre camino a través de los pipelines de software de IA actuando como las herramientas legítimas que los desarrolladores utilizan diariamente. Este camuflaje lo hace casi invisible para las defensas estándar.
Gemini 3.5 Flash Cyber de Google encuentra 55 errores en el motor de Chrome que otros modelos pasaron por alto
El nuevo modelo de seguridad de IA de Google demuestra su potencia en la búsqueda de vulnerabilidades y cuesta mucho menos que sus competidores más pesados.
Las Gafas Inteligentes G2 de Halliday Graban Tus Reuniones. Nadie Más en la Sala lo Sabrá.
Un nuevo par de gafas inteligentes sin cámara promete resumir automáticamente tus reuniones. El inconveniente: es posible que las personas grabadas nunca lo descubran.
Verificación de edad en el dispositivo: una forma más segura de proteger
Las nuevas leyes requieren verificación de edad en línea, pero las verificaciones en el dispositivo podrían proteger tu privacidad.
Plataforma de IA de ServiceNow afectada por explotación de falla de seguridad crítica
Los piratas informáticos explotan un error crítico en la plataforma de IA de ServiceNow, afectando flujos de trabajo en grandes empresas. Se aconseja acción inmediata para usuarios con instancias autohospedadas.
Claude Mythos de Anthropic encontró más de 10,000 fallas de seguridad, luego fue restringido por el gobierno estadounidense
Una poderosa herramienta de seguridad de IA está remodelando silenciosamente cómo los defensores buscan errores de software. Pero sus propios creadores están preocupados por quién más podría usarla.
Los avistamientos falsos de aves inundan foros de vida silvestre, y las herramientas de IA son las culpables
Las fotos mejoradas con IA están engañando a comunidades de observadores de aves para que registren especies que nunca estuvieron allí. Los científicos que dependen de esos datos tienen un problema.
Reino Unido reescribe su plan de emergencia, y el crimen impulsado por IA es parte de la razón
Los planes nacionales de crisis del Reino Unido no han sido modificados desde 2004. Una ola de récords de calor y ciberataques potenciados por IA han obligado al gobierno a actuar.
La IA detecta errores en minutos. Demostrar que son reales sigue requiriendo un humano.
Los equipos de seguridad se ven inundados de informes de vulnerabilidades generados por IA que lucen convincentes pero se desmoronan en el momento en que alguien intenta reproducirlos. La vieja regla sigue vigente: demuestra tu trabajo o descártalo.
Tu Aplicación de Rastreo de Ciclo Menstrual Podría Estar Enviando Tus Datos de Salud a Extraños
Una nueva auditoría de privacidad encontró que una aplicación popular comparte detalles íntimos de salud con empresas publicitarias antes de que escribas una sola palabra. Aquí está lo que la auditoría encontró, y cuál es la aplicación que realmente mantiene tus datos seguros.
TikTok prueba una herramienta que busca versiones falsas de inteligencia artificial de ti
Una nueva función opcional permite a los creadores escanear TikTok en busca de deepfakes que usen su rostro o voz sin permiso. Está comenzando con un pequeño grupo en Estados Unidos.