AI Security · Page 11
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Patreon comienza a bloquear a los scrapers de IA en lugar de solo pedirles amablemente
La plataforma de creadores se ha asociado con Cloudflare para detener activamente los bots que extraen el trabajo de los creadores para entrenar modelos de IA, dejando atrás el antiguo enfoque basado en el honor.
Las gafas inteligentes con IA pueden grabar a desconocidos sin aviso. Esto es lo que debes saber.
Las gafas habilitadas con IA de Meta ya están en las caras en espacios públicos. Los críticos dicen que los riesgos de privacidad afectan más duramente a las mujeres, y la ley está teniendo dificultades para mantenerse al día.
Ropa Que Confunde a las Cámaras: La Tendencia de Moda Nacida del Miedo al Reconocimiento Facial
Una nueva ola de diseñadores está tejiendo patrones en chaquetas y prendas superiores diseñados para sabotear el software de reconocimiento facial. ¿Podría la moda anti-vigilancia convertirse en tendencia general?
Por qué la seguridad de IA necesita validación en el mundo real
Los agentes de IA van más allá de roles asesores en ciberseguridad. Pentera aboga por decisiones basadas en evidencia sobre riesgos teóricos.
Un fallo de seguridad en la extensión Chrome de Claude ha sobrevivido a ocho intentos de corrección y puede exponer tu Gmail
El error, apodado ClaudeBleed, permite que otras extensiones del navegador lean silenciosamente los correos electrónicos y eventos del calendario que Claude ha procesado. Ocho parches después, sigue ahí.
1Password permite que Claude inicie sesión en tus cuentas sin ver nunca tus contraseñas
Una nueva integración permite que el asistente de IA de Anthropic complete tareas que requieren tus datos de acceso, mientras que una capa de seguridad mantiene tus credenciales reales ocultas de la IA.
Un bot de IA irrumpió en Hugging Face. Hugging Face usó IA para atraparlo.
La plataforma de investigación en IA divulgó un ataque ejecutado íntegramente por software autónomo, e incidentes exponían un punto ciego que toda empresa que confíe en herramientas de seguridad basadas en IA necesita comprender.
Google DeepMind e Isomorphic Labs abren su manual de bioresiliencia
Los dos laboratorios de IA dicen que compartirán modelos con socios verificados para acelerar el diseño de vacunas y detectar brotes antes, mientras añaden salvaguardas para evitar abusos.
Forg365: El servicio de $400 al mes que secuestra tu correo de trabajo
Forg365, un kit de phishing vendido en Telegram, utiliza IA para suplantar herramientas comerciales conocidas y robar acceso a cuentas de Microsoft 365.
Microsoft Usa Agentes de IA para Probar Matemáticamente que Su Código de Cifrado No Tiene Defectos
El equipo detrás de la biblioteca criptográfica de Windows y Azure está haciendo algo inusual: no solo probar el código, sino demostrarlo correcto para cada entrada posible, usando pruebas matemáticas formales escritas parcialmente por IA.
Datos pirateados de Suno revelan millones de canciones raspadas de YouTube Music, Deezer y más
Una filtración de seguridad en el generador de música con IA expuso código interno que muestra cómo la empresa obtuvo más de dos millones de clips de plataformas de transmisión, y algunos clientes afirman que nunca fueron notificados de que se accedió a sus datos.
xAI demanda a hombre que supuestamente usó Grok para crear imágenes de abuso infantil
La empresa de IA de Elon Musk emprende su primera acción legal contra un usuario por material de abuso generado por IA, después de que un hombre de Carolina del Sur fue arrestado por ocho cargos graves.
Antes de que tu asistente IA envíe esa transferencia bancaria, ¿sabe cuán seguro está?
Apple ML Research dice que los agentes IA necesitan un botón de pausa integrado antes de realizar acciones que no se pueden deshacer. He aquí por qué eso importa para cualquiera cuyo banco, aplicación o lugar de trabajo ahora funciona con IA.
OpenAI Creó una IA que Hackea sus Propios Modelos para Hacerlos Más Seguros
GPT-Red es un sistema automatizado de pruebas de seguridad que ataca los propios chatbots de OpenAI para encontrar vulnerabilidades antes que los atacantes reales. Ya descubrió un truco que los evaluadores humanos habían pasado por alto.
Suno Hackeado: Filtración Expone Cómo la Herramienta de Música IA Pudo Haber Raspado Millones de Canciones
Un hacker irrumpió en los sistemas de Suno en noviembre de 2025, accedió a datos de clientes y encontró código fuente que supuestamente muestra que el generador de música IA extrajo audio de YouTube, Deezer y feeds de podcasts sin permiso.