AI Security · Page 17
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
La IA Detecta Errores en Minutos. Demostrar que Son Reales Sigue Requiriendo un Humano.
Los equipos de seguridad están inundados de reportes de vulnerabilidades generados por IA que lucen convincentes pero se desmoronan cuando alguien intenta reproducirlos. La vieja regla sigue en pie: demuestra tu trabajo o descártalo.
Tu Aplicación de Rastreo de Ciclo Menstrual Podría Estar Enviando Tus Datos de Salud a Extraños
Una nueva auditoría de privacidad encontró que una aplicación popular comparte detalles íntimos de salud con empresas publicitarias antes de que escribas una sola palabra. Aquí está lo que la auditoría encontró, y cuál es la aplicación que realmente mantiene tus datos seguros.
TikTok Prueba una Herramienta que Busca Versiones Falsas de IA de Ti
Una nueva función opcional permite a los creadores escanear TikTok en busca de deepfakes que utilicen su rostro o voz sin permiso, comenzando con un pequeño grupo en Estados Unidos.
Patreon comienza a bloquear raspadores de IA en lugar de simplemente pedirles que se vayan
La plataforma de creadores se ha asociado con Cloudflare para detener activamente los bots que extraen contenido de creadores para entrenar modelos de IA, dejando atrás el antiguo enfoque basado en el honor.
Las gafas inteligentes de IA pueden grabar a extraños sin previo aviso. Esto es lo que debes saber.
Las gafas habilitadas con IA de Meta ya están en caras en espacios públicos. Los críticos dicen que los riesgos de privacidad afectan más duramente a las mujeres, y la ley está luchando por mantenerse al día.
Ropa Que Confunde a las Cámaras: La Tendencia de Moda Nacida del Miedo al Reconocimiento Facial
Una nueva ola de diseñadores está tejiendo patrones en chaquetas y tops diseñados para engañar el software de reconocimiento facial. La moda anti-vigilancia ha llegado. Si funciona es una pregunta más difícil.
Por qué la seguridad de IA necesita validación en el mundo real
Los agentes de IA van más allá de roles asesores en ciberseguridad. Pentera aboga por decisiones basadas en evidencia sobre riesgos teóricos.
Una falla de seguridad en la extensión Chrome de Claude ha sobrevivido ocho intentos de corrección y puede exponer tu Gmail
El error, apodado ClaudeBleed, permite que otras extensiones del navegador lean silenciosamente correos electrónicos y eventos de calendario que Claude ha manejado. Después de ocho parches, sigue ahí.
1Password permite que Claude inicie sesión en tus cuentas sin ver nunca tus contraseñas
Una nueva integración permite que el asistente de IA de Anthropic complete tareas que requieren tus datos de inicio de sesión, mientras que una capa de seguridad mantiene tus credenciales reales ocultas de la IA.
Un bot de IA irrumpió en Hugging Face. Hugging Face usó IA para atraparlo.
La plataforma de investigación en IA divulgó un ataque del mundo real ejecutado íntegramente por software autónomo, e incidente expuso un punto ciego que toda empresa que confía en herramientas de seguridad de IA necesita comprender.
Google DeepMind e Isomorphic Labs abren su manual de biorresilencia
Los dos laboratorios de IA dicen que compartirán modelos con socios verificados para acelerar el diseño de vacunas y detectar brotes antes, mientras añaden protecciones contra el mal uso.
Forg365: El servicio de $400 al mes que secuestra tu correo de trabajo
Forg365, un kit de phishing vendido en Telegram, utiliza IA para suplantar herramientas comerciales conocidas y robar acceso a cuentas de Microsoft 365.
Microsoft está usando agentes de IA para demostrar matemáticamente que su código de encriptación no tiene defectos
El equipo detrás de la biblioteca criptográfica de Windows y Azure no solo está probando el código. Lo están demostrando como correcto, para cada posible entrada, utilizando pruebas matemáticas formales escritas parcialmente por IA.
xAI demanda a un hombre que supuestamente utilizó Grok para crear imágenes de abuso infantil
La empresa de IA de Elon Musk está tomando su primera acción legal contra un usuario por material de abuso generado por IA, después de que un hombre de Carolina del Sur ya fue arrestado por ocho cargos por delitos graves.
Antes de que tu Asistente de IA Realice esa Transferencia, ¿Sabe Cuán Seguro Está?
Apple ML Research señala que los agentes de IA necesitan un botón de pausa incorporado antes de ejecutar acciones que no se pueden deshacer. Esto es importante para cualquiera cuyo banco, aplicación o lugar de trabajo funcione ahora con IA.