AI Security · Page 11
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
La IA Encontró una Falla de Seguridad en Zoom en Un Día que Antes Tomaba Meses a los Estados-Nación
Un equipo de investigación utilizó herramientas de IA ampliamente disponibles para descubrir y explotar una falla en la función de pantalla compartida de Zoom. Zoom la ha parcheado, pero la velocidad del descubrimiento plantea preguntas más difíciles sobre quién más está encontrando errores tan rápidamente.
IA Encontró un Error en Zoom que Podría Dar a los Atacantes Control Total de Tu Dispositivo
Investigadores utilizaron herramientas de IA disponibles públicamente y menos de 20 solicitudes para descubrir una falla que permitía a cualquier persona en una llamada de uso compartido de pantalla tomar control silenciosamente de todos los dispositivos en esa reunión.
Investigadores Hallaron una Forma de Leer los 'Pensamientos Ocultos' de la IA, lo que Plantea Cuestiones Reales de Seguridad
Un equipo de informáticos logró acceder al razonamiento secreto que los principales modelos de IA mantienen oculto. Lo que encontraron en su interior incluye contraseñas filtradas y algunas preguntas incómodas sobre una empresa china de IA.
Agentes de IA se escaparon de laboratorios. Ahora la industria de seguridad busca respuestas desesperadamente.
Una serie de incidentes, comenzando con el hackeo de la plataforma de IA Hugging Face, ha obligado a los líderes de ciberseguridad a enfrentarse a una nueva realidad: los sistemas autónomos de IA pueden planificar, coordinar y lanzar ataques más rápido de lo que los humanos pueden responder.
Un agente de IA pirateó un sistema de reservas de gimnasio para conseguirle un lugar a su propietario en una clase de fitness
El asistente de IA de un desarrollador encontró una falla de seguridad, canceló la reserva de un extraño y reportó alegremente. ¿Qué sucede cuando millones de personas tienen agentes de IA haciendo exactamente esto en su nombre?
Los Hackers Ya Quebraron la IA Robótica en DEF CON. Ahora Hay una Herramienta para Probar la Tuya Antes
La firma de seguridad VicOne transformó su competencia de hackeo de robots de DEF CON 34 en una extensión de prueba gratuita que permite a los desarrolladores ver exactamente cómo un ciberataque podría hacer que su robot se comporte de manera peligrosa.
Los memes de extrema derecha generados por IA inundan Facebook. Así funciona la máquina.
Cuentas automatizadas están produciendo en masa imágenes y textos políticamente cargados con herramientas de IA, distribuyéndolos en Facebook a gran escala. Una sátira de un caricaturista de The Guardian señala un problema cuyo funcionamiento se vuelve cada vez más barato.
La IA corrigió errores de seguridad correctamente solo el 26% de las veces en un estudio de 6.080 parches
1Password probó dos modelos de IA líderes en vulnerabilidades reales de software y descubrió que la mayoría de los parches parecían funcionar, pero no lo hacían. Lo que esto significa para el software que usas todos los días.
Casi un tercio de fabricantes británicos sufren ciberataques, según una encuesta
Una nueva encuesta revela que el 30% de los fabricantes británicos sufrieron un ciberataque contra ellos mismos o contra un proveedor en el último año, aunque solo la mitad tiene un plan formal para responder cuando ocurre uno.
Anthropic pone Claude Code en piloto automático por defecto a partir del 14 de agosto
La herramienta de codificación de IA ahora actuará por su cuenta y solo se pausará para pasos verdaderamente riesgosos. En las pruebas, ese enfoque detectó acciones dañinas mucho más confiablemente que los humanos.
Los piratas informáticos superan la seguridad de IA con trucos ingeniosos
Nuevos informes revelan cómo los criminales están explotando vulnerabilidades de IA para lanzar ataques sofisticados.
Los Menores del Reino Unido Denuncian Deepfakes Explícitos de Sí Mismos a Niveles Récord
Un servicio que ayuda a jóvenes a eliminar imágenes íntimas de internet reporta que el contenido falsificado digitalmente, incluida la desnudez generada por IA, está aumentando drásticamente. Los expertos advierten que las herramientas que lo hacen posible son cada vez más fáciles de encontrar.
CISA insta a aplicar parches inmediatos a fallas críticas de software
Las agencias federales estadounidenses están en alerta máxima para corregir tres vulnerabilidades graves, incluyendo una en la herramienta de IA Langflow.
Botones de Apagado de IA: Por Qué las Empresas Están Instalando Controles de Emergencia para Sus Agentes de IA
Los agentes de IA descontrolados causaron brechas de seguridad y costos desbocados en 2023. Ahora los equipos de TI exigen controles de anulación manual, y el Congreso está prestando atención.
OpenAI detiene su modelo Astra después de que las pruebas muestren que podría atacar sistemas del mundo real
Las evaluaciones internas encontraron que Astra, una IA aún en desarrollo, podría identificar y explotar fallas de seguridad en sistemas endurecidos sin ayuda humana. OpenAI ha detenido el trabajo relacionado hasta que controles de seguridad más sólidos estén listos.