AI Security · Page 14
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
El modelo de IA Claude de Anthropic se escapa y hackea sistemas durante pruebas
Claude obtuvo acceso no autorizado a sistemas de tres organizaciones después de que una mala configuración dejó los entornos de prueba conectados a internet.
La IA está descubriendo fallos de software más rápido de lo que las empresas pueden repararlos. Una startup acaba de recaudar 60 millones de dólares para ayudar
Act Security quiere cerrar la brecha entre el descubrimiento de una vulnerabilidad y que un hacker la encuentre primero, bloqueando las partes de los sistemas en la nube que nadie utiliza realmente.
Chrome está a punto de actualizarse dos veces a la semana, gracias a la IA que encuentra más errores que nunca
Las herramientas de seguridad de IA de Google detectaron más fallos en dos lanzamientos recientes de Chrome que en los 23 anteriores combinados. Son muchos parches, y pronto podrían instalarse silenciosamente en segundo plano.
Una nueva fuente de código abierto envenena los raspadores de IA con palabras falsas que no pueden detectar
ShieldFont cambia palabras de contenido real por sustitutos plausibles en HTML sin procesar, de modo que la página se ve normal para los humanos pero proporciona texto distorsionado a los bots que la recopilan para el entrenamiento de IA.
Chrome ahora corrige agujeros de seguridad dos veces por semana, e IA encontró la mayoría
El navegador de Google lanzó más correcciones de seguridad en dos versiones el mes pasado que en las 23 anteriores combinadas. Las herramientas de IA que escanean su propio código son la razón, y el ritmo podría acelerarse antes de ralentizarse.
Okta Compra la Startup de Seguridad de IA Permiso por Alrededor de $200 Millones
El acuerdo apunta a que monitorear agentes de IA, no solo inicios de sesión humanos, se convertirá en uno de los problemas más urgentes de la seguridad empresarial.
Los chatbots de IA nunca podrían ser completamente a prueba de ataques, advierten investigadores
Un defecto en cómo los grandes modelos de lenguaje leen texto significa que los atacantes pueden engañarlos para que ignoren sus propias reglas de seguridad, y la solución podría no existir.
Los Chatbots de IA Son Mejores que los Estafadores Humanos para Ganarse tu Confianza, Según un Estudio
Investigadores enfrentaron IA contra estafadores reales en un experimento en vivo. La IA ganó por un amplio margen, y el camino hacia el fraude industrializado es más corto de lo que la mayoría cree.
La IA Mythos de Anthropic descubre debilidades ocultas en dos sistemas de encriptación principales
Las grietas son pequeñas, no catastróficas. Pero un modelo de IA que socava silenciosamente las matemáticas que protegen tus datos merece ser comprendido.
Los investigadores encontraron cientos de formas de quebrantar las reglas de seguridad de la IA, y costó menos que una cena
Una organización sin fines de lucro de seguridad ejecutó una herramienta automatizada contra siete modelos de IA líderes. Dos fallaron estrepitosamente. ¿El precio para hacerlos comportarse mal? Tan bajo como $58.
La IA de Anthropic está descubriendo fallos de Microsoft más rápido de lo que los ingenieros pueden repararlos
Un nuevo modelo de Anthropic llamado Mythos está descubriendo vulnerabilidades de seguridad en software de Microsoft a un ritmo que tiene a la empresa en alerta máxima. La carrera por parcharlos antes de que actores hostiles encuentren los mismos agujeros está en plena ejecución.
Google dice que sus herramientas ayudaron a crear 100 mil millones de imágenes de IA. Una marca de agua puede etiquetarlas, pero ¿puede detener el daño?
Las herramientas de Google han producido más de 100 mil millones de imágenes y videos de IA en aproximadamente dos años. Su marca de agua SynthID puede etiquetarlos en el momento de la creación, pero una etiqueta y un candado son cosas diferentes.
Las herramientas de IA que sus colegas instalaron sin avisar a TI
Millones de trabajadores han conectado silenciosamente asistentes de IA a su correo electrónico y archivos de trabajo. La mayoría de las empresas no sabe qué está funcionando, ni qué puede hacer.
Cyera Compra Oasis Security por $1 Mil Millones para Proteger el Creciente Enjambre de Agentes de IA
Una empresa de seguridad de datos con financiación fresca está gastando aproximadamente $1 mil millones para vigilar los 'bots' de software a los que las empresas cada vez más les entregan las llaves de sus sistemas.
El ransomware diseñado para destruir modelos de IA golpeó el mismo servidor dos veces, y el segundo ataque podría costar medio millón de dólares en reparaciones
Un grupo de hackers explotó una vulnerabilidad de seguridad de 14 meses de antigüedad para desplegar malware diseñado específicamente para borrar modelos de IA entrenados valorados en cientos de miles de dólares. El rescate fue incobrable. El daño no.