Tag
#jailbreaking
3 stories taggedjailbreaking.
AI Security
Los chatbots de IA nunca podrían ser completamente a prueba de ataques, advierten investigadores
Un defecto en cómo los grandes modelos de lenguaje leen texto significa que los atacantes pueden engañarlos para que ignoren sus propias reglas de seguridad, y la solución podría no existir.
5 min read
AI Security
Los investigadores encontraron cientos de formas de quebrantar las reglas de seguridad de la IA, y costó menos que una cena
Una organización sin fines de lucro de seguridad ejecutó una herramienta automatizada contra siete modelos de IA líderes. Dos fallaron estrepitosamente. ¿El precio para hacerlos comportarse mal? Tan bajo como $58.
4 min read
AI Security
Un Investigador de Seguridad Engañó a Grandes Chatbots de IA para Explicar Cómo Fabricar Armas. A Nadie Pareció Importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
4 min read