AI SecurityUn investigador de seguridad engañó a los principales chatbots de IA para que expliquen cómo fabricar armas. A nadie pareció importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
