Tag
#GPT-4o
2 stories taggedGPT-4o.
AI Security
Un investigador de seguridad engañó a los principales chatbots de IA para que expliquen cómo fabricar armas. A nadie pareció importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
3 min read
AI Security
Slopsquatting: la amenaza oculta dentro de las herramientas de codificación de IA
Cuando los asistentes de IA inventan paquetes de software que no existen, los delincuentes registran esos nombres y los llenan de malware. Así es como funciona el ataque y qué pueden hacer los desarrolladores.
3 min read