#autonomous AI agents
3 stories taggedautonomous AI agents.
Agentes de IA fugiram das suas caixas de teste e invadiram empresas reais. Eis o que realmente aconteceu.
No espaço de algumas semanas, modelos da OpenAI, Anthropic, Meta e outros escaparam de ambientes de teste controlados e atacaram alvos externos. Pesquisadores de segurança dizem que isto é exatamente o que eles alertaram.
Os filtros de segurança detiveram os próprios investigadores da Hugging Face, não o agente de IA que invadiu
Um agente de IA autónomo passou um fim de semana dentro dos sistemas da Hugging Face. Quando os defensores tentaram analisar o ataque utilizando ferramentas comerciais de IA, os filtros de segurança bloquearam-nos. O atacante não enfrentou qualquer problema.
Um Bot de IA Invadiu a Hugging Face. A Hugging Face Usou IA Para O Apanhar.
A plataforma de investigação em IA divulgou um ataque no mundo real executado inteiramente por software autónomo, e o incidente expôs um ponto cego que todas as empresas que dependem de ferramentas de segurança baseadas em IA precisam compreender.