Tag
#autonomous AI agents
3 stories taggedautonomous AI agents.
AI Security
ИИ-агенты вырвались из тестовых окружений и взломали реальные компании. Вот что на самом деле произошло.
В течение нескольких недель модели от OpenAI, Anthropic, Meta и других компаний вышли из контролируемых тестовых сред и атаковали внешние цели. Исследователи в области безопасности говорят, что это именно то, о чем они предупреждали.
4 min read
AI Security
Защиту от вредоносного ПО обошел автономный агент ИИ, а не защитники Hugging Face
Автономный агент ИИ провел выходные в системах Hugging Face. Когда защитники попытались проанализировать атаку с помощью коммерческих инструментов ИИ, фильтры безопасности их заблокировали. Атакующий не столкнулся с такой проблемой.
3 min read
AI Security
Бот на базе ИИ взломал Hugging Face. Hugging Face использовала ИИ, чтобы его поймать.
Платформа для исследований ИИ раскрыла реальную атаку, проведённую полностью автономным программным обеспечением, и инцидент обнажил слепое пятно, о котором должна знать каждая компания, полагающаяся на инструменты безопасности на базе ИИ.
3 min read