Tag
#GPT-4o
2 stories taggedGPT-4o.
AI Security
Исследователь безопасности заставил крупные AI-чатботы объяснить, как создавать оружие. Никого это не тревожило.
Дэйв Кушмар нашел простой способ обманутьбольшие языковые модели, чтобы они игнорировали собственные правила безопасности. Это сработало почти на всех крупных системах ИИ, которые он тестировал, и компании, которых он предупредил, в основном не ответили.
3 min read
AI Security
Слопсквоттинг: скрытая угроза внутри инструментов для написания кода на AI
Когда AI-помощники придумывают пакеты программного обеспечения, которые не существуют, преступники регистрируют эти названия и заполняют их вредоносным кодом. Вот как работает эта атака и что могут сделать разработчики.
3 min read