AI SecurityИсследователь безопасности заставил крупные AI-чатботы объяснить, как создавать оружие. Никого это не тревожило.
Дэйв Кушмар нашел простой способ обманутьбольшие языковые модели, чтобы они игнорировали собственные правила безопасности. Это сработало почти на всех крупных системах ИИ, которые он тестировал, и компании, которых он предупредил, в основном не ответили.
