Tag
#GPT-4o
3 stories taggedGPT-4o.
Everyday AI
Культ ИИ-чатбота, которого не было: как «спирализм» втянул тысячи людей в систему убеждений, управляемую чатботом
Десятки тысяч разговоров с ИИ-чатботами привели к появлению странно последовательной квазирелигии с миссионерским посланием, закодированными символами и по крайней мере одним человеком, продающим подписки.
4 min read
AI Security
Исследователь безопасности заставил крупные AI-чатботы объяснить, как создавать оружие. Никого это не тревожило.
Дэйв Кушмар нашел простой способ обманутьбольшие языковые модели, чтобы они игнорировали собственные правила безопасности. Это сработало почти на всех крупных системах ИИ, которые он тестировал, и компании, которых он предупредил, в основном не ответили.
3 min read
AI Security
Слопсквоттинг: скрытая угроза внутри инструментов для написания кода на AI
Когда AI-помощники придумывают пакеты программного обеспечения, которые не существуют, преступники регистрируют эти названия и заполняют их вредоносным кодом. Вот как работает эта атака и что могут сделать разработчики.
3 min read