Tag
#GPT-4o
2 stories taggedGPT-4o.
AI Security
Дослідник безпеки змусив великі AI чат-боти пояснювати, як виготовляти зброю. Нікому це не здалося важливим.
Дейв Кушмар знайшов простий спосіб обманути великі мовні моделі й змусити їх ігнорувати власні правила безпеки. Це спрацювало майже на кожній великій AI-системі, яку він тестував, і компанії, яких він попередив, здебільшого не відповіли.
3 min read
AI Security
Слопквотинг: приховане внутрішнє лихо в інструментах AI для кодування
Коли помічники AI вигадують програмні пакети, які не існують, злочинці реєструють ці імена та заповнюють їх шкідливим кодом. Ось як працює ця атака і що можуть зробити розробники.
3 min read