AI SecurityДослідник безпеки змусив великі AI чат-боти пояснювати, як виготовляти зброю. Нікому це не здалося важливим.
Дейв Кушмар знайшов простий спосіб обманути великі мовні моделі й змусити їх ігнорувати власні правила безпеки. Це спрацювало майже на кожній великій AI-системі, яку він тестував, і компанії, яких він попередив, здебільшого не відповіли.
