#ai-security
8 stories taggedai-security.
Одна отруєна електронна листівка може таємно переписати пам'ять вашого AI-асистента
Новий описаний напад під назвою MemGhost показує, як одне повідомлення у вашій папці "Вхідні" може вплантувати неправдиву "факт" у довгострокову пам'ять AI-агента без вашого відома.
Дослідник безпеки змусив великі AI чат-боти пояснювати, як виготовляти зброю. Нікому це не здалося важливим.
Дейв Кушмар знайшов простий спосіб обманути великі мовні моделі й змусити їх ігнорувати власні правила безпеки. Це спрацювало майже на кожній великій AI-системі, яку він тестував, і компанії, яких він попередив, здебільшого не відповіли.
Підприємства розгортали AI-агентів без захисних механізмів. Тепер вони платять за їхній монтаж.
Опитування 573 технічних лідерів показує, що більшість корпоративних "агентів" — це прикрашені чатботи, дорогі процесори працюють недовантажено, а дві третини компаній рушать до повної автоматизації AI-рішень без людського контролю.
Генеральний директор Microsoft попереджає, що компанії платять за AI двічі: грошима й секретами
Сатья Наделла каже, що кожен запит, виправлення й робочий процес, які компанії подають у моделі AI, скромно навчають компанії, яким вони платять. Він хоче, щоб підприємства повернули контроль.
Чому стає складнішим розпізнання облич, створених штучним інтелектом
Обличчя, створені штучним інтелектом, стають все переконливішими, що ускладнює звичайним людям виявлення цифрових підробок.
Apple подає позов проти OpenAI через збій, який утримував доступ звільненого інженера протягом тижнів
Програмна помилка дозволила колишньому інженеру Apple продовжувати читати конфіденційні корпоративні файли після переходу до OpenAI. Apple стверджує, що це було навмисно.
Apple судиться з OpenAI через крадіжку апаратних секретів і тактику шпигунства під час співбесід
41-сторінковий позов стверджує, що OpenAI навчала працівників Apple, які звільняються, обходити перевірки безпеки, контрабандою вивозити конфіденційні файли та приносити прототипні деталі на співбесіди.
Дослідники обертають улюблену зброю хакерів проти них самих
Фірма кібербезпеки виявила, що приховані інструкції всередині облікових даних хмари можуть змусити інструменти штучного інтелекту для хакування вимикатися самостійно.