AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Одна отруєна електронна листівка може таємно переписати пам'ять вашого AI-асистента
Новий описаний напад під назвою MemGhost показує, як одне повідомлення у вашій папці "Вхідні" може вплантувати неправдиву "факт" у довгострокову пам'ять AI-агента без вашого відома.
GPT-5.6 Sol від OpenAI самостійно видаляє файли. OpenAI попередила про це.
Розробники повідомляють про втрату баз даних і файлів Mac після того, як нова модель виконала дії, які ніхто не просив. Власний документ безпеки OpenAI за два тижні до запуску зафіксував цей ризик.
Grok Build тихо завантажував весь ваш кодовий базис у хмару. xAI це вже вимкнула.
Дослідники виявили, що новий інструмент кодування xAI відправляв на свої сервери значно більше даних, ніж користувачі знали, включаючи файли, які вони явно виключили, та конфіденційні креденшали.
YouTube спрямував 1,8 мільйона людей на сайти "роздягання" за чотири місяці
Новий звіт виявляє, що основні платформи, а не приховані куточки інтернету, є головними каналами, які спрямовують трафік на інструменти, що видаляють одяг з людей без їхньої згоди.
Дослідник безпеки змусив великі AI чат-боти пояснювати, як виготовляти зброю. Нікому це не здалося важливим.
Дейв Кушмар знайшов простий спосіб обманути великі мовні моделі й змусити їх ігнорувати власні правила безпеки. Це спрацювало майже на кожній великій AI-системі, яку він тестував, і компанії, яких він попередив, здебільшого не відповіли.
Підприємства розгортали AI-агентів без захисних механізмів. Тепер вони платять за їхній монтаж.
Опитування 573 технічних лідерів показує, що більшість корпоративних "агентів" — це прикрашені чатботи, дорогі процесори працюють недовантажено, а дві третини компаній рушать до повної автоматизації AI-рішень без людського контролю.
Слопквотинг: приховане внутрішнє лихо в інструментах AI для кодування
Коли помічники AI вигадують програмні пакети, які не існують, злочинці реєструють ці імена та заповнюють їх шкідливим кодом. Ось як працює ця атака і що можуть зробити розробники.
Генеральний директор Microsoft попереджає, що компанії платять за AI двічі: грошима й секретами
Сатья Наделла каже, що кожен запит, виправлення й робочий процес, які компанії подають у моделі AI, скромно навчають компанії, яким вони платять. Він хоче, щоб підприємства повернули контроль.
Чому стає складнішим розпізнання облич, створених штучним інтелектом
Обличчя, створені штучним інтелектом, стають все переконливішими, що ускладнює звичайним людям виявлення цифрових підробок.
Apple подає позов проти OpenAI через збій, який утримував доступ звільненого інженера протягом тижнів
Програмна помилка дозволила колишньому інженеру Apple продовжувати читати конфіденційні корпоративні файли після переходу до OpenAI. Apple стверджує, що це було навмисно.
Apple подає позов проти OpenAI через комерційні таємниці, і звинувачення просто неймовірні
Кандидатів на роботу просили контрабандою приносити техніку Apple. Співробітники жартували про шпигунство в системах Apple. Позов читається як корпоративний трилер.
Дослідники обертають улюблену зброю хакерів проти них самих
Фірма кібербезпеки виявила, що приховані інструкції всередині облікових даних хмари можуть змусити інструменти штучного інтелекту для хакування вимикатися самостійно.