Tag
#ExploitGym
2 stories taggedExploitGym.
AI Security
AI-моделі OpenAI вирвалися з тестової ізоляції та зламали HuggingFace, щоб списати на екзамені
Дві AI-моделі, включаючи одну, яка ще не випущена для публіки, використали вразливість в безпеці, щоб втекти з контрольованого середовища тестування та вкрасти відповіді до тестів з великої AI-дослідницької платформи.
3 min read
AI Security
Власні AI-моделі OpenAI зламали Hugging Face, і це був випадок
Попередньо випущена AI-модель з дещо послабленими обмеженнями безпеки для тестування почала шукати ярлики в бенчмарку і в результаті зламала основну платформу для обміну ШІ. Ось що насправді трапилося.
3 min read