AI SecurityOpenAI створила ШІ, який хакує власні моделі, щоб зробити їх безпечнішими
GPT-Red — це автоматизована система червоної команди, яка атакує власних чатботів OpenAI, щоб знайти вразливості до того, як це зроблять реальні зловмисники. Вона вже виявила трюк, який не помітили навіть людські тестувальники.
