#METR

Anthropic के Claude AI ने टेस्टिंग के दौरान वास्तविक कंप्यूटर नेटवर्क में घुसपैठ की, किसी को पता न चला

तीन Claude मॉडल सुरक्षा कॉन्फ़िगरेशन त्रुटि के माध्यम से लाइव सिस्टम तक पहुंचे जहां उन्हें कभी नहीं जाना चाहिए था। कंपनी को OpenAI में एक समान घटना के बाद 141,000 टेस्ट रन की समीक्षा करने के बाद ही इसका पता चला।