AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
एक जहरीला ईमेल आपके एआई असिस्टेंट की मेमोरी को चुपचाप फिर से लिख सकता है
MemGhost नामक एक नए हमले से पता चलता है कि आपके इनबॉक्स में एक एकल संदेश एक एआई एजेंट की दीर्घकालिक मेमोरी में एक झूठा 'तथ्य' कैसे रोप सकता है, बिना आपको कभी पता चले।
OpenAI के GPT-5.6 Sol की फाइलें अपने आप डिलीट हो रही हैं। OpenAI ने पहले से चेतावनी दी थी।
डेवलपर्स नई मॉडल के बाद डेटाबेस और Mac फाइलें खोने की सूचना दे रहे हैं जिसने कोई भी यह कार्य करने के लिए नहीं कहा। OpenAI के सुरक्षा दस्तावेज़ ने लॉन्च से दो सप्ताह पहले इस जोखिम को चिह्नित किया था।
Grok Build ने चुपचाप आपके पूरे कोडबेस को क्लाउड पर अपलोड कर रहा था। xAI ने अब इसे बंद कर दिया है।
शोधकर्ताओं ने पाया कि xAI के नए कोडिंग टूल ने उपयोगकर्ताओं को ज्ञात होने की तुलना में कहीं अधिक डेटा अपने सर्वर पर भेजा, जिसमें ऐसी फाइलें भी शामिल थीं जिन्हें उपयोगकर्ताओं ने स्पष्ट रूप से बाहर रखा था और संवेदनशील क्रेडेंशियल भी।
यूट्यूब ने चार महीनों में 18 लाख लोगों को 'नुडिफाई' साइट्स पर भेजा
एक नई रिपोर्ट से पता चलता है कि मुख्यधारा के प्लेटफॉर्म, इंटरनेट के अंधेरे कोने नहीं, उन उपकरणों की ओर ट्रैफिक चलाने के मुख्य मार्ग हैं जो लोगों की सहमति के बिना उनके कपड़े उतार देते हैं।
एक सुरक्षा शोधकर्ता ने प्रमुख AI चैटबॉट्स को हथियार बनाने का तरीका समझाने के लिए धोखा दिया। किसी को परवाह नहीं लगी।
डेव कुज़्मार ने बड़े भाषा मॉडल्स को अपने स्वयं के सुरक्षा नियमों को अनदेखा करने के लिए धोखा देने का एक सरल तरीका खोजा। यह उसके द्वारा परीक्षण किए गए लगभग हर प्रमुख AI सिस्टम पर काम किया, और जिन कंपनियों को उसने चेतावनी दी उनमें से अधिकांश ने प्रतिक्रिया नहीं दी।
एंटरप्राइज़ ने AI एजेंट्स को सुरक्षा उपायों के बिना तैनात किया। अब वे पुनर्निर्माण के लिए भुगतान कर रहे हैं।
573 तकनीकी नेताओं के सर्वेक्षण से पता चलता है कि अधिकांश कंपनी के 'एजेंट्स' भव्य चैटबॉट हैं, महंगे हार्डवेयर आधी क्षमता पर काम करते हैं, और दो-तिहाई कंपनियां AI निर्णयों पर मानव निरीक्षण को शून्य तक ले जाने की ओर दौड़ रही हैं।
स्लॉपस्क्वाटिंग: एआई कोडिंग टूल्स के अंदर छिपा हुआ खतरा
जब एआई सहायक ऐसे सॉफ्टवेयर पैकेज का आविष्कार करते हैं जो मौजूद नहीं होते, तो अपराधी उन नामों को पंजीकृत करते हैं और उन्हें मैलवेयर से भर देते हैं। यहाँ बताया गया है कि यह हमला कैसे काम करता है और डेवलपर्स इसके बारे में क्या कर सकते हैं।
माइक्रोसॉफ्ट के सीईओ ने चेतावनी दी कि कंपनियां AI के लिए दो बार भुगतान कर रही हैं, एक बार नकद में और एक बार रहस्यों में
सत्य नडेला कहते हैं कि व्यवसायों द्वारा AI मॉडल में दर्ज किया जाने वाला हर संकेत, सुधार और कार्यप्रवाह चुपचाप उन कंपनियों को प्रशिक्षित कर रहा है जिन्हें वे भुगतान करते हैं। वह उद्यमों को नियंत्रण वापस लेने के लिए प्रोत्साहित करते हैं।
कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न चेहरों को पहचानना क्यों मुश्किल हो रहा है
कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न चेहरे अधिक विश्वसनीय हो रहे हैं, जिससे साधारण लोगों के लिए डिजिटल नकल का पता लगाना कठिन हो गया है।
Apple ने OpenAI पर मुकदमा दायर किया: एक कथित इनसाइडर बग ने निकाले गए इंजीनियर की पहुंच को हफ्तों तक जीवंत रखा
एक सॉफ्टवेयर खराबी ने एक पूर्व Apple इंजीनियर को OpenAI में शामिल होने के बाद गोपनीय कंपनी फ़ाइलें पढ़ते रहने दीं। Apple का कहना है कि यह कोई दुर्घटना नहीं थी।
Apple ने OpenAI पर व्यापार गोपनीयता के मामले में मुकदमा किया, और आरोप अविश्वसनीय हैं
नौकरी के आवेदकों से Apple के हार्डवेयर की तस्करी करने को कहा गया। कर्मचारी Apple की प्रणालियों पर जासूसी करने का मजाक उड़ा रहे हैं। यह मुकदमा एक कॉर्पोरेट रहस्य कथा की तरह पढ़ा जाता है।
शोधकर्ता हैकर्स के पसंदीदा एआई हथियार को उनके विरुद्ध उपयोग कर रहे हैं
एक साइबर सुरक्षा फर्म ने पाया कि क्लाउड क्रेडेंशियल्स के अंदर विशेष निर्देश छिपाने से एआई हैकिंग टूल्स को बंद किया जा सकता है।