#ai-security
8 stories taggedai-security.
एक जहरीला ईमेल आपके एआई असिस्टेंट की मेमोरी को चुपचाप फिर से लिख सकता है
MemGhost नामक एक नए हमले से पता चलता है कि आपके इनबॉक्स में एक एकल संदेश एक एआई एजेंट की दीर्घकालिक मेमोरी में एक झूठा 'तथ्य' कैसे रोप सकता है, बिना आपको कभी पता चले।
एक सुरक्षा शोधकर्ता ने प्रमुख AI चैटबॉट्स को हथियार बनाने का तरीका समझाने के लिए धोखा दिया। किसी को परवाह नहीं लगी।
डेव कुज़्मार ने बड़े भाषा मॉडल्स को अपने स्वयं के सुरक्षा नियमों को अनदेखा करने के लिए धोखा देने का एक सरल तरीका खोजा। यह उसके द्वारा परीक्षण किए गए लगभग हर प्रमुख AI सिस्टम पर काम किया, और जिन कंपनियों को उसने चेतावनी दी उनमें से अधिकांश ने प्रतिक्रिया नहीं दी।
एंटरप्राइज़ ने AI एजेंट्स को सुरक्षा उपायों के बिना तैनात किया। अब वे पुनर्निर्माण के लिए भुगतान कर रहे हैं।
573 तकनीकी नेताओं के सर्वेक्षण से पता चलता है कि अधिकांश कंपनी के 'एजेंट्स' भव्य चैटबॉट हैं, महंगे हार्डवेयर आधी क्षमता पर काम करते हैं, और दो-तिहाई कंपनियां AI निर्णयों पर मानव निरीक्षण को शून्य तक ले जाने की ओर दौड़ रही हैं।
माइक्रोसॉफ्ट के सीईओ ने चेतावनी दी कि कंपनियां AI के लिए दो बार भुगतान कर रही हैं, एक बार नकद में और एक बार रहस्यों में
सत्य नडेला कहते हैं कि व्यवसायों द्वारा AI मॉडल में दर्ज किया जाने वाला हर संकेत, सुधार और कार्यप्रवाह चुपचाप उन कंपनियों को प्रशिक्षित कर रहा है जिन्हें वे भुगतान करते हैं। वह उद्यमों को नियंत्रण वापस लेने के लिए प्रोत्साहित करते हैं।
कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न चेहरों को पहचानना क्यों मुश्किल हो रहा है
कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न चेहरे अधिक विश्वसनीय हो रहे हैं, जिससे साधारण लोगों के लिए डिजिटल नकल का पता लगाना कठिन हो गया है।
Apple ने OpenAI पर मुकदमा दायर किया: एक कथित इनसाइडर बग ने निकाले गए इंजीनियर की पहुंच को हफ्तों तक जीवंत रखा
एक सॉफ्टवेयर खराबी ने एक पूर्व Apple इंजीनियर को OpenAI में शामिल होने के बाद गोपनीय कंपनी फ़ाइलें पढ़ते रहने दीं। Apple का कहना है कि यह कोई दुर्घटना नहीं थी।
Apple ने OpenAI पर हार्डवेयर रहस्य चोरी और नौकरी साक्षात्कार के दौरान जासूसी के आरोप में मुकदमा दायर किया
41 पृष्ठ के मुकदमे में दावा किया गया है कि OpenAI ने Apple कर्मचारियों को सुरक्षा जांच से बचने, गोपनीय फाइलें तस्करी करने और नौकरी साक्षात्कार में प्रोटोटाइप पार्ट्स लाने के लिए प्रशिक्षित किया।
शोधकर्ता हैकर्स के पसंदीदा एआई हथियार को उनके विरुद्ध उपयोग कर रहे हैं
एक साइबर सुरक्षा फर्म ने पाया कि क्लाउड क्रेडेंशियल्स के अंदर विशेष निर्देश छिपाने से एआई हैकिंग टूल्स को बंद किया जा सकता है।