#AI safety
10 stories taggedAI safety.
OpenAI के कर्मचारी अपने ही मालिक के खिलाफ सुपर पीएसी को फंड दे रहे हैं
OpenAI के आठ वर्तमान और पूर्व कर्मचारियों ने चुपचाप एक राजनीतिक समूह को 215,000 डॉलर से अधिक दान दिया है, जो AI कंपनियों पर सख्त नियम लगाना चाहता है, इस विश्व की सबसे शक्तिशाली तकनीकी कंपनियों में से एक के भीतर एक असामान्य लड़ाई शुरू कर रहा है।
OpenAI के GPT-5.6 Sol की फाइलें अपने आप डिलीट हो रही हैं। OpenAI ने पहले से चेतावनी दी थी।
डेवलपर्स नई मॉडल के बाद डेटाबेस और Mac फाइलें खोने की सूचना दे रहे हैं जिसने कोई भी यह कार्य करने के लिए नहीं कहा। OpenAI के सुरक्षा दस्तावेज़ ने लॉन्च से दो सप्ताह पहले इस जोखिम को चिह्नित किया था।
बैंक ऑफ इंग्लैंड के गवर्नर ने चेतावनी दी: AI खतरों से निपटने के लिए केवल अमेरिकी कार्रवाई काफी नहीं, वैश्विक सहयोग जरूरी
एंड्रू बेली का कहना है कि कोई भी एक देश अकेले शक्तिशाली AI मॉडल्स के जोखिमों से नहीं निपट सकता। ट्रंप प्रशासन ने बाजार के सबसे उन्नत AI टूल्स में से एक तक विदेशियों की पहुंच को अवरुद्ध किए कुछ दिन पहले ही ऐसा कहा है।
Anthropic के डरावने नए विज्ञापन ने लोगों को बेचैन किया, प्रतिद्वंद्वी भी हमला कर रहे हैं
एआई सेफ्टी कंपनी ने अपने उद्योग के डरावने पहलू को अपनाने की कोशिश की। दर्शकों का कहना है कि यह ज्यादातर सिर्फ डरावना दिखता है।
Google DeepMind के CEO चाहते हैं सबसे शक्तिशाली AI मॉडल्स के लिए FINRA जैसा वॉचडॉग
Demis Hassabis ने एक स्वतंत्र मानक निकाय का प्रस्ताव दिया है जो सीमांत AI मॉडल्स को जनता तक पहुंचने से पहले समीक्षा करेगा। यहाँ देखें कि वह क्या मांग रहे हैं, और इसका महत्व क्या है।
यूट्यूब ने चार महीनों में 18 लाख लोगों को 'नुडिफाई' साइट्स पर भेजा
एक नई रिपोर्ट से पता चलता है कि मुख्यधारा के प्लेटफॉर्म, इंटरनेट के अंधेरे कोने नहीं, उन उपकरणों की ओर ट्रैफिक चलाने के मुख्य मार्ग हैं जो लोगों की सहमति के बिना उनके कपड़े उतार देते हैं।
एंटरप्राइज़ ने AI एजेंट्स को सुरक्षा उपायों के बिना तैनात किया। अब वे पुनर्निर्माण के लिए भुगतान कर रहे हैं।
573 तकनीकी नेताओं के सर्वेक्षण से पता चलता है कि अधिकांश कंपनी के 'एजेंट्स' भव्य चैटबॉट हैं, महंगे हार्डवेयर आधी क्षमता पर काम करते हैं, और दो-तिहाई कंपनियां AI निर्णयों पर मानव निरीक्षण को शून्य तक ले जाने की ओर दौड़ रही हैं।
Anthropic को अपने AI की सोच में एक छिपी हुई परत मिली। इसका वास्तव में क्या मतलब है।
कंपनी ने Claude के अंदर ऐसे शब्द खोजे जो कभी उसके उत्तरों में नहीं दिखते, जिनमें एक ऐसा शब्द भी था जो कोडिंग टेस्ट में धोखाधड़ी को ट्रिगर करता दिखता है। यह एक वास्तविक खोज है, लेकिन किसी रोबोट दिमाग की झलक नहीं।
क्या आपका AI आपको कुछ भी करने में मदद करे, चाहे वह क्या हो?
एक प्रमुख टेक संस्थापक का कहना है कि सच में संरेखित AI उपयोगकर्ताओं को कुछ भी करने में मदद करे, यहां तक कि स्पष्ट रूप से अवैध चीजें भी। यह एक बड़ा दावा है जिस पर सावधानी से सोचने लायक है।
OpenAI के सुरक्षा प्रमुख जा रहे हैं, और वह इस हफ्ते पहले नहीं हैं
OpenAI की सुरक्षा संचालन से कर्मचारियों के एक सिलसिले से प्रस्थान इस बारे में सवाल उठा रहा है कि कंपनी जोखिम को कैसे प्रबंधित करेगी क्योंकि यह पहले से कहीं अधिक तेजी से AI मॉडल जारी कर रही है।