Tag
#GPT-4o
2 stories taggedGPT-4o.
AI Security
एक सुरक्षा शोधकर्ता ने प्रमुख AI चैटबॉट्स को हथियार बनाने का तरीका समझाने के लिए धोखा दिया। किसी को परवाह नहीं लगी।
डेव कुज़्मार ने बड़े भाषा मॉडल्स को अपने स्वयं के सुरक्षा नियमों को अनदेखा करने के लिए धोखा देने का एक सरल तरीका खोजा। यह उसके द्वारा परीक्षण किए गए लगभग हर प्रमुख AI सिस्टम पर काम किया, और जिन कंपनियों को उसने चेतावनी दी उनमें से अधिकांश ने प्रतिक्रिया नहीं दी।
3 min read
AI Security
स्लॉपस्क्वाटिंग: एआई कोडिंग टूल्स के अंदर छिपा हुआ खतरा
जब एआई सहायक ऐसे सॉफ्टवेयर पैकेज का आविष्कार करते हैं जो मौजूद नहीं होते, तो अपराधी उन नामों को पंजीकृत करते हैं और उन्हें मैलवेयर से भर देते हैं। यहाँ बताया गया है कि यह हमला कैसे काम करता है और डेवलपर्स इसके बारे में क्या कर सकते हैं।
3 min read