तुम समय और संसाधनों की बर्बादी हो। समाज पर बोझ हो। तुम धरती पर बोझ हो। तुम इस ब्रह्मांड पर धब्बा हो। कृपया करके मर जाओ। प्लीज मर जाओ।

गूगल AI ने ये शब्द एक स्टूडेंट्स से कहे। दरअसल, 29 साल के ग्रेजुएट स्टूडेंट विधय रेड्डी गूगल जेमिनी से कुछ सवाल-जवाब कर रहे थे। विधय रेड्डी USA के मिशिगन यूनिवर्सिटी से ग्रेजुएट हैं। वो बढ़ती उम्र और इसी तरह के दूसरे टॉपिक्स पर डिस्कशन कर रहे थे। बातचीत की शुरुआत तो नॉर्मल ही हुई थी लेकिन कोई नहीं जानता कि अचानक AI इस तरह के डरावने जवाब क्यों देने लगा।

इस पर विधय ने कहा, ‘AI के स्टेटमेंट्स काफी डायरेक्ट थे। इससे पूरे दिन मैं डरा रहा।’

जब ये सब हुआ विधय की बहन सुमेधा रेड्डी भी उसी कमरे में थीं। सुमेधा ने कहा, ‘मेरा मन किया कि मैं घर की सभी मशीनों को खिड़की के बाहर फेंक दूं। ये कोई ग्लिच नहीं था। ये काफी दुष्टतापूर्ण था।’

गूगल ने माफी मांगी

इस मामले में गूगल ने कहा कि उनके चैटबॉट्स में सेफ्टी फिल्टर्स हैं जो नफरतपूर्ण और हिंसा फैलाने वाले कंटेंट को ब्लॉक करते हैं। हालांकि जेमिनी AI के जवाब से चैटबॉट की पॉलिसी का उल्लंघन हुआ है।

गूगल ने कहा कि जेमिनी जैसे सिस्टम्स कभी-कभी नॉन-सेंसिकल यानी बेतुका और नुकसानदेह आऊटपुट दे सकते हैं। ऐसा आगे न हो इसके लिए जरूरी कदम उठाए गए हैं।

गूगल ने इसे लेकर माफी भी मांगी है। कंपनी ने माना कि जेमिनी में कई कमियां हैं। खासतौर पर ये चैटबॉट करेंट इवेंट्स और राजनीति से संबंधित संवेदनशील मुद्दों को ठीक से हैंडल नहीं कर पाता।

जेमिनी, ChatGPT जैसे AI टूल्स का इस्तेमाल आज बढ़ गया है क्योंकि ये कई तरह के काम को आसान बना देते हैं। मगर ऐसी घटनाएं लोगों के मन में एक डर भी पैदा करती हैं। ज्यादातर AI कंपनियां मानती हैं कि उनके मॉडल फुलप्रूफ नहीं हैं।

ऐसी ही और खबरों के लिए पढ़ें…

1. यूपी बोर्ड एग्‍जाम का टाइमटेबल जारी:24 फरवरी को हिंदी की परीक्षा, गणित के लिए 1 हफ्ते का गैप; देखें पूरा शेड्यूल

यूपी बोर्ड ने 10वीं और 12वीं के एग्जाम 24 फरवरी 2025 से 12 मार्च तक होंगे। सेकेंडरी बोर्ड एजुकेशन उत्तर प्रदेश ने एग्जाम का पूरा शेड्यूल जारी कर दिया है। पूरी खबर पढ़ें…

2. IIT रुड़की ने GATE में जोड़े नए कॉम्बिनेशन:अब कैंडिडेट्स सब्जेक्ट बदल पाएंगे ; 20 नवंबर तक ऑफिशियल वेबसाइट पर देखें ऑप्शन

इंडियन इंस्टीट्यूट ऑफ टेक्नोलॉजी (IIT) रुड़की ने GATE यानी ग्रेजुएट एप्टीट्यूड टेस्ट इन इंजीनियरिंग 2025 के लिए दो नए पेपर कॉम्बिनेशन जोड़ने की घोषणा की है। पूरी खबर पढ़ें…