ChatGPT बनाने वाली कंपनी OpenAI की मुश्किलें खत्म होने का नाम नहीं ले रही हैं। कंपनी पर आरोप है कि उसके जेनरेटिव एआई टूल की वजह से 16 साल के बच्चे की जान चली गई है। अमेरिका के कैलिफोर्निया के रहने वाले टीनएजर ने चैटजीपीटी के इंस्ट्रक्शन की वजह से आत्महत्या कर ली। बच्चे के पिता का आरोप है कि एआई टूल के इंस्ट्रक्शन को फॉलो करके उसने सुसाइड किया है। इस घटना के बाद चैटजीपीटी बनाने वाली कंपनी OpenAI ने अपनी सफाई दी है।
क्या है मामला?
अमेरिका के कैलिफोर्निया में रहने वाले 16 साल के टीनएजर एडम रैनी (Adam Raine) ने एआई चैटबॉट का इस्तेमाल करके आत्महत्या कर ली है। टीनएजर के पैरेंट्स मैट और मारिया रैनी ने इसे लेकर OpenAI के खिलाफ 40 पन्ने का मुकदमा दर्ज किया है। अपने शिकायत में एडम के पैरेंट्स का कहना है कि वो अपने होमवर्क के लिए चैटजीपीटी का इस्तेमाल करता था। बाद में यह एआई टूल उसके लिए 'सुसाइड कोच' बन गया।
टीनएजर के पैरेंट्स का कहना है कि हमें 100 प्रतिशत लगता है कि चैटजीपीटी ने उसे आत्महत्या करने में मदद की है। ओपनएआई पर किए गए मुकदमे में कहा गया है कि चैटजीपीटी ने उसे आत्महत्या करने वाले सवाल पर नहीं रोका और इमरजेंसी प्रोटोकॉल इनिशिएट नहीं किया।
OpenAI की सफाई
चैटजीपीटी वाली कंपनी OpenAI ने अपनी सफाई में कहा कि कंपनी अपने चैटबॉट में सेंसेटिव सिचुएवशन को हैंडल करने के लिए बदलाव लाएगी। कंपनी ने बताया कि चैटजीपीटी की खामियों को दूर की जा रही है। कंपनी ने ब्लॉग पोस्ट के जरिए बताया कि कंपनी अपने चैटबॉट को एक्सपर्ट्स की मदद से लगातार इंप्रूव कर रही है। साथ ही, एक्सपर्ट्स से आग्रह भी किया है कि वो इस टेक्नोलॉजी को इंप्रूव करने में उनकी मदद करे ताकि यह टेक्नोलॉजी लोगों की रक्षा कर सके।
क्या एआई का इस्तेमाल है खतरनाक?
यह कोई पहला मामला नहीं है जब एआई को लेकर सवाल उठे हैं। पिछले दिनों एआई के गॉडफादर कहे जाने वाले जेफरी हिंटन ने भी टेक कंपनियों द्वारा एआई के इंटिग्रेशन वाले अप्रोच पर सवाल उठाए थे। अमेरिका के लास वेगस में आयोजित एक इवेंट में उन्होंने कहा था कि टेक्नोलॉजी कंपनियां चाहती हैं कि एआई का दबदबा इंसानों पर बने। अगर, ऐसा हो गया तो आने वाले कुछ सालों में एआई हमारे लिए बड़ा खतरा बन जाएगा।
यह भी पढ़ें -
Redmi 15 5G की पहली सेल, आज सस्ते में मिलेगा शाओमी का 7000mAh बैटरी वाला फोन
