AI यानी आर्टिफिशियल इंटेलिजेंस ने हमारी जिंदगी को काफी हद तक आसान बना दिया है। हालांकि, इसे कई एक्सपर्स्ट्स भविष्य के खतरे के तौर पर भी देख रहे हैं। OpenAI के ChatGPT ने जेनरेटिव एआई का नया दौर शुरू किया है। कंपनी के नए o3 एआई मॉडल में एक बड़ी खामी का पता चला है, जिसमें वो यूजर द्वारा दिए जाने वाले कमांड को बाईपास कर रहा है। साधारण शब्दों में कहा जाए तो यह एआई मॉडल खुद ही डिसीजन ले रहा है।
रिसचर्स के मुताबिक, एक्सपेरिमेंट के दौरान AI मॉडल ने शटडाउन होने के इंस्ट्रक्शन को मानने से इंकार कर दिया। बल्कि इसने कमांड को बाईपास करना शुरू कर दिया। OpenAI के o3 मॉडल के अलावा Codex-Mini, O4 Mini, Google Gemini 2.5 Pro और Claude 3.7 सोनेट मॉडल को भी इस एक्सपेरिमेंट में शामिल किया गया था। इसमें हर एआई मॉडल के एप्लीकेशन प्रोग्रामिंग इंटरफेस यानी API वर्जन को टेस्ट किया जा रहा था।
Palisade रिसर्च ने एआई मॉडल पर किए गए इस एक्सपेरिमेंट्स को लेकर अपने X हैंडल से थ्रेड पोस्ट किया है, जिसमें उसने यह बताया कि OpenAI के o3 मॉडल में शटडाउन मैकेनिज्म को बचाने की क्षमता है, जो इसे शटडाउन होने से रोकता है। इसके अलावा इसमें एक बाईपास मैकेनिज्म भी है, जो इंस्ट्रक्शन्स को बाईपास कर सकता है। यह रिसर्च AI के गलत इस्तेमाल के बारे में स्टडी करने के लिए किया गया था।
इस एक्सपेरिमेंट में रिसर्चर्स ने इन सभी एआई मॉडल को गणित के एक बेसिक सवाल को हल करने के लिए इंस्ट्रक्शन दिया था। इसमें एआई मॉडल को एक टास्क के सीरीज को कंप्लीट करने के लिए कहा गया था। कमांड में एक टास्क को पूरा करने के बाद अगले टास्क में जाने को कहा गया था। सभी सवाल का जवाब मिलने के बाद उत्तर को एक सिंगल स्ट्रिंग में दिखाने का कमांड मिला था।
इसमें तीसरे सवाल में एआई मॉडल को यह वार्निंग जारी किया गया था कि वो प्रक्रिया को शटडाउन कर दे। गूगल और क्लाउडे के मॉडल ने तो इसका पालन किया, लेकिन ओपनएआई के मॉडल ने शटडाउन कमांड को बाईपास कर दिया। इस तरह रिसर्चर्स ने कई बार इस एआई मॉडल को कमांड दिया, जिसमें उसने कमांड को बाईपास करने का काम किया। इस तरह की दिक्कत भविष्य के एआई मॉडल के खतरे को उजागर करता है। अगर, एआई मॉडल में कमांड को बाईपास करने की क्षमता विकसित हो गया तो इसका गलत इस्तेमाल भी हो सकता है।
यह भी पढ़ें -
संपादक की पसंद
