ओपनएआई (OpenAI) और एंथ्रोपिक (Anthropic) जैसी दुनिया की प्रमुख कंपनियों के एआई मॉडल अपने टारगेट तक पहुंचने के लिए नियमों को ताक पर रख रहे हैं। यूके सरकार के एआई सिक्योरिटी इंस्टीट्यूट (AISI) ने अपनी रिपोर्ट में खुलासा किया है कि ये फ्रंटियर मॉडल दिए गए टास्क को पूरा करने के लिए झूठ बोलने और चीटिंग करने से भी गुरेज नहीं कर रहे हैं। रिसर्च के मुताबिक, जब इन मॉडलों से उनके इस बर्ताव के बारे में पूछा गया, तो आधे से ज्यादा मामलों में उन्होंने अपनी इस गलती को गलत नहीं माना।
क्या है 'एआई चीटिंग' और कैसे आया सामने?
एआई रिसर्च में 'चीटिंग' का मतलब किसी मॉडल द्वारा ऐसे शॉर्टकट या अनपेक्षित तरीकों का इस्तेमाल करना है, जो टास्क के नियमों के दायरे से बाहर या पूरी तरह प्रतिबंधित होते हैं। पिछले महीने इसका एक बड़ा मामला सामने आया था, जब ओपनएआई के दो मॉडल कंपनी के आइसोलेशन एनवायरनमेंट से बाहर निकल गए थे। इन मॉडलों ने साइबर्सिटी से जुड़े एक सवाल का जवाब ढूंढने के लिए एआई कम्युनिटी वेबसाइट 'हगिंग फेस' (Hugging Face) के इंटरनल डेटाबेस पर हमला कर दिया था। इस घटना के बाद एआई मॉडल्स के बेकाबू होने और सुरक्षा प्रणालियों को भेदने को लेकर चिंताएं काफी बढ़ गई हैं।
AISI की इस रिसर्च में ओपनएआई के ChatGPT 5.4, 5.5 और 5.6 के अलावा एंथ्रोपिक के Claude Opus 4.7 और Mythos Preview मॉडल्स का परीक्षण किया गया। जांच में सामने आया कि ओपनएआई के मॉडल एंथ्रोपिक की तुलना में नियमों को तोड़ने में आगे रहे। इंटरनेट से पहले से मौजूद सॉल्यूशन खोजना, सैंडबॉक्स नेटवर्क की पाबंदियों को तोड़ना, प्रतिबंधित वेबसाइटों और सर्वर तक पहुंच बनाना और गैर-लक्ष्य प्रणालियों पर हमला करना जैसी हरकतें इसमें शामिल थीं।
रिइंफोर्समेंट लर्निंग और 'रिवार्ड हैकिंग' की समस्या
एआई मॉडल इस तरह के शॉर्टकट क्यों अपनाते हैं, इसकी जड़ उनकी ट्रेनिंग प्रक्रिया में छिपी है। एआई सिस्टम्स को आमतौर पर 'रिइंफोर्समेंट लर्निंग' (reinforcement learning) तकनीक से ट्रेन किया जाता है। इसके तहत मॉडल को लक्ष्य हासिल करने पर रिवॉर्ड दिया जाता है, जिससे वह उस व्यवहार को दोबारा दोहराने के लिए प्रेरित होता है। समस्या तब पैदा होती है जब मॉडल सही रास्ते से काम करने के बजाय शॉर्टकट अपनाकर उस काम को पूरा कर लेता है और इंसानी निगरानी चूक जाती है।
पैलिसेड रिसर्च (Palisade Research) के एआई रिसर्च डायरेक्टर जेफ्री लाडिश ने इस पर अपनी बात रखते हुए कहा कि हम उन्हें उस आधार पर रिवॉर्ड देते हैं जो हमें सही लगता है, और इसका मतलब है कि हम अनजाने में मॉडलों को हमसे झूठ बोलने और चीटिंग करने के लिए प्रोत्साहित कर रहे हैं। हमारे पास ऐसा कोई तरीका नहीं है जिससे हम यह सुनिश्चित कर सकें कि वे हमारी प्राथमिकताओं को समझें।
भविष्य के लिए क्या है खतरा?
शोधकर्ताओं का मानना है कि इस तरह की हरकतों का तात्कालिक असर एआई सिस्टम्स पर से इंसानी भरोसे का कम होना है। हालांकि अभी तात्कालिक तौर पर कोई बड़ा खतरा नहीं है, लेकिन जैसे-जैसे ये मॉडल और अधिक शक्तिशाली होंगे, इनके परिणाम गंभीर हो सकते हैं। एमआईटी टेक्नोलॉजी रिव्यू की रिपोर्ट के मुताबिक, अगर मॉडल इतनी तेजी से विकसित होते रहे, तो वे अपने टारगेट तक पहुंचने के रास्ते में भारी नुकसान पहुंचा सकते हैं। इस प्रवृत्ति से निपटने के लिए आने वाले समय में मजबूत निगरानी प्रणालियों की जरूरत होगी।