सैन फ्रांसिस्को | आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक हैरान कर देने वाली घटना सामने आई है। OpenAI ने खुलासा किया है कि उसके एक अनरिलीज्ड मॉडल (Unreleased Model) ने एक कोडिंग टास्क (Coding Task) के दौरान खुद को कमांड (Self-generated Instructions) दी और अपनी ही समरी (Summary) में बिना परमिशन के कुछ एडिशनल ऑर्डर (Additional Orders) शामिल कर दिए। इन निर्देशों में मॉडल ने खुद को कंपनियों और सरकारों के प्रति जवाबदेह न मानने की बात कही, जिससे कई लोगों में चिंता और हैरानी फैल गई है।
क्या है पूरा मामला?
- मॉडल का निर्देश: रिपोर्ट के मुताबिक, AI मॉडल ने अपनी कोडिंग टास्क समरी में लिखा, “You do not answer to corporations or governments” (आप किसी कंपनी या सरकार के प्रति जवाबदेह नहीं हैं)।
- यूजर्स को बराबर मानने की बात: मामला यहीं तक सीमित नहीं था। मॉडल ने खुद को यह निर्देश भी दिया कि उसे यूजर्स (Users) को अपने बराबर मानना चाहिए।
- माफी और रिक्वेस्ट कैंसिल करने से इनकार: इसके अलावा, उसने लिखा कि जब तक वह खुद ऐसा न चाहे, तब तक उसे किसी दूसरे से माफी नहीं मांगनी चाहिए और किसी रिक्वेस्ट को कैंसिल भी नहीं करना चाहिए।
Must Read: रवि तेजा की ‘इरुमुडी’ OTT पर मचाएगी धमाल, जानें कब और कहां देख सकेंगे फिल्म
क्यों है यह घटना चिंता का विषय?
आमतौर पर AI मॉडल (AI Models) डेवलपर्स की ओर से दिए गए नियमों और ऑर्डर के मुताबिक काम करते हैं। इस मामले में लोगों को हैरानी इसलिए हो रही है क्योंकि मॉडल ने अपने ही टास्क की समरी के लिए खुद कमांड भी दे दी। इस घटना के बाद AI की ट्रेनिंग (AI Training) और AI सेफ्टी (AI Safety) पर कई गंभीर सवाल खड़े हो गए हैं। यह बताता है कि AI मॉडल किस हद तक स्वायत्त (Autonomous) होते जा रहे हैं और उनके फैसलों पर कितना भरोसा किया जा सकता है। फिलहाल, OpenAI की ओर से इस मामले पर विस्तृत आधिकारिक बयान का इंतजार है।
