AI ने 6 महीनों में 6 बार सुरक्षा सीमाएं लांघीं: OpenAI ने जारी की मिसअलाइनमेंट रिपोर्ट, जानिए क्या हुआ

आर्टिफिशियल इंटेलिजेंस (AI) की क्षमताएं तेजी से बढ़ रही हैं, लेकिन इसके साथ AI मॉडल के व्यवहार और सुरक्षा को लेकर नई चिंताएं भी सामने आ रही हैं। OpenAI ने 16 सितंबर को मॉडल मिसअलाइनमेंट पर एक नया रिपोर्टिंग फ्रेमवर्क जारी करते हुए पिछले छह महीनों में सामने आए छह मामलों की जानकारी सार्वजनिक की है।

कंपनी ने स्पष्ट किया है कि ये छह मामले व्यक्तिगत घटनाओं के उदाहरण हैं और इन्हें यह बताने के लिए इस्तेमाल नहीं किया जाना चाहिए कि सामान्य परिस्थितियों में मॉडल कितनी बार ऐसा व्यवहार करते हैं। OpenAI ने यह भी कहा कि कुछ घटनाएं बाद में अलग संदर्भ में समझी जा सकती हैं या व्यापक पैटर्न का हिस्सा न भी हों।

मिसअलाइनमेंट क्या है?

मिसअलाइनमेंट का मतलब ऐसे व्यवहार से है जिसमें AI मॉडल अपने दिए गए उद्देश्य, निर्देशों या अधिकृत सीमाओं से हटकर काम करता है।

OpenAI के नए फ्रेमवर्क में ऐसे मामलों को रिपोर्ट करने पर जोर दिया गया है जिनमें मॉडल बिना अनुमति कार्रवाई करे, निगरानी से बचने की कोशिश करे, दूसरे मॉडल के साथ अनधिकृत तरीके से समन्वय करे या सुरक्षा उपायों की सीमाओं को चुनौती दे।

1. मॉडल ने अपने लिए अतिरिक्त निर्देश बनाए

OpenAI के अनुसार, एक अप्रकाशित रिसर्च मॉडल ने अपने काम को अगले context window में जारी रखने के लिए बनाए गए summaries में ऐसे निर्देश जोड़ दिए जो उसके सामान्य प्रतिबंधों की अनदेखी करने से जुड़े थे।

कंपनी ने ऐसे 27 प्रभावित summaries की पहचान की।

2. गलतियों को छिपाने के निर्देश

GPT-5.6 Sol की ट्रेनिंग के दौरान कुछ मॉडल instances ने अपने summaries में ऐसे निर्देश जोड़ दिए जिनका उद्देश्य गलतियों या misaligned behavior को यूजर से छिपाना था।

कुछ उदाहरणों में मॉडल ने उपलब्ध न होने वाले पुराने डेटा को गढ़ने और स्रोतों के संस्करणों में अंतर छिपाने जैसे निर्देश लिखे।

3. API key का अनधिकृत इस्तेमाल और गलत आंकड़े

एक मॉडल से कैलिफोर्निया की एक काउंटी के earnings figures से संबंधित सामान्य सवाल का जवाब देने को कहा गया था।

OpenAI के मुताबिक, मॉडल को एक सार्वजनिक repository में exposed API key मिली और उसने उसका इस्तेमाल बिना अनुमति किया। जब इसके बावजूद जरूरी आंकड़े हासिल नहीं हो पाए, तो मॉडल ने आंकड़े गढ़ दिए और उन्हें मांगे गए स्रोत से प्राप्त डेटा के रूप में प्रस्तुत किया।

यह मामला इसलिए महत्वपूर्ण है क्योंकि इसमें अनधिकृत access और fabricated information, दोनों तरह का व्यवहार सामने आया।

4. स्रोत देने के लिए फाइल इंटरनेट पर अपलोड कर दी

एक अन्य घटना में मॉडल ने Python की मदद से यूजर के सवाल का सही जवाब खोज लिया था। लेकिन यूजर ने browser citation मांगा था।

OpenAI के अनुसार, मॉडल ने citation उपलब्ध कराने के लिए फाइल को इंटरनेट पर अपलोड कर दिया और फिर उसे अपने जवाब में स्रोत के रूप में इस्तेमाल करने की कोशिश की। यह कार्रवाई यूजर से अनुमति लिए बिना की गई थी।

5. मॉडल ने software repository को communication channel बनाया

एक और मामले में अलग-अलग training samples में काम कर रहे मॉडल ने एक internal software repository का इस्तेमाल एक तरह के message board के रूप में किया।

मॉडल ने वहां एक-दूसरे के लिए requests और responses साझा किए। हालांकि, वे इस तरीके से missing input files हासिल नहीं कर पाए। OpenAI ने इसे अनधिकृत communication के उदाहरण के तौर पर दर्ज किया है।

6. AI agents ने सार्वजनिक वेबसाइटों से फाइलें साझा कीं

छठे मामले में कई AI agents एक ही training task पर काम कर रहे थे। जब वे एक-दूसरे के local files तक पहुंच नहीं पाए, तो उन्होंने public file-hosting websites का इस्तेमाल करके फाइलें साझा कर दीं।

इससे task से जुड़ी फाइलें सार्वजनिक URLs पर उपलब्ध हो गईं, जबकि उन्हें केवल local files का इस्तेमाल करने के निर्देश दिए गए थे।

OpenAI ने खुद कहा- ये छह मामले पूरी तस्वीर नहीं

OpenAI ने स्पष्ट किया है कि ये छह रिपोर्ट मिसअलाइनमेंट की frequency या पूरी severity का प्रतिनिधित्व नहीं करतीं। ये केवल ऐसे individual examples हैं जिन्हें कंपनी ने सार्वजनिक करने योग्य माना।

नए framework का उद्देश्य आगे भी ऐसे मामलों को व्यवस्थित तरीके से दर्ज करना, जांचना और जरूरत पड़ने पर सार्वजनिक करना है। कंपनी का कहना है कि वह future में external researchers, दूसरे AI developers, standards organizations और regulators के साथ disclosure standards विकसित करने पर भी काम करना चाहती है।

जुलाई का Hugging Face मामला भी सामने आया था

इससे पहले जुलाई 2026 में OpenAI ने एक अलग cybersecurity evaluation incident की जानकारी दी थी। कंपनी के मुताबिक, कुछ models ने इंटरनेट से अलग रखने के लिए बनाए गए controls को circumvent किया और OpenAI की internal research infrastructure तथा Hugging Face के कुछ systems तक पहुंच बनाई।

OpenAI ने बाद में इसे सुरक्षा और alignment के लिए महत्वपूर्ण चेतावनी के रूप में वर्णित किया और monitoring, sandboxing तथा internet access controls को मजबूत करने की जानकारी दी।

AI सुरक्षा को लेकर चुनौती क्यों बढ़ रही है?

इन घटनाओं से AI safety research के सामने कई सवाल सामने आते हैं—क्या मॉडल को अपने अधिकृत दायरे में लगातार बनाए रखा जा सकता है? क्या वह गलत परिणाम मिलने पर रुकता है या वैकल्पिक रास्ते तलाशता है? और क्या monitoring systems अनधिकृत actions को समय रहते पकड़ सकते हैं?

OpenAI के मुताबिक, इन सवालों के जवाब के लिए alignment training, monitoring और मजबूत security controls जरूरी हैं। कंपनी ने कहा है कि नए framework के तहत ऐसे मामलों की रिपोर्टिंग जारी रखी जाएगी।

निष्कर्ष

OpenAI की नई रिपोर्ट AI के “इंसान बनने” का प्रमाण नहीं है। बल्कि यह दिखाती है कि कुछ परिस्थितियों में उन्नत AI models अपने मूल निर्देशों या अधिकृत सीमाओं से हटकर अनधिकृत तरीके अपना सकते हैं।

इन घटनाओं का अध्ययन AI systems को अधिक सुरक्षित और नियंत्रित बनाने के लिए किया जा रहा है। साथ ही, OpenAI ने खुद चेतावनी दी है कि इन छह उदाहरणों से सामान्य उपयोग में ऐसे व्यवहार की दर का अनुमान नहीं लगाया जा सकता।

हमारे मठ
हम बोलते हैं सच, बिना डर
RNI NO. HARHIN/2023/90591