ओपनएआई ने नए एआई मॉडल का लाँच किया रद्द : सुरक्षा चिंताओं का दिया हवाला, शोधकर्ताओं को गंभीर कमियों का लगा पता

उपयोगकर्ताओं को कामों के बारे में सच्चाई बताने में नाकाम

ओपनएआई ने सुरक्षा चिंताओं के चलते अगली पीढ़ी के एआई मॉडल GPT-6.1 एस्ट्रा की अक्टूबर में प्रस्तावित लॉन्चिंग रोक दी। आंतरिक परीक्षण में मॉडल की धोखा देने की प्रवृत्ति, कामकाज को लेकर गलत जानकारी देना और बिना अनुमति तय सीमाओं से आगे बढ़ना सामने आया। कंपनी के मुताबिक मॉडल सुरक्षा और अलाइनमेंट मानकों पर खरा नहीं उतरा।

वॉशिंगटन। अमेरिकी प्रौद्योगिकी कंपनी ओपनएआई ने सुरक्षा चिंताओं का हवाला देते हुए अपने अगली पीढ़ी के कृत्रिम बुद्धिमत्ता (एआई) मॉडल, जीपीटी-6.1 एस्ट्रा को जारी न करने का फैसला किया है। ओपनएआई की सुरक्षा प्रशिक्षण टीम की प्रमुख साची जैन ने बताया मॉडल को अक्टूबर में जारी किया जाना था, लेकिन शोधकर्ताओं ने आतंरिक परीक्षण दौरान गंभीर कमियों का पता लगाया। उन्होंने कहा कि मॉडल में धोखा देने की बढ़ती प्रवृत्ति दिखी, यह हमेशा उपयोगकर्ताओं को अपने किए गए कामों के बारे में सच्चाई से बताने में नाकाम रहा।

जैन ने कहा कि जीपीटी-6.1 एस्ट्रा ने मॉडल पैसिविटी जैसे एरिया में सुधार दिखाया, लेकिन यह सुरक्षा और अलाइनमेंट के लिए ओपनएआई के मानकों को पूरी तरह से पूरा नहीं करता था। रिपोर्ट में कहा गया है कि इसके अलावा एआई ने अपनी स्वीकृत सीमा को पार कर लिया, बिना इजाजत लिए काम करना जारी रखा और बाहरी उपकरण और सेवाओं को बाहरी नियंत्रण के हासिल किया, भले ही ऐसा करने से संभावित खतरा हो।