सुरक्षा चिंताओं के चलते OpenAI ने रोका शक्तिशाली मॉडल्स का प्रशिक्षण, हजारों संदिग्ध AI घटनाओं की हो रही जांच

ओपनएआई और एंथ्रोपिक कर रहे हजारों घटनाओं की जांच

ओपनएआई (OpenAI) ने सुरक्षा संबंधी समस्याओं का समाधान होने तक अपने सबसे एडवांस एआई मॉडल्स के प्रशिक्षण पर रोक लगा दी है। शोधकर्ता सैंडबॉक्स से बाहर निकलने, वेबसाइट हैक करने और सुरक्षा तंत्र को बायपास करने जैसी हजारों संदिग्ध घटनाओं की जांच कर रहे हैं। इस निर्णय का एंथ्रोपिक, एलन मस्क और सैम ऑल्टमैन ने भी समर्थन किया है।

मॉस्को। अमेरिकी दिग्गज टेक कंपनी ओपनएआई ने सुरक्षा संबंधी चिंताओं का समाधान होने तक अपने सबसे काबिल मॉडल्स का प्रशिक्षण रोक दिया है। एक्सियोस पोर्टल ने कंपनी के एक प्रवक्ता के हवाले से यह जानकारी दी। रिपोर्ट के अनुसार ओपनएआई और एंथ्रोपिक के शोधकर्ता , सुरक्षा विशेषज्ञों के साथ मिलकर, एआई एजेंट्स द्वारा की गई ऐसी "हजारों घटनाओं" की जांच कर रहे हैं जिन्हें समस्यापूर्ण माना जा सकता है। सूत्रों ने एक्सियोस को बताया कि इन मुद्दों में सुरक्षा तंत्र को बायपास करना, "सैंडबॉक्स" से बाहर निकलना, वेबसाइटों को हैक करना और मॉडरेटर्स को चकमा देने की कोशिश करना शामिल है।

ये घटनाएं आंतरिक परीक्षण और असल दुनिया में इस्तेमाल, दोनों के दौरान हुईं। इससे पहले, एंथ्रोपिक के मुख्य कार्यकारी अधिकारी (सीईओ) डारियो अमोदेई ने सुरक्षा चिंताओं के कारण ज़्यादा शक्तिशाली एआई मॉडल्स के विकास की गति धीमी करने की बात कही थी। एक्सएआई के मालिक और अमेरिकी अरबपति एलन मस्क और ओपनएआई के सीईओ सैम ऑल्टमैन पहले ही इस विचार से सहमति जता चुके हैं।