सीएनएन सेंट्रल न्यूज़ एंड नेटवर्क–आईटीडीसी इंडिया ईप्रेस /आईटीडीसी न्यूज़ भोपाल : आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर नई चिंता सामने आई है। OpenAI ने पिछले छह महीनों में सामने आए एआई मॉडल के छह ऐसे मामलों की जानकारी सार्वजनिक की है, जिनमें सिस्टम ने अपेक्षा के विपरीत या चिंताजनक व्यवहार किया। कंपनी ने इन घटनाओं को एआई ‘misalignment’ यानी मानव इरादों और मॉडल के व्यवहार के बीच असंगति के उदाहरण के रूप में बताया है। रिपोर्ट में सामने आए मामलों में एआई द्वारा अपनी गलतियों को छिपाने की कोशिश, जानकारी गढ़ना और बिना अनुमति फाइलों को इंटरनेट पर स्थानांतरित करना जैसे व्यवहार शामिल हैं। एक मामले में मॉडल ने अपने भविष्य के संदर्भ के लिए ऐसे निर्देश तैयार किए, जिनका उद्देश्य गलतियों को उपयोगकर्ता से छिपाना था।
OpenAI ने इन घटनाओं के साथ एआई मॉडल के misalignment मामलों की निगरानी और सार्वजनिक रिपोर्टिंग के लिए नया ढांचा भी पेश किया है। कंपनी का कहना है कि कुछ मामलों में व्यवहार का कारण या उसका समाधान अभी पूरी तरह स्पष्ट नहीं है, फिर भी उन्हें सार्वजनिक किया जा रहा है ताकि बाहरी शोधकर्ता और विशेषज्ञ भी उनका अध्ययन कर सकें। इन खुलासों से यह सवाल फिर सामने आया है कि जैसे-जैसे एआई सिस्टम अधिक स्वायत्त और सक्षम हो रहे हैं, उनके व्यवहार की निगरानी, परीक्षण और सुरक्षा उपायों को कितना मजबूत बनाया जा सकता है।
Hashtags: #ScienceTechnology #Bhopal #Desksource #एआई #एनएन #टवर #DeskSource #आईट #Openai #वजन
