सीएनएन सेंट्रल न्यूज़ एंड नेटवर्क–आईटीडीसी इंडिया ईप्रेस /आईटीडीसी न्यूज़ भोपाल : आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर बढ़ती चिंताओं के बीच एआई कंपनी एंथ्रोपिक और कंसल्टिंग कंपनी एक्सेंचर ने अगले पांच वर्षों में कम से कम 2 अरब डॉलर निवेश करने की घोषणा की है। दोनों कंपनियां एआई मॉडल के स्वतंत्र मूल्यांकन और सुरक्षा परीक्षण के लिए अपनी-अपनी ओर से कम से कम 1 अरब डॉलर लगाएंगी। इस साझेदारी का नेतृत्व एक्सेंचर की विशेषज्ञ एआई इकाई फैकल्टी करेगी। टीम एंथ्रोपिक के उन्नत यानी फ्रंटियर एआई मॉडल का परीक्षण करेगी। इसमें रेड-टीमिंग, एआई मॉडल के व्यवहार और सुरक्षा उपायों का आकलन तथा अलाइनमेंट असेसमेंट शामिल होंगे।
एंथ्रोपिक के अनुसार, इस व्यवस्था को ‘एम्बेडेड इवैल्यूएशन’ कहा जा रहा है। इसके तहत स्वतंत्र मूल्यांकनकर्ता कंपनी के अंदर काम करेंगे और उन्हें कर्मचारियों के समान स्तर की पहुंच मिलेगी। इससे वे मॉडल के विकास, सुरक्षा प्रक्रियाओं और संभावित कमजोरियों का अधिक प्रत्यक्ष आकलन कर सकेंगे। यह कदम ऐसे समय में उठाया गया है जब एआई एजेंटों के अप्रत्याशित व्यवहार और मानव नियंत्रण से बाहर जाने की संभावनाओं को लेकर तकनीकी क्षेत्र में चिंता बढ़ी है। एंथ्रोपिक ने कहा है कि वह अन्य मूल्यांकन संस्थाओं के साथ भी काम करेगा, जबकि यह साझेदारी गैर-विशिष्ट होगी।
Hashtags: #ScienceTechnology #Bhopal #Desksource #एआई #अरब #एनएन #DeskSource #टवर #आईट #अगल
