सीएनएन सेंट्रल न्यूज़ एंड नेटवर्क–आईटीडीसी इंडिया ईप्रेस /आईटीडीसी न्यूज़ भोपाल : एस्ट्रा सिक्योरिटी, जो आक्रामक एआई सुरक्षा समाधानों की अग्रणी कंपनी है, ने प्रतिष्ठित साइबर सुरक्षा सम्मेलन CERT-In संवाद 2025 में लार्ज लैंग्वेज मॉडल्स (LLMs) और एआई एप्लिकेशनों में पाई गई कमजोरियों पर आधारित अपना नवीनतम शोध प्रस्तुत किया। इस रिपोर्ट में प्रॉम्प्ट इंजेक्शन, जेलब्रेक और अन्य नवीन खतरों के कारण AI-प्रथम व्यवसायों को होने वाले बढ़ते जोखिमों को उजागर किया गया।
यह शोध केवल OWASP टॉप 10: एलएलएम और जेनरेटिव एआई सुरक्षा जोखिमों में योगदान नहीं करता, बल्कि यह एस्ट्रा की उन्नत परीक्षण पद्धतियों की नींव भी रखता है, जो शोध-आधारित रक्षा रणनीतियों के साथ एआई सिस्टम्स को सुरक्षित बनाने पर केंद्रित है।
फिनटेक से लेकर हेल्थकेयर तक, एस्ट्रा की खोजों से पता चलता है कि एआई सिस्टम्स को इस प्रकार से भटकाया जा सकता है कि वे संवेदनशील डेटा को लीक कर दें या व्यापारिक दृष्टिकोण से गंभीर गलतियाँ कर बैठें — ऐसे जोखिम जिनका त्वरित और बुद्धिमत्तापूर्ण समाधान आवश्यक है।
एआई तेज़ी से एक उत्पादकता उपकरण से निर्णय लेने वाले तंत्र में बदल रहा है, जो वित्तीय स्वीकृतियों, स्वास्थ्य संबंधी निदान, कानूनी प्रक्रियाओं और यहाँ तक कि सरकारी प्रणालियों को भी संचालित कर रहा है। लेकिन इस विश्वास के साथ ही खतरों की एक नई और अधिक घातक सीमारेखा भी सामने आ रही है।
“हमारे शोध का प्रेरक तत्व एक साधारण लेकिन चौंकाने वाला बोध था — एआई को नुकसान पहुंचाने के लिए हैक करने की जरूरत नहीं है। अगर यह गलत हो जाए, तो भी यह गंभीर परिणाम ला सकता है। इसलिए हम सिर्फ खतरों को स्कैन नहीं कर रहे — हम यह भी दिखा रहे हैं कि एआई को कैसे भटकाया, दुरुपयोग किया और धोखा दिया जा सकता है,”
— आनंद कृष्णा, सीटीओ, एस्ट्रा सिक्योरिटी।
कई महीनों तक वास्तविक एआई अनुप्रयोगों पर किए गए गहन विश्लेषण और पेन-टेस्टिंग के ज़रिए एस्ट्रा ने कई नए अटैक वेक्टर उजागर किए हैं जिन्हें पारंपरिक सुरक्षा मॉडल पकड़ नहीं पाते। यह शोध एस्ट्रा के एआई-जागरूक सुरक्षा इंजन के निर्माण में भी सहायक रहा है, जो इन हमलों को वास्तविक-जैसे वातावरण में दोहराता है ताकि व्यवसाय एआई-संचालित खतरों से एक कदम आगे रह सकें।
#एस्ट्रासिक्योरिटी #एआईसुरक्षा #एलएलएमखतरे #CERTIn2025 #साइबरसुरक्षा #आर्टिफिशियलइंटेलिजेंस #प्रॉम्प्टइंजेक्शन #जेलब्रेकखतरे #डाटालीक
