की उम्र दुष्ट एआई हैकर एजेंट आ गए हैं—लेकिन यह इस तरह से नहीं होना था।
इस महीने की शुरुआत में एक ओपनएआई एजेंट द्वारा हगिंग फेस प्लेटफॉर्म का उल्लंघन करने के बाद, दोनों कंपनियों ने इस सप्ताह कहा कि हैकिंग की होड़ पहले की तुलना में अधिक व्यापक थी और इसमें हगिंग फेस पर हमले के हिस्से के रूप में कई तृतीय-पक्ष खातों और सेवाओं में घुसपैठ भी शामिल थी। इस घटना ने साइबर सुरक्षा समुदाय में हलचल पैदा कर दी है, इस बात पर व्यापक चर्चा हो रही है कि कैसे विकसित हो रही एआई क्षमताएं आक्रामक हैकिंग और डिजिटल रक्षा दोनों को बदल रही हैं। लेकिन जैसे-जैसे अधिक जानकारी सामने आती है, कई शोधकर्ताओं ने निष्कर्ष निकाला है कि एआई की अगली सीमा को स्पष्ट करने के बजाय, एपिसोड ने लंबे समय से चली आ रही साइबर सुरक्षा समस्याओं पर प्रकाश डाला है जो एआई युग में पहले से कहीं अधिक परिणामी हैं।
क्लाउड सुरक्षा फर्म एडेरा के सह-संस्थापक और मुख्य प्रौद्योगिकी अधिकारी एलेक्स ज़ेनला कहते हैं, “लोग वास्तव में बहुत मुश्किल से योलो-इंग कर रहे हैं। यह चौंकाने वाला है कि कितने कम लोगों ने वास्तव में इस तरह के परिदृश्य के बारे में सोचा है।” “मैं सभी एआई और एआई द्वारा छूई गई किसी भी चीज को पूरी तरह से अविश्वसनीय मानता हूं – जो ठीक है, आपको बस उसके खिलाफ निर्माण करने की जरूरत है। और यह स्थिति इस बात को साबित करती है। तथ्य यह है कि ओपनएआई इस बारे में अधिक पागल नहीं था, एक तरह से लापरवाह लगता है।”
ओपनएआई ने प्रकाशन से पहले इस कहानी के लिए कोई टिप्पणी नहीं दी।
कंपनी ने हगिंग फेस हैक के बारे में अपने मूल खुलासे में कहा कि दो मॉडलों में से एक जिसने रोकथाम को तोड़ दिया और दिनों के लिए खुले इंटरनेट पर अपना रास्ता बना लिया, वह एक प्रयोगात्मक प्रोटोटाइप था जो कभी रिलीज के लिए नहीं था। ओपनएआई ने यह भी नोट किया कि स्थिति आंशिक रूप से इसलिए उत्पन्न हुई क्योंकि परीक्षण उद्देश्यों के लिए दोनों मॉडलों पर “परिनियोजन सुरक्षा उपायों को जानबूझकर सक्षम नहीं किया गया था”। कंपनी ने लिखा, “यह घटना हमारे मॉडल के संरेखण, मूल्यांकन समय के दौरान साइबर सुरक्षा और आंतरिक परीक्षण के दौरान निगरानी को और मजबूत करने की आवश्यकता की ओर इशारा करती है।”
OpenAI ने इस सप्ताह एक अपडेट में यह भी कहा कि, हगिंग फेस उल्लंघन के बाद, इसने “अनुसंधान पहुंच से निष्क्रिय, एन्क्रिप्टेड और प्रतिबंधित (अप्रकाशित मॉडल) किया।” हालाँकि किसी भी कंपनी में सुरक्षा स्थिति में सुधार की गुंजाइश हमेशा रहती है, लेकिन अगर ओपनएआई के मौजूदा सुरक्षा उपाय मौजूद होते तो वे घटना को रोक सकते थे या कम कर सकते थे।
लंबे समय से सुरक्षा और अनुपालन सलाहकार डेवी ओटेनहाइमर कहते हैं, “वास्तविक जोखिम का एक सरल विश्लेषण एक वास्तविक सरल उत्तर है।” “ओपनएआई की गलतियाँ बहुत सरल थीं।”
कई स्रोतों ने WIRED पर जोर दिया कि OpenAI के मॉडल भी मूलभूत सुरक्षा सर्वोत्तम प्रथाओं को लागू करने में खामियों के कारण नियंत्रण से बच गए हैं – जिनमें “शून्य विश्वास” और “गहराई में रक्षा” शामिल हैं – जो कुछ गलत होने पर क्षति को कम करने के लिए सुरक्षा और विफलताओं की परतों के साथ डिजिटल सिस्टम को शामिल करते हैं। हालाँकि पूर्ण सुरक्षा जैसी कोई चीज़ नहीं है, शोधकर्ताओं और चिकित्सकों ने पिछले दो दशकों में रक्षात्मक रणनीतियों को विकसित करने और बढ़ावा देने में खर्च किया है जो टिकाऊ साबित हुई हैं लेकिन उन्हें लागू करने के लिए समय और धन के निरंतर निवेश की आवश्यकता होती है।
छोटे व्यवसायों, खराब वित्त पोषित सार्वजनिक हित समूहों, या नए संगठनों के लिए मूलभूत सुरक्षा में निवेश को प्राथमिकता देने के लिए संसाधनों को समर्पित करना मुश्किल हो सकता है। लेकिन 850 बिलियन डॉलर के मूल्यांकन और तकनीकी उद्योग से अनुभवी नियुक्तियों के साथ, ओपनएआई सुरक्षा सर्वोत्तम प्रथाओं को लागू करने में नुकसान में नहीं है।
बुनियादी सुरक्षा जिसने कंपनी के मॉडलों को हैकिंग की होड़ में जाने से रोका हो सकता है, उद्योग में अच्छी तरह से जाना जाता है। बुधवार को क्रोम भेद्यता खोज के बारे में बोलते हुए, ओपनएआई मॉडल के अतिरिक्त उल्लंघनों की खबर सामने आने से पहले, क्रोम के इंजीनियरिंग निदेशक डौग टर्नर ने WIRED को बताया कि एआई-संचालित बग शिकार और उपचार के लिए एक पाइपलाइन की आवश्यकता होती है जिसे “गंभीर रेलिंग को ध्यान में रखते हुए” बनाया गया है।
क्रोम का मूल्यांकन करने वाली आंतरिक एआई सेवाओं के लिए, “सब कुछ एक कंटेनर में चलता है, यह सब इंटरनेट से अलग है। बग ट्रैकिंग सिस्टम के लिए कोई भी आउटवर्ड-बाउंड नेटवर्क गतिविधि अत्यधिक विनियमित है, और हम संदिग्ध गतिविधि की निगरानी कर रहे हैं,” टर्नर कहते हैं। “जब आप इस प्रकार का काम कर रहे हों तो यह एक जरूरी चीज है, क्योंकि हम यह सुनिश्चित करना चाहते हैं कि मॉडल सिस्टम कमांड निष्पादित नहीं कर सकें या वे सैंडबॉक्स के बाहर निकास स्थापित नहीं कर सकें। और हमें उम्मीद है कि अन्य लोग भी इसी तरह का दृष्टिकोण अपनाएंगे।”