पिछले सप्ताह के अंत में, संयुक्त राज्य सरकार के निर्यात-नियंत्रण निर्देश के बाद “किसी भी विदेशी नागरिक” को सेवाओं का उपयोग करने से रोकने के बाद एंथ्रोपिक ने अपने नए क्लाउड फैबल 5 और मिथोस 5 एआई मॉडल को ऑफ़लाइन ले लिया। कंपनी शुक्रवार से व्हाइट हाउस के साथ बातचीत कर रही है लेकिन अभी तक कोई ऐसा समझौता नहीं हो पाया है जो उसे पेशकशों को बहाल करने की अनुमति दे सके।
अप्रैल में मिथोस की शुरुआत के बाद से, एंथ्रोपिक ने दावा किया है – और चेतावनी दी है – कि मॉडल में न केवल रक्षकों को पैच करने में मदद करने के लिए सॉफ़्टवेयर कमजोरियों को ढूंढने की उन्नत क्षमताएं हैं, बल्कि उनका फायदा उठाने के तरीकों का भी पता लगाया जा सकता है जिनका उपयोग बुरे अभिनेताओं द्वारा किया जा सकता है। एंथ्रोपिक ने स्वयं मिथोस 5 और क्लाउड फैबल 5 के लॉन्च में इस दोधारी तलवार का उल्लेख किया था। कंपनी ने पिछले सप्ताह एक ब्लॉग पोस्ट में लिखा था, “एआई मॉडल का एक बड़ा हिस्सा दोहरे उपयोग का है: वही प्रश्न जो साइबर सुरक्षा पेशेवरों और जीव विज्ञान शोधकर्ताओं के लिए फायदेमंद हैं, यदि दुर्भावनापूर्ण अभिनेताओं के लिए उपलब्ध हों तो खतरनाक हो सकते हैं।”
इसे ध्यान में रखते हुए, कंपनी ने शुरुआत में प्रोजेक्ट ग्लासविंग नामक एक कार्य समूह के हिस्से के रूप में एक चुनिंदा कंसोर्टियम के लिए माइथोस प्रीव्यू नामक एक संस्करण जारी किया। मिथोस 5 को भी पिछले सप्ताह इस समूह के लिए निजी तौर पर जारी किया गया था, जबकि क्लॉड फैबल 5, जो एक मिथोस-ग्रेड मॉडल है, को जीव विज्ञान और साइबर सुरक्षा के बारे में सवालों के जवाब देने की क्षमता पर विशिष्ट ब्लॉकों के साथ आम जनता के लिए जारी किया गया था।
फिर, पिछले सप्ताह के अंत में, ट्रम्प प्रशासन दोनों मॉडलों को प्रतिबंधित करने के लिए आगे बढ़ा क्योंकि उसका मानना है कि मिथोस 5 क्षमताओं तक पूर्ण पहुंच की अनुमति देने के लिए फैबल 5 की रेलिंग को अक्षम किया जा सकता है, जिससे कथित तौर पर यह एक राष्ट्रीय सुरक्षा जोखिम बन जाता है।
हालाँकि, विशेषज्ञों का कहना है कि यह संस्थागत टकराव बस देरी कर रहा है या एक कठिन सच्चाई को छुपा रहा है: एंथ्रोपिक इस समय भाले की नोक हो सकता है, लेकिन सामान्य रूप से एआई क्षमताएं और कई कंपनियों और ओपन-वेट डेवलपर्स के मॉडल में निकट भविष्य में लगभग निश्चित रूप से मिथोस 5 के समान क्षमताएं होंगी – यदि वे पहले से ही नहीं हैं।
विशेष साइबर सुरक्षा परामर्श फर्म टीपीओ ग्रुप के मुख्य सुरक्षा अधिकारी तारा व्हीलर कहते हैं, “यह सोचना बेहद अदूरदर्शी है कि एंथ्रोपिक का कोई अन्य प्रतिस्पर्धी मिथोस के समान क्षमताएं विकसित नहीं करेगा या यहां तक कि उन्होंने पहले से ही ऐसा नहीं किया है।” “ऐसी अन्य कंपनियाँ हैं जो एंथ्रोपिक के पीछे हैं, जिनके पास संभवतः क्षमताएं हैं, और वे उन्हें आरक्षित रख रही हैं क्योंकि वे देखते हैं कि वर्तमान नियामक वातावरण में एंथ्रोपिक के साथ कैसा व्यवहार किया जा रहा है।”
मिथोस प्रीव्यू के लॉन्च के बाद से एंथ्रोपिक ने स्वयं इस बिंदु पर जोर दिया है। “असली संदेश यह है कि यह मॉडल या एंथ्रोपिक के बारे में नहीं है,” कंपनी के फ्रंटियर रेड टीम लीड लोगान ग्राहम ने अप्रैल में माइथोस प्रीव्यू लॉन्च होने पर WIRED को बताया था। “हमें अब एक ऐसी दुनिया के लिए तैयार होने की ज़रूरत है जहां ये क्षमताएं 6, 12, 24 महीनों में व्यापक रूप से उपलब्ध होंगी।”
उदाहरण के लिए, OpenAI ने अप्रैल के मध्य में एक साइबर सुरक्षा-केंद्रित मॉडल की एक निजी रिलीज़ भी की और एक विस्तारित साइबर सुरक्षा रणनीति की घोषणा की।
शोधकर्ताओं ने ध्यान दिया कि अगली पीढ़ी के मॉडल से पहले भी, मौजूदा एआई पेशकशों का उपयोग उन्नत भेद्यता-शिकार और परिष्कृत दोहन के साथ शोषण विकास के लिए किया जा सकता था। साइबर सुरक्षा नेताओं के एक बड़े समूह ने रविवार को एक खुले पत्र में प्रशासन को इस बात पर जोर दिया और तर्क दिया कि व्हाइट हाउस के निर्यात-नियंत्रण निर्देश गलत थे।
“यह एक मॉडल नहीं है; यह प्रौद्योगिकी की सामान्य प्रवृत्ति है,” हार्वर्ड विश्वविद्यालय और टोरंटो विश्वविद्यालय के एक शोधकर्ता ब्रूस श्नीयर कहते हैं, जो स्थिति का विश्लेषण कर रहे हैं। “छोटे, सस्ते, ओपन-सोर्स मॉडल, कभी-कभी अकेले और कभी-कभी एक-दूसरे के साथ मिलकर, अधिक परिष्कृत प्रेरणा के साथ मिथोस/फेबल के प्रदर्शन से मेल खा सकते हैं। और हमें उम्मीद करनी चाहिए कि अन्य मॉडल महीनों के भीतर मिथोस/फेबल की रचनात्मकता और दृढ़ता से मेल खाएंगे – ओपन-सोर्स मॉडल के लिए थोड़ा अधिक समय।”
विशेषज्ञों का कहना है कि व्हाइट हाउस और दुनिया भर की सरकारों को जिस चीज पर ध्यान केंद्रित करने की जरूरत है, वह लोकतांत्रिक रूप से अधिक व्यापक और अधिक पारदर्शी योजनाएं विकसित करना है कि वे साइबर सुरक्षा और अन्य संवेदनशील क्षेत्रों में अनिवार्य रूप से घटित होने वाली एआई क्षमताओं में प्रगति का मुकाबला कैसे करेंगे।
क्लाउड सिक्योरिटी फर्म वेराकोड के सह-संस्थापक क्रिस वायसोपाल कहते हैं, “नीतिगत सवाल यह नहीं है कि किसी तकनीक में जोखिम है या नहीं।” “सवाल यह है कि क्या कोई विशिष्ट प्रतिबंध उस जोखिम को सार्थक रूप से कम करता है या क्या यह मुख्य रूप से सिस्टम को सुरक्षित बनाने की कोशिश कर रहे लोगों को धीमा कर देता है।”