एंथ्रोपिक ने मंगलवार को क्लाउड फैबल 5 और क्लाउड मिथोस 5 नामक दो नए एआई मॉडल जारी किए, जिसके बारे में कंपनी का कहना है कि इसमें तकनीकी उद्योग भागीदारों के सीमित समूह के लिए अप्रैल में जारी किए गए मिथोस प्रीव्यू मॉडल की तुलना में अधिक क्षमताएं हैं। एंथ्रोपिक ने कहा है कि प्रारंभिक, सीमित रिलीज़ इस चिंता से उत्पन्न हुई है कि मॉडल की क्षमताओं का उपयोग बुरे कलाकारों द्वारा हैकिंग टूल विकसित करने के लिए किया जा सकता है जो रक्षकों को चकमा दे सकता है।
एंथ्रोपिक वर्तमान में केवल उद्योग भागीदारों के सीमित समूह के लिए क्लाउड माइथोस 5 जारी कर रहा है, जिनमें से कई को माइथोस पूर्वावलोकन तक पहुंच प्राप्त हुई है, और कंपनी का कहना है कि वह रोलआउट पर अमेरिकी सरकार के साथ सहयोग कर रही है।
क्लाउड फैबल 5, जिसे सार्वजनिक रूप से जारी किया जा रहा है, मिथोस 5 के समान अंतर्निहित मॉडल का उपयोग करता है, लेकिन लॉन्च के समय इसमें “रेलिंग” होगी, कंपनी ने मंगलवार को कहा, जो मॉडल को साइबर सुरक्षा, जीव विज्ञान और रसायन विज्ञान से संबंधित कई उपयोगकर्ता सवालों के जवाब देने से रोक देगा। इसके बजाय इन अनुरोधों को पुराने AI मॉडल, क्लाउड ओपस 4.8 पर पुनः भेजा जाएगा। यदि एंथ्रोपिक को संदेह है कि कोई उपयोगकर्ता क्लाउड फैबल 5 पर आसवन का संचालन करने की कोशिश कर रहा है – एक बड़े एआई मॉडल की प्रतिक्रियाओं से एक छोटे एआई मॉडल का प्रशिक्षण, तो उन अनुरोधों को भी क्लाउड ओपस 4.8 पर फिर से भेज दिया जाएगा, कंपनी का कहना है।
WIRED के साथ एक साक्षात्कार में, एंथ्रोपिक के उत्पाद प्रबंधन प्रमुख डायने पेन का कहना है कि कंपनी अप्रैल रिलीज से पहले से ही इस सवाल से जूझ रही है कि मिथोस की सॉफ्टवेयर भेद्यता-खोज क्षमताओं और अन्य उन्नत क्षमताओं को कैसे संभालना है, लेकिन तब से परीक्षण और उपयोगकर्ता इनपुट ने रणनीति को बेहतर बनाने में मदद की।
पेन कहते हैं, “हम इस तरह से सुधार करने की कोशिश कर रहे हैं जो फायदेमंद हो, भले ही हमारे पास हर उपयोग के मामले को शुरू करने के लिए सही (समाधान) न हो।” “सभी अलग-अलग दृष्टिकोणों में से, यह सबसे व्यवहार्य और सर्वोत्तम दृष्टिकोण के रूप में उभरा। हमें ऐसा महसूस हुआ कि उपयोगकर्ताओं के लिए फ़ेबल 5 से अधिकतम मूल्य प्राप्त करने के लिए यह सबसे अच्छा उत्पाद विकल्प था।”
अभी के लिए, पेन का कहना है कि सुरक्षात्मक तंत्र सावधानी बरतने के लिए बनाया गया है, जिसका अर्थ है कि कुछ उपयोगकर्ता प्रश्नों को कम सक्षम एआई मॉडल पर भेजा जा सकता है, भले ही वे सौम्य हों। समय के साथ, एंथ्रोपिक को अपने क्लासिफायर को और अधिक सटीक बनाने की उम्मीद है, लेकिन पेन का कहना है कि यह एकमात्र सुरक्षित तरीका था जिससे कंपनी इस समय मॉडल को व्यापक रूप से जारी कर सकती थी।
कंपनी ने मंगलवार को कहा कि प्रोजेक्ट ग्लासविंग भागीदारों को क्लाउड मिथोस 5 की पेशकश के अलावा, वह “चुनिंदा जीवविज्ञान शोधकर्ताओं” तक पहुंच भी दे रही है। इसके अतिरिक्त, एंथ्रोपिक ने मंगलवार के लॉन्च के बारे में अपने ब्लॉग पोस्ट में उल्लेख किया कि यह ग्राहकों के इन छोटे समूहों को “जब तक हमारा विश्वसनीय एक्सेस प्रोग्राम उपलब्ध नहीं है” तक अप्रतिबंधित संस्करण प्रदान कर रहा है, पहुंच को और भी अधिक विस्तारित करने की भविष्य की योजनाओं पर संकेत दे रहा है। अप्रैल में माइथोस के लॉन्च के बाद से, एंथ्रोपिक ने बार-बार इस बात पर जोर दिया है कि आखिरकार निजी और यहां तक कि खुले वजन वाले स्थानों में इसके प्रतिस्पर्धी अनिवार्य रूप से माइथोस-स्तरीय क्षमताओं वाले मॉडल भी पेश करेंगे।
क्लॉड माइथोस और अन्य नए एआई मॉडलों की हैकिंग टूल डिजाइन करने की क्षमता जो नए और पुराने सॉफ्टवेयर दोनों में कमजोरियों को ढूंढ और उनका फायदा उठा सकती है, ने दुनिया भर की तकनीकी कंपनियों और सरकारों को इस स्तर के एआई मॉडल को हमलावरों के लिए व्यापक रूप से उपलब्ध कराने से पहले अपने सॉफ्टवेयर सुरक्षा को सुरक्षित करने के लिए मजबूर किया है। एंथ्रोपिक ने सबसे पहले मिथोस को प्रोजेक्ट ग्लासविंग नामक एक कंसोर्टियम के तहत उद्योग भागीदारों के लिए जारी किया, इस विचार के साथ कि इससे सदस्यों को अपने स्वयं के सिस्टम तैयार करने और व्यापक रिलीज से पहले खतरे के वैश्विक समाधानों पर विचार करने में मदद मिल सकती है।
एंथ्रोपिक ने पिछले सप्ताह प्रोजेक्ट ग्लासविंग के बारे में एक अपडेट में लिखा था: “हम सामान्य पहुंच में माइथोस-स्तरीय क्षमताओं को सुरक्षित रूप से जारी करने के लिए जितनी जल्दी हो सके काम कर रहे हैं। ऐसा करने के लिए, हमें अत्यधिक मजबूत सुरक्षा उपायों की आवश्यकता होगी जो मॉडल की साइबर क्षमताओं का दुरुपयोग होने से रोकें – सुरक्षा जो हम (और, हमारी जानकारी के अनुसार, अन्य सभी एआई डेवलपर्स) ने अभी तक विकसित नहीं की है।”
