एंथ्रोपिक पीछे हट रहा है एक ऐसी नीति पर जो प्रतिस्पर्धियों को अन्य एआई मॉडल विकसित करने के लिए अपने नए एआई मॉडल, क्लाउड फैबल 5 का उपयोग करने से गुप्त रूप से सीमित कर देगी। इस कदम के बाद एआई अनुसंधान समुदाय से महत्वपूर्ण प्रतिक्रिया मिलने के बाद कंपनी ने अपना रुख बदल लिया।
एंथ्रोपिक ने WIRED को दिए एक बयान में कहा, “हम फ्रंटियर एलएलएम विकास के लिए फैबल 5 के सुरक्षा उपायों को बदल रहे हैं ताकि उन्हें दृश्यमान बनाया जा सके।” “हमने ग़लत समझौता कर लिया है और संतुलन सही न हो पाने के लिए हम क्षमा चाहते हैं।”
एंथ्रोपिक ने इस सप्ताह की शुरुआत में दुरुपयोग को रोकने के लिए डिज़ाइन किए गए अतिरिक्त सुरक्षा रेलिंग के साथ अपने नवीनतम एआई मॉडल का एक संस्करण क्लाउड फैबल 5 जारी किया। एंथ्रोपिक द्वारा तय किए गए कुछ सुरक्षा उपाय आश्चर्यजनक नहीं थे: कंपनी ने कहा कि वह साइबर सुरक्षा, जीव विज्ञान या रसायन विज्ञान के बारे में सवाल पूछने वाले उपयोगकर्ताओं को कम सक्षम एआई मॉडल में बदल देगी ताकि उन्नत एआई का उपयोग करने वाले किसी व्यक्ति द्वारा साइबर हमला करने या जैव हथियार बनाने की संभावना कम हो सके।
लेकिन फ्रंटियर एआई विकास के लिए क्लाउड फैबल 5 का उपयोग करने की कोशिश कर रहे शोधकर्ताओं के लिए, एंथ्रोपिक ने एक अलग दृष्टिकोण की रूपरेखा तैयार की। कंपनी जानबूझकर मॉडल के प्रदर्शन को ऐसे तरीकों से ख़राब कर देगी जो उपयोगकर्ता के लिए अदृश्य थे। यह कदम प्रतिस्पर्धी एआई मॉडल को प्रशिक्षित करने के लिए क्लाउड का उपयोग करने की कोशिश कर रहे शोधकर्ताओं को प्रभावी ढंग से नुकसान पहुंचाएगा, जिसे एंथ्रोपिक ने अपनी सेवा की शर्तों में स्पष्ट रूप से प्रतिबंधित कर दिया है।
एंथ्रोपिक अब कहता है कि यह पाठ्यक्रम बदल रहा है, और एआई विकास के लिए क्लाउड फैबल 5 के सुरक्षा उपाय उपयोगकर्ताओं को दिखाई देंगे। यदि कंपनी को संदेह है कि कोई उपयोगकर्ता अत्यधिक सक्षम एआई बनाने के लिए क्लाउड का उपयोग करने का प्रयास कर रहा है, तो यह उन्हें सचेत करेगा कि यह या तो अनुरोध को अस्वीकार कर रहा है या उपयोगकर्ता को कम सक्षम मॉडल पर दोबारा भेज रहा है।
एआई अनुसंधान समुदाय से तीखी प्रतिक्रिया मिलने के बाद एंथ्रोपिक ने नीति को उलट दिया। एंथ्रोपिक ने पहले से ही बंद और ओपन-सोर्स एआई मॉडल बनाने के लिए क्लाउड का उपयोग करने वाले प्रतिस्पर्धियों को सीमित करने के लिए कदम उठाए हैं, लेकिन आलोचकों का कहना है कि कुछ उपयोगकर्ताओं के लिए मॉडल के प्रदर्शन को चुपचाप कम करना बहुत दूर चला गया है। क्लाउड का कोडिंग एजेंट डेवलपर्स के बीच एक पसंदीदा उपकरण बन गया है, जिसमें ओपन-सोर्स एआई अनुसंधान परियोजनाओं पर काम करने वाले लोग भी शामिल हैं, और शोधकर्ताओं ने WIRED को बताया कि कंपनी की नवीनतम नीति एक परेशान करने वाले भविष्य का कारण बन सकती है जिसमें केवल कुछ प्रमुख एआई प्रयोगशालाएं ही उन्नत एआई अनुसंधान कर सकती हैं।
फाउंडेशन फॉर अमेरिकन इनोवेशन के एक वरिष्ठ साथी और एआई पर व्हाइट हाउस के पूर्व सलाहकार डीन बॉल ने एक्स पर एक पोस्ट में लिखा है कि “एमएल अनुसंधान पर अपमानजनक प्रदर्शन *उपयोगकर्ता को बताए बिना* चौंकाने वाला शत्रुतापूर्ण और एक भयानक रूप है।” उन्होंने एक अन्य पोस्ट में जारी रखा कि “गुप्त तोड़फोड़” नीति एंथ्रोपिक के समग्र रुख को कमजोर करती है, क्योंकि यह एआई शोधकर्ताओं को एआई सुरक्षा पर सहयोग करने से सीमित करती है।
ओपन-सोर्स एआई स्टार्टअप प्राइम इंटेलेक्ट के शोध प्रमुख विल ब्राउन कहते हैं, “ऐसा लगा जैसे एंथ्रोपिक जनता से कह रहा था, ‘हम एआई शोध करने के लिए किसी और पर भरोसा नहीं करते हैं। हम अकेले हैं जिन्हें एआई शोध करना है।” “ऐसा कुछ महसूस होता है जैसे वे सीढ़ी को अपने पीछे खींचना शुरू कर रहे हैं।”
ब्राउन ने कहा कि नीति ने डेवलपर्स को भी अंधेरे में छोड़ दिया होगा कि क्या वे एंथ्रोपिक के नियमों का उल्लंघन कर रहे हैं, क्योंकि कंपनी अपने सुरक्षा उपायों को लागू करने पर उन्हें सचेत नहीं करेगी। उन्होंने कहा कि प्रतिबंधों के व्यापक परिणाम हो सकते थे। उदाहरण के लिए, उन्होंने तृतीय-पक्ष मूल्यांकन फर्मों के बढ़ते पारिस्थितिकी तंत्र की ओर इशारा किया जो सुरक्षा, प्रदर्शन और विश्वसनीयता के लिए फ्रंटियर मॉडल का परीक्षण करते हैं – यदि एंथ्रोपिक ने गुप्त रूप से अपने मॉडल को खराब कर दिया तो काम में बाधा आ सकती थी।
