लिखना एआई लैब प्रत्येक सप्ताह का मतलब है कि मुझे कभी-कभी एआई मॉडल का सामना करना पड़ता है जो खराब और विचित्र व्यवहार करते हैं। आम तौर पर, इसके बारे में कुछ भी नहीं किया जा सकता है, उन कहानियों को आपके साथ साझा करने के अलावा। लेकिन यह जल्द ही बदल सकता है.
एआई शोधकर्ताओं के एक समूह ने एआई से होने वाले नुकसान की रिपोर्टिंग और ट्रैकिंग के लिए एक क्राउडसोर्स्ड वेबसाइट, फ्लॉ रिपोर्टिंग फॉर एआई (फ्लेयर-एआई) की स्थापना की है। उदाहरण के लिए, यदि कोई चैटबॉट मैलवेयर या बम बनाने का नुस्खा उत्पन्न करता है, व्यक्तिगत जानकारी लीक करता है, या उपयोगकर्ताओं में भ्रमपूर्ण सोच पैदा करता है, तो अलार्म बजाने के लिए FLARE-AI का उपयोग किया जा सकता है। सिस्टम के पीछे खुला स्रोत कोड दूसरों को किसी मुद्दे को सत्यापित करने और मॉडल निर्माताओं के साथ-साथ MITRE जैसे संगठनों को रिपोर्ट भेजने की अनुमति देता है, जो एक गैर-लाभकारी संस्था है जो तकनीकी प्रणालियों के साथ समस्याओं को ट्रैक करती है। यह कुछ हद तक डाउनडिटेक्टर की तरह है, जो ऐप्स और वेबसाइटों जैसी चीजों को प्रभावित करने वाली वैश्विक सेवा आउटेज के लिए वास्तविक समय उपयोगकर्ता रिपोर्ट संकलित करता है।
यह वेबसाइट एआई रिपोर्टिंग के साथ समूह के चल रहे काम में एक और कदम है, जिसके बारे में मैंने पहली बार पिछले साल लिखा था। समूह के सदस्यों ने जून में घोषित कांग्रेस के विधेयक पर भी परामर्श किया, जिसमें अमेरिकी सरकार इस तरह के एआई दुर्व्यवहार पर नज़र रखने में केंद्रीय भूमिका निभाएगी।
“फिलहाल, एआई सिस्टम में खामियों की रिपोर्ट करने का कोई केंद्रीकृत, जवाबदेह तरीका नहीं है,” हगिंगफेस के एक कृत्रिम बुद्धिमत्ता नीति शोधकर्ता अविजीत घोष कहते हैं, जिन्होंने कंप्यूटर वैज्ञानिकों एलेन झू और शाइनी लॉन्गप्रे के साथ फ्लेयर-एआई के विकास का सह-नेतृत्व किया।
अलार्म प्रणाली को 32 विभिन्न संगठनों के 49 एआई विशेषज्ञों के सहयोग से विकसित किया गया था। काम को रेखांकित करने वाले एक पेपर में, शोधकर्ताओं का तर्क है कि उनकी पहल महत्वपूर्ण साबित हो सकती है क्योंकि एआई को अधिक व्यापक रूप से अपनाया जाता है और एजेंट सिस्टम अधिक शक्ति प्राप्त करते हैं। उनका मानना है कि एआई खामियों की रिपोर्ट करने के लिए एक सुसंगत तरीके की कमी एक महत्वपूर्ण समस्या है।
थिंक टैंक सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी की शोधकर्ता जेसिका जी कहती हैं, “मुझे लगता है कि यह वास्तव में एक अच्छी पहल है।” जी का कहना है कि शोधकर्ताओं का यह कहना सही है कि मौजूदा रिपोर्टिंग तंत्र खंडित हैं और एआई मॉडल ब्लैक बॉक्स हैं। वह कहती हैं, ”मैं ऐसी किसी भी चीज़ के समर्थन में हूं जो एआई को अधिक पारदर्शी बनाती है।”
हालाँकि बग और साइबर सुरक्षा समस्याओं पर बहुत अधिक ध्यान दिया जाता है – विशेष रूप से हाल ही में – घोष ने मुझे बताया कि एआई सिस्टम की समस्याओं में मनोवैज्ञानिक नुकसान, भेदभाव या पूर्वाग्रह और गलत सूचना जैसे विषय शामिल हैं। वह कहते हैं कि अलग-अलग कंपनियों के पास ऐसे मुद्दों के लिए अलग-अलग मानक होते हैं, जिसका मतलब है कि कुछ समस्याएं अज्ञात रह जाती हैं। घोष कहते हैं, “समन्वित प्रकटीकरण प्रणाली के अभाव में, पारदर्शिता लागू करने के लिए कोई बाहरी तंत्र नहीं हैं।”
लोकप्रिय एआई टूल से जुड़ी हाल की घटनाओं से पता चलता है कि तकनीक कितनी आसानी से खराब हो सकती है।
इस सप्ताह, लेयरएक्स नामक कंपनी ने ओपनएआई के एटलस और पर्प्लेक्सिटी के कॉमेट समेत एआई-संक्रमित वेब ब्राउज़रों को धोखा देने के तरीके का खुलासा किया, ताकि वे अपनी रेलिंग को वॉल्ट कर सकें। उदाहरण के लिए, ब्राउज़र के पीछे के एआई मॉडल को यह समझाने से कि वह एक गेम खेल रहा है, ब्राउज़र दुष्ट हो सकता है और किसी वेबसाइट को हैक करने का प्रयास कर सकता है। (लेयरएक्स का कहना है कि प्रभावित ब्राउज़रों के लिए जिम्मेदार कंपनियों ने समस्या को ठीक कर दिया है।) और इस अप्रैल में, एक सुरक्षा शोधकर्ता जोहान रेहबर्गर ने चैटजीटीपी द्वारा उत्पन्न छवियों का उपयोग करके क्लाउड को व्यक्तिगत डेटा प्रकट करने का एक तरीका खोजा।
AI विचित्र नई प्रकार की समस्याएँ भी प्रस्तुत करता है। पिछले साल, OpenAI को अपने मॉडलों को अपडेट करने के लिए मजबूर होना पड़ा क्योंकि उसे पता चला कि वे अत्यधिक चापलूसी वाले थे, जो कभी-कभी भ्रमपूर्ण सोच को प्रोत्साहित करते प्रतीत होते थे।
ह्यूमेन इंटेलिजेंस पीबीसी के सीईओ और संस्थापक रुम्मन चौधरी का कहना है कि फ्लेयर-एआई कई एआई डेवलपर्स के लिए अपने टूल के साथ मुद्दों की रिपोर्टिंग के तरीकों को लागू करने का एक उपयोगी तरीका हो सकता है। लेकिन वह कहती हैं कि ऐसी पहल अक्सर गंभीर चुनौतियों के साथ आती हैं।
