एक स्थानीय अदालत जर्मनी में एक निर्णय जारी किया गया है जो दुनिया भर में खोज इंजन और कृत्रिम-बुद्धिमत्ता-आधारित चैटबॉट के संचालन को नया आकार दे सकता है। म्यूनिख क्षेत्रीय न्यायालय ने प्रारंभिक रूप से फैसला सुनाया कि Google अपने AI अवलोकन सुविधा द्वारा उत्पन्न झूठे बयानों की एक श्रृंखला के लिए उत्तरदायी है, जिसके लिए कंपनी को अपने खोज इंजन के माध्यम से गलत या गलत दावों के प्रसार को रोकने की आवश्यकता है।
यह फैसला सबसे पहले डिकोडर द्वारा रिपोर्ट किए गए एक मामले से आया है, जिसमें दो प्रकाशकों ने पाया कि Google के AI-जनरेटेड सारांश ने उन्हें कुछ खोजों में, संदिग्ध व्यावसायिक प्रथाओं, घोटालों और सदस्यता-संबंधी धोखाधड़ी से जोड़ा, ऐसा करने का कोई आधार नहीं था।
रिपोर्ट के मुताबिक, इस साल की शुरुआत में, प्रभावित कंपनियों ने टेक दिग्गज को संघर्ष विराम पत्र भेजा था। Google ने दायित्व से इनकार करते हुए तर्क दिया कि इसकी स्वचालित सारांश सुविधा उपयोगकर्ताओं को चेतावनी देती है कि जानकारी में त्रुटियां हो सकती हैं और इसे स्वतंत्र रूप से सत्यापित किया जाना चाहिए।
अदालत के विश्लेषण से यह निष्कर्ष निकला कि Google के AI ने संभावित अवैध गतिविधियों के लिए चिह्नित की गई अन्य कंपनियों से संबंधित जानकारी को वादी के डेटा के साथ जोड़ दिया, जिससे ऐसे संबंध उत्पन्न हुए जो खोज इंजन से जुड़े किसी भी स्रोत में दिखाई नहीं दिए।
अधिकारियों ने पाया कि, पारंपरिक खोज इंजनों के विपरीत, जो केवल तीसरे पक्ष द्वारा दिए गए बयानों के साथ लिंक की सूची प्रदर्शित करते हैं, Google के टूल ने इंटरनेट पर उपलब्ध जानकारी की गलत व्याख्या के आधार पर “स्वतंत्र, नए और महत्वपूर्ण बयान” तैयार किए।
कोर्ट के मुताबिक, गलत सूचना को सही करना तीसरे पक्ष की जिम्मेदारी नहीं है। Google एकमात्र इकाई है जिसके पास अपने AI-जनरेटेड सारांशों को रेखांकित करने वाली प्रौद्योगिकी को संशोधित करने की क्षमता है और इसलिए, “जवाबदेह ठहराया जाना चाहिए।” इसके अलावा, अदालत ने पाया कि Google की बचाव की पंक्ति में योग्यता की कमी है, क्योंकि चुनौती दिए गए सारांश में “ऐसे कथन शामिल हैं जो खोज परिणामों में बिल्कुल भी दिखाई नहीं देते हैं।
वेब पर AI की एक नई (और सशक्त) व्याख्या
खोज परिणाम प्रस्तुत करने में एआई की भूमिका की अदालत की व्याख्या इस मामले को एक ऐतिहासिक मिसाल बना सकती है। यह व्यापक रूप से उपयोग किए जाने वाले प्लेटफार्मों पर अपने सबसे उन्नत विकास के प्रभाव के लिए एक बड़ी तकनीकी कंपनी को जिम्मेदार मानता है।
अब तक, अधिकांश कानूनी प्रणालियों में, खोज इंजन को उपकरण माना जाता है जो केवल तीसरे पक्ष द्वारा बनाई गई और वेब पर उपलब्ध सामग्री तक पहुंच की सुविधा प्रदान करता है। यह स्थिति उन्हें तब एक निश्चित स्तर की सुरक्षा प्रदान करती है जब प्रकाशित जानकारी झूठी, गलत, भ्रामक या यहां तक कि मानहानिकारक हो।
हालाँकि, जर्मन अदालत ने माना कि यह सुरक्षा अब तब लागू नहीं होती जब खोज इंजन जेनरेटिव एआई सिस्टम को शामिल करते हैं। इसके तर्क के अनुसार, यह तकनीक कई स्रोतों के आधार पर अस्तित्वहीन दावों का उत्पादन करने में सक्षम है और परिणामस्वरूप, इसे संचालित करने के लिए जिम्मेदार कंपनियों को परिणामी सामग्री के लिए दायित्व लेना होगा।
न्यायाधीशों ने यह भी निष्कर्ष निकाला कि जबकि Google AI मॉडल में निहित मतिभ्रम की संभावना के कारण उपयोगकर्ताओं को जानकारी सत्यापित करने के लिए प्रोत्साहित करता है, यह चेतावनी सामग्री वितरक को दायित्व से मुक्त नहीं करती है। अन्यथा, उन्होंने तर्क दिया, झूठे बयानों के पीड़ित वस्तुतः रक्षाहीन होंगे, क्योंकि मूल स्रोतों ने कभी भी ये बयान नहीं दिए और इसलिए, कानूनी कार्रवाई के अधीन नहीं हो सकते।
इसी तरह, अदालत ने माना कि एआई प्रणाली द्वारा उत्पन्न परिणामों को मुक्त भाषण के सिद्धांतों के तहत संरक्षित नहीं किया जा सकता है, क्योंकि वे एक कंपनी द्वारा डिजाइन, प्रशिक्षित और प्रबंधित एल्गोरिदम के उत्पाद हैं, न कि किसी व्यक्तिगत राय की अभिव्यक्ति।
संभावित पुनरावृत्ति को रोकने के लिए एहतियाती उपाय के रूप में, फैसले में Google को इस मामले में मानहानिकारक समझे जाने वाले बयानों के एक बड़े हिस्से को हटाने और कार्यवाही से उत्पन्न होने वाली 80 प्रतिशत कानूनी लागत को कवर करने की आवश्यकता थी।
Ars Technica द्वारा उद्धृत कंपनी के प्रवक्ता ने सुझाव दिया कि निर्णय के खिलाफ अपील की जा सकती है। बयान में कहा गया है, “हम एआई ओवरव्यू की गुणवत्ता में गहराई से निवेश करते हैं ताकि यह सुनिश्चित किया जा सके कि अधिकांश प्रतिक्रियाएं सटीक जानकारी प्रदान करती हैं, और उन्हें वेब पर मौजूद जानकारी को प्रतिबिंबित करने के लिए डिज़ाइन किया गया है।” “हम इस निर्णय की सावधानीपूर्वक समीक्षा कर रहे हैं, जो अभी अंतिम नहीं है।”
