एक एल्गोरिदम निर्णय लेता है हम जो देखते हैं, जो हम पढ़ते हैं उसे दूसरा फ़िल्टर करता है, और फिर भी अन्य लोग उन प्रक्रियाओं में प्रवेश करते हैं जो कार्य, सूचना और सामूहिक विकल्पों को नियंत्रित करती हैं। विश्वकोश में मैग्निफिका ह्यूमनिटास. पोप लियो XIV द्वारा पहली बार हस्ताक्षरित और 25 मई को प्रकाशित, कृत्रिम बुद्धिमत्ता को सिर्फ एक अन्य तकनीक के रूप में नहीं देखा जाता है; यह हमारे समकालीन दैनिक जीवन के अदृश्य बुनियादी ढांचे का हिस्सा है।

लेकिन पाठ की कल्पना विशेष रूप से तकनीकी प्रतिबिंब के रूप में नहीं की गई है। पोप लियो XIV एआई के मुद्दे को कैथोलिक चर्च के सामाजिक सिद्धांत की परंपरा के अंतर्गत रखता है और इसे अद्यतन करते समय सीधे तौर पर इसका आह्वान करता है। रेरम नोवारम पोप लियो XIII (15 मई, 1891 को प्रकाशित) की 135वीं वर्षगांठ के वर्ष में। उस विश्वपत्र में 19वीं शताब्दी के अंत में औद्योगिक क्रांति के चरम पर श्रम के प्रश्न को संबोधित किया गया था।

यदि उस समय के “रेस नोवा” कारखाने, श्रम और औद्योगिक पूंजीवाद थे, तो आज नए मुद्दे डिजिटल प्लेटफॉर्म, एल्गोरिदम, डेटा और स्वचालन प्रणालियों के इर्द-गिर्द घूमते हैं जो बिजली, अर्थव्यवस्था और सामाजिक संबंधों को नया आकार दे रहे हैं। इस कारण से, विश्वकोश स्वयं को नवाचार के बारे में एक तकनीकी पाठ के रूप में प्रस्तुत नहीं करता है, बल्कि मानव गरिमा और सामान्य भलाई के प्रकाश में डिजिटल परिवर्तन की व्याख्या करने के प्रयास के रूप में प्रस्तुत करता है। पोप लिखते हैं, प्रौद्योगिकी अपने आप में बुरी नहीं है; इसके विपरीत, यह मानव इतिहास और रचनात्मकता से संबंधित है। लेकिन वर्तमान स्थिति पैमाने और गहराई दोनों में भिन्न है: “मानवता के पास कभी भी अपने ऊपर इतनी शक्ति नहीं थी,” पाठ उन प्रौद्योगिकियों का वर्णन करता है जो अब तेजी से व्यापक तरीके से निर्णय लेने की प्रक्रियाओं, सामूहिक कल्पना और सामाजिक जीवन को आकार देते हैं।

यह इस बिंदु से है कि रॉबर्ट फ्रांसिस प्रीवोस्ट ने शुरुआत करना चुना: उन प्रणालियों के माध्यम से प्रयोग की जाने वाली शक्ति की बढ़ती एकाग्रता से जो तेजी से अपारदर्शी लेकिन तेजी से निर्णायक हैं, और उस प्रश्न से जो पूरे विश्वकोश में चलता है: जब निर्णय एल्गोरिदमिक तर्क में स्थानांतरित हो जाते हैं तो मानवीय गरिमा, सत्य, कार्य, सामाजिक न्याय और शांति की सुरक्षा क्या रहती है?

निशस्त्रीकरण प्रौद्योगिकी

विश्वपत्र में एक अभिव्यक्ति है जो पूरे परिदृश्य की व्याख्या करने की कुंजी बन जाती है: “निरस्त्रीकरण प्रौद्योगिकी।” कृत्रिम बुद्धिमत्ता के विकास को धीमा करने या अच्छे के लिए इसके संभावित परिवर्तनकारी प्रभाव को नकारने के किसी भी प्रयास का अर्थ बहुत दूर है। रॉबर्ट फ्रांसिस प्रीवोस्ट के लिए, एआई को निरस्त्र करने का मतलब इसे मानव अस्तित्व पर हावी होने में सक्षम शक्ति का एक रूप बनने से रोकना है।

लियो XIV के लिए, मुद्दा स्वयं प्रौद्योगिकी का नहीं है, बल्कि उसके संगठन और अनुप्रयोग का है। पोप लिखते हैं, एआई आज “सर्वोच्च प्रदर्शन करने वाले एल्गोरिदम” और “सबसे बड़े डेटा सेंटर” की वैश्विक दौड़ का हिस्सा है, जहां प्रतिस्पर्धात्मक लाभ भी भू-राजनीतिक बन जाता है। इस संदर्भ में, कुछ खिलाड़ी डिजिटल बुनियादी ढांचे, डेटा और कंप्यूटिंग क्षमता पर ध्यान केंद्रित करते हैं, जो सूचना, अर्थशास्त्र और यहां तक ​​कि लोकतंत्र को भी प्रभावित करता है।

निरस्त्रीकरण का अर्थ है तकनीकी शक्ति और शासन करने के अधिकार के बीच के इस समीकरण को तोड़ना। पोंटिफ बताते हैं, “जैसा कि हर प्रमुख तकनीकी मोड़ के साथ होता है, एआई उन लोगों की शक्ति को बढ़ाता है जिनके पास पहले से ही आर्थिक संसाधन और डेटा तक पहुंच है।”

स्पष्ट शब्दों में, विश्वकोश में कहा गया है कि केवल प्रौद्योगिकी को विनियमित करना पर्याप्त नहीं है: इसे एकाधिकार से दूर किया जाना चाहिए, पारदर्शी बनाया जाना चाहिए और चुनौती के लिए खुला होना चाहिए – अर्थात, कई अभिनेताओं द्वारा “रहने योग्य” बनाया जाना चाहिए। सबसे बढ़कर, एआई को कुछ चुनिंदा लोगों द्वारा आर्थिक, राजनीतिक या सैन्य वर्चस्व का साधन बनने से रोका जाना चाहिए। यह कोई नैतिक रूपक नहीं है: यह प्रतिस्पर्धा के तर्क को साझा बुनियादी ढांचे को नियंत्रण प्रणाली में बदलने से रोकने का आह्वान है।

वास्तविकता का चयन करने वाली प्रणालियों के भीतर का सत्य

यदि प्रौद्योगिकी शक्ति को केंद्रित करती है, तो पहले ठोस प्रभावों में से एक सामूहिक सत्य के निर्माण के तरीके से संबंधित है। विश्वकोश गलत सूचना के मुद्दे को संबोधित करता है, लेकिन निश्चित रूप से गहरे तरीके से क्योंकि कथित वास्तविकता, या बल्कि अनुभव, सिस्टम द्वारा तेजी से फ़िल्टर किया जाता है जो तय करता है कि क्या दिखाना है और क्या छिपाना है।

यह सिर्फ फर्जी खबरों या विभिन्न रूपों में फर्जी सामग्री के बारे में नहीं है। समस्या यह है कि प्लेटफ़ॉर्म और एल्गोरिदम ध्यान और जुड़ाव को अधिकतम करने के मानदंडों के आधार पर जानकारी का चयन करते हैं। दूसरे शब्दों में, जो दिखाई देता है वह जरूरी नहीं कि सबसे सच हो, बल्कि जो प्रतिक्रिया उत्पन्न करने में सबसे अच्छा काम करता है। इस तरह, सत्य गायब नहीं होता है, बल्कि यह अपारदर्शी प्रणालियों पर निर्भर हो जाता है जो विचारों, धारणाओं और सामूहिक विकल्पों को प्रभावित करते हैं, बिना यह स्पष्ट किए कि कैसे।