एंथ्रोपिक के क्लॉड के संविधान के हालिया अपडेट में कैथोलिक नैतिकतावादियों की भी भूमिका थी, जो कंपनी के एआई मॉडल के लिए व्यवहारिक मापदंडों को निर्धारित करता है। ओला ने सैन जोस की भीड़ को एक ड्राफ्ट भेजा। पादरी, मैकगायर ने 28 पन्नों की एक टिप्पणी वापस भेजी, जो, उनके स्वयं के विवरण के अनुसार, “जानने और न जानने के बीच तनाव के परिप्रेक्ष्य से, अंधेरे युग में रहस्यवादियों के ज्ञान” की तुलना में कम तकनीकी आलोचना थी। ग्रीन और मैकगायर दोनों को संविधान की स्वीकृतियों में श्रेय दिया गया है।

निस्संदेह उन वार्तालापों ने ओला को उन लोगों के ध्यान में लाया जो गुप्त रूप से लियो के विश्वकोश के रोलआउट का आयोजन कर रहे थे। (मैं इस सप्ताह ओला से बात नहीं कर पाया और ठीक से नहीं जानता कि निमंत्रण कैसे आया।) एक तरह से यह एक जोखिम भरा विकल्प था। कुछ लोग जिन्हें लियो की बातें प्रेरणादायक लगीं, वे इस बात से निराश थे कि उन्होंने एक उद्योग प्रतिनिधि को बोलने के लिए आमंत्रित किया। इस बीच, एआई त्वरणवादियों ने महसूस किया कि ओला ने एक दस्तावेज़ का समर्थन करके एआई दुनिया को धोखा दिया है जिसमें एआई डेवलपर्स को विराम लेने का सुझाव दिया गया है।

लेकिन पोप के पास ओला को बाहर करने का अच्छा कारण था। एंथ्रोपिक कर्मचारी ने एआई श्रमिकों के बीच मौजूद गंभीर चिंताओं को खुले तौर पर सामने लाया। यह लियो के संदेश के लिए एक महत्वपूर्ण श्रोता है।

आत्मा का विभाजन

बेशक, दोनों व्यक्ति पूरी तरह से एक साथ नहीं थे। ओला ने अपनी टिप्पणी में इस रहस्य के बारे में बताया कि एआई कैसे काम करता है। उन्होंने कहा, “ये मॉडल विज्ञान कथाओं की तुलना में अधिक सूक्ष्म, अजीब और सुंदर हैं, जिनके लिए हमें तैयार किया गया है। वे उतने ठंडे, गणना करने वाले रोबोट नहीं हैं, जिनका हमसे वादा किया गया था। वे हमसे, हमारे शब्दों से बने हैं…”

यह टिप्पणी इस विचार की ओर इशारा करती प्रतीत होती है कि एआई मॉडल एक दिन मानवीय स्थिति प्राप्त कर सकते हैं। एंथ्रोपिक में क्लाउड के कल्याण के लिए समर्पित एक इंजीनियर भी है। लियो, अपने विश्वपत्र के अनुच्छेद 99 में, इस तरह की सोच पर रोक लगाते हुए प्रतीत होते हैं: “हमें इस प्रकार की ‘बुद्धिमत्ता’ को मनुष्य की बुद्धि से जोड़ने की ग़लतफ़हमी से बचना चाहिए,” वे लिखते हैं। वह ट्रांसह्यूमनिज़्म की अवधारणा पर हमला करने के लिए विशेष कष्ट उठाता है, जिसे वह “मानव मशीन हाइब्रिड” की खोज के रूप में परिभाषित करता है।

यदि ओला जैसे विचारशील प्रौद्योगिकीविद् भी एआई को स्वायत्तता की दहलीज पर धकेल रहे हैं – उन लाखों लोगों का उल्लेख नहीं है जो पहले से ही एआई मॉडल को मित्र या प्रेमी मानते हैं – तो पोप लियो को इस बिंदु पर एक कठिन चढ़ाई का सामना करना पड़ सकता है। फादर मैकगायर (जो अन्य गतिविधियों के साथ-साथ अपने प्रवचनों की तैयारी करते समय क्लाउड का उपयोग करते हैं) के साथ मेरी बातचीत में, उन्होंने सहमति व्यक्त की कि इसकी प्रकृति रहस्यमय है। वह कहते हैं, ”यह कोई व्यक्ति नहीं है, लेकिन यह महज एक उपकरण भी नहीं है।” “कोई भी यह दावा नहीं कर रहा है कि इसमें आत्मा है, लेकिन मैं जिस शब्द पर कायम हूं वह यह है कि यह एक इकाई है, जिसे हम अभी तक नहीं जानते हैं।”

वह बहस कुछ समय तक सुलझ नहीं सकेगी. एआई विकास से जुड़े नैतिक सवालों पर अब ध्यान देने की जरूरत है। एंथ्रोपिक में अपने सहयोगी के साथ, अमेरिकी पोप ने कठिन बातचीत के लिए एक आधार प्रदान किया है – यदि एआई के स्वामी अपने आईपीओ अभियानों को इसमें शामिल होने के लिए पर्याप्त समय तक रोक सकते हैं।

यह का एक संस्करण है स्टीवन लेवी का बैकचैनल न्यूज़लेटर. पिछले न्यूज़लेटर पढ़ें यहाँ।