इस महीने की शुरुआत में, WIRED ने स्टीव रोसेनबाम की चर्चित नई किताब का एक अंश प्रकाशित किया था, सत्य का भविष्यजो यह देखता है कि कैसे कृत्रिम बुद्धिमत्ता लोगों की वास्तविकता की भावना को विकृत कर देती है। इसके तुरंत बाद, द न्यूयॉर्क टाइम्स ने रिपोर्ट दी कि पुस्तक में आधा दर्जन से अधिक मनगढ़ंत या ग़लत ढंग से उद्धृत उद्धरण शामिल हैं। एक बयान में, रोसेनबाम, जिनके पास न्यूयॉर्क विश्वविद्यालय से “सच्चाई” में मास्टर डिग्री है, ने स्वीकार किया कि उन्होंने गलती से “मुट्ठी भर” “अनुचित तरीके से जिम्मेदार या सिंथेटिक” उद्धरण शामिल कर दिए थे। एक विडंबनापूर्ण मोड़ में, एआई सत्य को कैसे प्रभावित करता है, इस बारे में एक किताब की सत्यता अब गहन जांच के दायरे में थी क्योंकि इसके लेखक ने एआई का उपयोग कैसे किया था।
टाइम्स की कहानी सामने आने के बाद, WIRED ने हमारे 1,450 शब्दों वाले अंश पर दोबारा नज़र डाली। तथ्य-जाँच टीम ने प्रकाशन से पहले इसकी समीक्षा की थी, और हमने पुनः पुष्टि की कि इसके उद्धरण और तथ्य सटीक थे। लेकिन WIRED की जेनेरिक AI संपादकीय नीति AI-जनरेटेड और AI-संपादित लेखन के प्रकाशन पर रोक लगाती है, और एक पाठक ईमेल ने अंश को “स्पष्ट रूप से AI-लिखित” बताया है, जिससे रोसेनबाम ने किस हद तक AI टूल का उपयोग किया है, इस बारे में और सवाल खड़े हो गए हैं। में सत्य का भविष्यके अभिस्वीकृति अनुभाग में, रोसेनबाम लिखते हैं कि चैटजीपीटी, क्लाउड, नेचुरलरीडर्स, प्रोराइटिंगएड और ग्रामरली ने “(उनके) विचारों की प्रस्तुति को परिष्कृत और चमकाने में मदद की थी।” वास्तव में इसका क्या मतलब था?
WIRED ने अंश को पैंग्राम, GPTZero और ZeroGPT सहित कई AI-डिटेक्शन सेवाओं के माध्यम से चलाया। प्रत्येक सेवा ने सुझाव दिया कि यह या तो संभवतः एआई-जनरेटेड था, या उच्च आत्मविश्वास के साथ एआई-जनरेटेड था। लेकिन एआई-डिटेक्शन उपकरण त्रुटिपूर्ण हैं, और गलत रीडिंग लौटा सकते हैं। इसलिए WIRED के अनुसंधान प्रमुख ने सीधे रोसेनबाम को ईमेल करके पूछा कि क्या और कैसे उन्होंने अंश लिखने के लिए AI का उपयोग किया है।
उन्होंने वापस लिखा: “आज काम करने वाले कई लेखकों की तरह, मैंने पुस्तक के लिए अनुसंधान और संपादकीय विकास प्रक्रिया के कुछ हिस्सों के दौरान एआई टूल का उपयोग किया, जिसमें स्रोत खोज, विचार-मंथन, संरचनात्मक प्रतिक्रिया और भाषा परिशोधन शामिल है।” लेकिन, उन्होंने जोर देकर कहा, “विचार, रिपोर्टिंग, तर्क और अंतिम लेखकत्व मेरे हैं, और WIRED अंश AI द्वारा उत्पन्न नहीं किया गया था और फिर इसे वैसे ही प्रकाशित किया गया था।” उन्होंने WIRED के संपादकों से एआई डिटेक्शन टूल पर भरोसा करते हुए सावधानी बरतने का आग्रह किया, यह देखते हुए कि गलत सकारात्मक परिणाम हो सकते हैं।
इस बिंदु पर, WIRED के वरिष्ठ संपादकों ने मुझसे इस प्रकरण पर गौर करने के लिए कहा, क्योंकि मैंने 2024 से एआई स्लोप को इसके विभिन्न रूपों में कवर किया है। मेरा पहला कदम पुस्तक के पूरे पाठ को पंग्राम के डिटेक्शन टूल के माध्यम से चलाना था। (हालांकि सभी एआई-डिटेक्शन टूल की सीमाएं हैं, और गलत-सकारात्मक दिखा सकते हैं, पंग्राम वर्तमान स्वर्ण मानक है।) यह वापस आया कि पुस्तक 53 प्रतिशत एआई-जनित प्रतीत होती है, अतिरिक्त 9 प्रतिशत संभावित एआई-सहायता के रूप में पंजीकृत है।
मैंने रोसेनबाम को फोन किया और इस बारे में अधिक विस्तृत विवरण मांगा कि उन्होंने किताब लिखने के लिए एआई का उपयोग कैसे किया, और क्या उन्होंने पंग्राम के परिणामों पर विवाद किया। (बेनबेला बुक्स, जिसकी छाप प्रकाशित हुई सत्य का भविष्यटिप्पणी के लिए अनुरोध वापस नहीं किया। साइमन एंड शूस्टर, जो संयुक्त राज्य अमेरिका में बेनबेला की किताबें वितरित करता है, ने टिप्पणी करने से इनकार कर दिया।)
रोसेनबाम पंग्राम के परिणामों की सटीकता पर ध्यान नहीं देंगे। दरअसल, वह उनके बारे में बिल्कुल भी बात नहीं करना चाहता था। उन्होंने कहा, ”मैं उस बातचीत में हिस्सा नहीं लेता.” “यह कहने जैसा है, क्या आप अपनी पत्नी को पीटते हैं? यह उन आरोपों में से एक है जिसका कोई जवाब नहीं है।”
इसके बजाय, उन्होंने अपनी संपादकीय प्रक्रिया को मोटे तौर पर समझाने की पेशकश की। उनका कहना है कि लेखन प्रक्रिया की शुरुआत में, उन्होंने खोज इंजन के रूप में एआई टूल का उपयोग किया, जिससे उन्हें पुस्तक के अधिक शोध-भारी अनुभागों के लिए जानकारी सामने लाने में मदद मिली। यह प्रदर्शित करने के लिए कि वह ऐसा कैसे कर सकता है, उसने चैटजीपीटी से मेरा वर्णन करने को कहा, फिर परिणामों को ज़ोर से पढ़ने को कहा। एआई खोज ने कमोबेश मेरी कुछ पूर्व कहानियों का सटीक वर्णन किया है, जिसमें एआई-जनित “ज़ोंबी मीडिया साइटों” पर काम भी शामिल है।