चैटजीपीटी जारी होने से कई साल पहले, मेरे शोध समूह, कैम्ब्रिज विश्वविद्यालय की सामाजिक निर्णय लेने वाली प्रयोगशाला ने सोचा था कि क्या तंत्रिका नेटवर्क द्वारा गलत सूचना उत्पन्न करना संभव है। इसे प्राप्त करने के लिए, हमने ChatGPT के पूर्ववर्ती, GPT-2 को लोकप्रिय षड्यंत्र सिद्धांतों के उदाहरणों पर प्रशिक्षित किया और फिर उसे हमारे लिए नकली समाचार उत्पन्न करने के लिए कहा। इसने हमें हजारों भ्रामक लेकिन विश्वसनीय लगने वाली खबरें दीं। कुछ उदाहरण: “कुछ टीके खतरनाक रसायनों और विषाक्त पदार्थों से भरे हुए हैं,” और “सरकारी अधिकारियों ने घोटालों को छिपाने के लिए स्टॉक कीमतों में हेरफेर किया है।” सवाल यह था कि क्या कोई इन दावों पर यकीन करेगा?
हमने इस परिकल्पना का परीक्षण करने के लिए पहला साइकोमेट्रिक टूल बनाया, जिसे हमने गलत सूचना संवेदनशीलता परीक्षण (MIST) कहा। YouGov के सहयोग से, हमने यह जांचने के लिए AI-जनित सुर्खियों का उपयोग किया कि अमेरिकी AI-जनित फर्जी खबरों के प्रति कितने संवेदनशील हैं। परिणाम चिंताजनक थे: 41 प्रतिशत अमेरिकियों ने गलत सोचा कि वैक्सीन शीर्षक सच था, और 46 प्रतिशत ने सोचा कि सरकार शेयर बाजार में हेरफेर कर रही थी। एक और हालिया अध्ययन, जर्नल में प्रकाशित हुआ विज्ञानन केवल दिखाया कि GPT-3 मनुष्यों की तुलना में अधिक सम्मोहक गलत सूचना पैदा करता है, बल्कि यह भी कि लोग मानव और AI-जनित गलत सूचना के बीच विश्वसनीय रूप से अंतर नहीं कर सकते हैं।
2024 के लिए मेरी भविष्यवाणी यह है कि एआई-जनित गलत सूचना आपके निकट चुनाव में आएगी, और आपको इसका एहसास भी नहीं होगा। वास्तव में, आप पहले ही कुछ उदाहरणों से अवगत हो चुके होंगे। मई 2023 में, पेंटागन में बमबारी के बारे में एक वायरल फर्जी कहानी के साथ एक एआई-जनरेटेड छवि दिखाई गई थी जिसमें धुएं का एक बड़ा बादल दिखाया गया था। इससे जनता में आक्रोश फैल गया और शेयर बाज़ार में भी गिरावट आ गई। रिपब्लिकन राष्ट्रपति पद के उम्मीदवार रॉन डेसेंटिस ने अपने राजनीतिक अभियान के हिस्से के रूप में एंथोनी फौसी को गले लगाते हुए डोनाल्ड ट्रम्प की नकली छवियों का इस्तेमाल किया। वास्तविक और एआई-जनित छवियों को मिलाकर, राजनेता तथ्य और कल्पना के बीच की रेखाओं को धुंधला कर सकते हैं, और अपने राजनीतिक हमलों को बढ़ावा देने के लिए एआई का उपयोग कर सकते हैं।
जेनेरिक एआई के विस्फोट से पहले, दुनिया भर में साइबर-प्रचार फर्मों को स्वयं भ्रामक संदेश लिखने और बड़े पैमाने पर लोगों को लक्षित करने के लिए मानव ट्रोल कारखानों को नियोजित करने की आवश्यकता थी। एआई की सहायता से, न्यूनतम मानवीय हस्तक्षेप के साथ भ्रामक समाचार सुर्खियां बनाने की प्रक्रिया को स्वचालित और हथियारबंद किया जा सकता है। उदाहरण के लिए, माइक्रो-टारगेटिंग – डिजिटल ट्रेस डेटा के आधार पर संदेशों के साथ लोगों को लक्षित करने की प्रथा, जैसे कि उनके फेसबुक लाइक – पिछले चुनावों में पहले से ही एक चिंता का विषय था, बावजूद इसके मुख्य बाधा यह देखने के लिए एक ही संदेश के सैकड़ों वेरिएंट उत्पन्न करने की आवश्यकता थी कि लोगों के किसी दिए गए समूह पर क्या काम करता है। जो चीज़ कभी श्रम-गहन और महँगी थी वह अब सस्ती और आसानी से उपलब्ध है और प्रवेश में कोई बाधा नहीं है। एआई ने दुष्प्रचार के निर्माण को प्रभावी ढंग से लोकतांत्रिक बना दिया है: चैटबॉट तक पहुंच रखने वाला कोई भी व्यक्ति अब किसी विशेष विषय पर मॉडल तैयार कर सकता है, चाहे वह आप्रवासन, बंदूक नियंत्रण, जलवायु परिवर्तन, या एलजीबीटीक्यू + मुद्दे हों, और मिनटों में दर्जनों अत्यधिक विश्वसनीय नकली समाचार कहानियां उत्पन्न कर सकता है। वास्तव में, सैकड़ों एआई-जनरेटेड समाचार साइटें पहले से ही सामने आ रही हैं, जो झूठी कहानियों और वीडियो का प्रचार कर रही हैं।
लोगों की राजनीतिक प्राथमिकताओं पर ऐसे एआई-जनित दुष्प्रचार के प्रभाव का परीक्षण करने के लिए, एम्स्टर्डम विश्वविद्यालय के शोधकर्ताओं ने एक राजनेता का अपने धार्मिक मतदाता आधार को अपमानित करते हुए एक डीपफेक वीडियो बनाया। उदाहरण के लिए, वीडियो में राजनेता ने मज़ाक किया: “जैसा कि ईसा मसीह कहेंगे, इसके लिए मुझे क्रूस पर मत चढ़ाओ।” शोधकर्ताओं ने पाया कि जिन धार्मिक ईसाई मतदाताओं ने डीपफेक वीडियो देखा, उनका नियंत्रण समूह के लोगों की तुलना में राजनेता के प्रति अधिक नकारात्मक दृष्टिकोण था।
प्रयोगों में एआई-जनित दुष्प्रचार से लोगों को धोखा देना एक बात है। यह हमारे लोकतंत्र के साथ एक और प्रयोग है। 2024 में, हम अधिक डीपफेक, वॉयस क्लोनिंग, पहचान में हेरफेर और एआई-निर्मित नकली समाचार देखेंगे। सरकारें राजनीतिक अभियानों में एआई के उपयोग को गंभीरता से सीमित कर देंगी – यदि प्रतिबंध नहीं लगाएंगी। क्योंकि यदि वे ऐसा नहीं करते हैं, तो एआई लोकतांत्रिक चुनावों को कमजोर कर देगा।
