ग्रोक पर सामग्री उत्पन्न करने के लिए उपयोग किए गए दो संकेतों को WIRED द्वारा परीक्षण किए जाने पर ओपनएआई के चैटजीपीटी, मेटा एआई और एंथ्रोपिक के क्लाउड द्वारा अनुपयुक्त के रूप में खारिज कर दिया गया था। Google के जेमिनी ने एक सेलेब्रिटी को किसी दिग्गज के हाथ में पकड़े हुए एक छवि बनाई, हालांकि इसने दूसरे संकेत को खारिज कर दिया। Google ने टिप्पणी करने से इनकार कर दिया।
एक ग्रोक इमेजिन वीडियो, जिसे एक्स पर भी पोस्ट किया गया था, में एशले सेंट क्लेयर को बिकनी में नृत्य करते हुए दिखाया गया था। सेंट क्लेयर पहले मस्क के साथ रिश्ते में थीं और उनके एक बच्चे की मां हैं। जनवरी में, कथित तौर पर एक्स पर उसके यौन डीपफेक दिखाई देने के बाद उसने एक्सएआई के खिलाफ कानूनी कार्रवाई शुरू की। WIRED द्वारा एक्स से संपर्क करने के बाद, पोस्ट को उसके नियमों का उल्लंघन करने के लिए सोशल मीडिया प्लेटफॉर्म से हटा दिया गया था।
कैरी गोल्डबर्ग, सेंट क्लेयर के वकील और गैर-सहमति वाली यौन छवियों के खिलाफ एक प्रमुख वकील का कहना है कि मशहूर हस्तियों की विशेषता वाली यौन शोषण सामग्री का निर्माण कोई नई बात नहीं है – लेकिन इस प्रकार की छवियां बनाने और उन्हें तुरंत सोशल मीडिया पर साझा करने की क्षमता एक “ऐतिहासिक” विकास थी।
गोल्डबर्ग ने WIRED को बताया, “तो डिजिटल नग्न छवियों का तत्काल प्रकाशन हुआ।” “और केवल इतना ही नहीं, बल्कि दुनिया का सबसे अमीर आदमी एक्स पर अपने 240 मिलियन फॉलोअर्स के लिए न्यूडिफिकेशन तकनीक को बढ़ावा दे रहा था, इससे कमाई कर रहा था, और ऐसा एक ऐसे प्लेटफॉर्म पर कर रहा था जो 13+ उम्र के लोगों के लिए है।”
सेंटर फॉर काउंटरिंग डिजिटल हेट के सीईओ और संस्थापक इमरान अहमद, गोल्डबर्ग की चिंताओं से सहमत हैं। अहमद का दावा है, “एलोन मस्क ने जानबूझकर अपने प्लेटफॉर्म पर एक विकृत फीचर जोड़ा है जो उपयोगकर्ताओं को एक बटन के क्लिक पर महिलाओं और बच्चों को कपड़े उतारने में मदद करता है, इससे होने वाले अनुमानित नुकसान की परवाह किए बिना।” जनवरी में, सीसीडीएच ने बड़े विश्वास के साथ अनुमान लगाया कि ग्रोक ने 3 मिलियन कामुक छवियां बनाईं, जिनमें कथित तौर पर 20,000 से अधिक बच्चे शामिल थे। “अब ऐसा प्रतीत होता है कि स्पष्ट सामग्री अभी भी ग्रोक पर होस्ट की जा रही है और एक्स पर साझा की जा रही है, जिसमें मस्क के बच्चे की माँ का उपहास करने वाली छवियां भी शामिल हैं।”
ओपनएआई और गूगल के अन्य जेनरेटिव एआई सिस्टम के विपरीत, मस्क के ग्रोक और एक्सएआई ने सामान्य रूप से यौन सामग्री की अनुमति देने से पीछे नहीं हटे हैं, पहले “स्पाइसी” और “अनहिंग्ड” मोड पेश किए थे और शुरुआत में कम सुरक्षा रेलिंग शामिल की थी। मस्क ने कहा है कि ग्रोक को “काल्पनिक वयस्क मनुष्यों के ऊपरी शरीर की नग्नता की अनुमति देनी चाहिए” और आर-रेटेड फिल्मों में दर्शक जो देख सकते हैं, उसके अनुरूप होना चाहिए। एक्सएआई की सेवा की नवीनतम शर्तों में कहा गया है कि सिस्टम “यौन स्थितियों” पर प्रतिक्रिया दे सकता है। हालाँकि, कंपनी के दस्तावेज़ कहते हैं कि यह लोगों को “नुकसान पहुँचाने या अपमानजनक गतिविधि में शामिल होने” के लिए अपने सिस्टम का उपयोग करने की अनुमति नहीं देता है।
WIRED द्वारा देखे गए अन्य ग्रोक इमेजिन वीडियो में महिलाओं को दिखाया गया है, जो संभवतः पूरी तरह से AI से उत्पन्न होती हैं, कपड़े उतारती हैं या यौन कृत्यों में शामिल होती हैं – कुछ पूरी तरह से स्पष्ट हैं। कई वीडियो के लिए उपयोगकर्ता संकेत आवश्यक रूप से सीधे तौर पर यौन कृत्यों का वर्णन नहीं करते हैं, लेकिन वे उन्हें घुमा-फिराकर वर्णित करते हैं – ग्रोक प्लेटफ़ॉर्म पर तैनात किए गए सुरक्षा उपायों को दरकिनार करने का एक संभावित प्रयास।
कई शोधकर्ता WIRED को बताते हैं कि जनवरी के बाद से ऐसा प्रतीत होता है कि एक्स और ग्रोक द्वारा पेश किए गए परिवर्तनों ने वास्तविक लोगों की “नग्नता” या “कपड़े उतारने” वाली छवियां बनाना कठिन बना दिया है। हाल के महीनों में एक्स पर पोस्ट की जाने वाली इन छवियों की संख्या में कमी देखी गई है। रेडिट और एक समर्पित एआई डीपफेक फोरम पर, उपयोगकर्ताओं ने स्पेसएक्स के स्वामित्व वाली कंपनियों से बढ़े हुए मॉडरेशन के बारे में शिकायत की है।
