के सीईओ कई प्रमुख कृत्रिम बुद्धिमत्ता कंपनियाँ कांग्रेस के सदस्यों से नए कानून अपनाने का आग्रह कर रही हैं जिससे बुरे कलाकारों के लिए उनकी तकनीक का उपयोग करके जैविक हथियार विकसित करना कठिन हो जाएगा।

Google डीपमाइंड के डेमिस हसाबिस, ओपनएआई के सैम ऑल्टमैन, एंथ्रोपिक के डारियो अमोदेई, और माइक्रोसॉफ्ट एआई के मुस्तफा सुलेमान एक सार्वजनिक पत्र पर हस्ताक्षर करने वालों में से हैं, जिसमें स्क्रीन ग्राहकों को सिंथेटिक डीएनए और आरएनए बेचने वाली कंपनियों के लिए कानूनों की आवश्यकता होती है और आनुवंशिक सामग्री के दुरुपयोग को रोकने के लिए आदेश दिए जाते हैं।

नॉनपार्टिसन इंस्टीट्यूट फॉर प्रोग्रेस और राइट-लीनिंग फाउंडेशन फॉर अमेरिकन इनोवेशन द्वारा आयोजित, पत्र में स्वीकार किया गया है कि एआई विकास की गति को देखते हुए, “एक वास्तविक संभावना है कि ज्ञान बाधाएं जो ऐतिहासिक रूप से बुरे अभिनेताओं को जैविक हथियार प्राप्त करने से रोकती हैं, सार्थक रूप से नष्ट हो जाएंगी।”

वैज्ञानिक आर्थर कोर्नबर्ग 1950 के दशक में डीएनए को सफलतापूर्वक संश्लेषित करने वाले पहले व्यक्ति थे। अब, यह प्रक्रिया स्वचालित हो गई है, दुनिया भर में दर्जनों कंपनियां कस्टम आनुवंशिक अनुक्रमों को “प्रिंट” करने और बेचने के लिए वाणिज्यिक सिंथेसाइज़र का उपयोग करती हैं जिनका उपयोग वैज्ञानिक अनुसंधान, दवा विकास और निदान के लिए किया जाता है। कई प्रदाता केवल योग्य शोधकर्ताओं, बायोटेक कंपनियों और शैक्षणिक संस्थानों को बेचते हैं, लेकिन उनमें से सभी ग्राहकों या उनके द्वारा ऑर्डर किए गए जीन अनुक्रमों की जांच नहीं करते हैं।

2017 में, कनाडाई शोधकर्ताओं ने तब चिंता जताई जब उन्होंने विलुप्त हो चुके हॉर्सपॉक्स वायरस को फिर से बनाने के लिए $100,000 मूल्य के मेल-ऑर्डर डीएनए का उपयोग किया। आलोचकों ने कहा कि इसी पद्धति का उपयोग चेचक के निर्माण के लिए किया जा सकता है, जो एक निकट संबंधी और घातक वायरस है। तब से जीन संश्लेषण केवल सस्ता हो गया है।

एआई में प्रगति के साथ, अब बड़े भाषा मॉडल का उपयोग करके खतरनाक नए विषाक्त पदार्थों और रोगजनकों को डिजाइन करना संभव है, हालांकि खरोंच से एक कार्यात्मक वायरस बनाने के लिए कुछ जीव विज्ञान प्रशिक्षण की अभी भी आवश्यकता होगी। हालाँकि बायोटेरर हमले दुर्लभ हैं, लेकिन उनमें बड़े पैमाने पर हताहत होने, सार्वजनिक दहशत और आर्थिक नुकसान होने की संभावना है। एक बड़ी चिंता यह है कि एआई-डिज़ाइन किया गया रोगज़नक़ जानबूझकर या अनजाने में एक वैश्विक महामारी फैला सकता है।

पत्र पर हस्ताक्षर करने वाले स्टैनफोर्ड विश्वविद्यालय के माइक्रोबायोलॉजिस्ट और जैव सुरक्षा विशेषज्ञ डेविड रेलमैन कहते हैं, “एआई उपकरण उपयोगकर्ता को बहुत जल्दी यह पहचानने में सक्षम बनाते हैं कि ऑर्डर अनुक्रमों के लिए कहां जाना है जो स्क्रीनिंग के अधीन नहीं होंगे।” “अगर उचित तरीके से संकेत दिया जाए, तो वे आपको यह भी बता सकते हैं कि अपने ऑर्डर की प्रकृति को कैसे बदला जाए, ताकि स्क्रीनिंग करने वाले भी यह पता लगाने में बहुत कम सक्षम हो सकें कि आप क्या बनाने की कोशिश कर रहे हैं।”

हस्ताक्षरकर्ताओं में अन्य वैज्ञानिक, राष्ट्रीय सुरक्षा विशेषज्ञ और जीन संश्लेषण कंपनियों ट्विस्ट बायोसाइंस और अंसा बायोटेक्नोलॉजीज के अधिकारी शामिल हैं। ये कंपनियां इंटरनेशनल जीन सिंथेसिस कंसोर्टियम की सदस्य हैं, जिसका गठन 2009 में स्वैच्छिक स्क्रीनिंग प्रथाओं को लागू करने के लिए किया गया था। कई कंपनियाँ पहले से ही “चिंता के अनुक्रम” के आदेशों को स्क्रीन करने के लिए सॉफ़्टवेयर का उपयोग करती हैं जो किसी जीव की विषाक्तता या बीमारी पैदा करने की क्षमता में योगदान कर सकते हैं।

“यदि आपके पास ऐसी तकनीक है जो डीएनए को संश्लेषित करने में सक्षम है, तो आपको यह सुनिश्चित करना चाहिए कि इसका उपयोग जिम्मेदारी से किया जाए, और इसका एक हिस्सा यह सुनिश्चित करना है कि आप समझें कि आप क्या बना रहे हैं और किसके लिए बना रहे हैं,” ट्विस्ट बायोसाइंस में नीति और जैव सुरक्षा के उपाध्यक्ष जेम्स डिग्गन्स कहते हैं। कंपनी ने वर्षों से औपचारिक नियमों को लागू करने का समर्थन किया है।

बिडेन प्रशासन के दौरान पेश किए गए संघीय दिशानिर्देशों के लिए संघीय धन प्राप्त करने वाले वैज्ञानिकों और कंपनियों को स्क्रीन खरीदारी करने वाले प्रदाताओं से सिंथेटिक जीन अनुक्रम ऑर्डर करने की आवश्यकता होती है। इस साल की शुरुआत में सीनेट में पेश किए गए एक द्विदलीय विधेयक के तहत अमेरिका में काम करने वाले सभी जीन संश्लेषण प्रदाताओं को खराब अभिनेताओं या खतरनाक रोगजनकों के ऑर्डर और ग्राहकों की स्क्रीनिंग करने की आवश्यकता होगी।

लेकिन स्क्रीनिंग उपकरण सही नहीं हैं. पिछले साल, माइक्रोसॉफ्ट के शोधकर्ताओं ने एक अध्ययन प्रकाशित किया था जिसमें दिखाया गया था कि एआई प्रोटीन डिज़ाइन उपकरण संभावित खतरनाक जीन अनुक्रम उत्पन्न करने में सक्षम थे जो कंपनियों के स्क्रीनिंग सॉफ़्टवेयर से आगे निकल गए। मॉडलों ने खतरनाक माने जाने वाले समान संरचनाओं वाले नए प्रोटीन अनुक्रमों का सुझाव दिया।

वाई कॉम्बिनेटर के पूर्व अध्यक्ष और सेफ एआई फंड के पार्टनर ज्योफ राल्स्टन का मानना ​​है कि जीवविज्ञान मॉडल वाली एआई प्रयोगशालाओं को उपयोगकर्ताओं की अपनी स्क्रीनिंग करनी चाहिए।

पत्र पर हस्ताक्षर करने वाले राल्स्टन कहते हैं, “किसी मॉडल से किसी आसन्न खतरनाक काम में मदद मांगना असंभव नहीं तो बहुत मुश्किल होना चाहिए।”

रेलमैन इस बात से सहमत हैं कि स्क्रीनिंग प्रक्रियाओं से संबंधित नियम समाधान का केवल एक हिस्सा हैं। “यह देखते हुए कि स्क्रीनिंग कुछ मामलों में विफल हो सकती है, हमें नियंत्रण के अन्य बिंदु होने चाहिए,” वे कहते हैं। “यही वह जगह है जहां एआई कंपनियों को आगे बढ़ना होगा।”