क्या 'आर्टिफिशियल इंटेलिजेंस' ब्रह्मांड के लिए विनाशकारी है?

  यह वह सवाल है जो फार्मास्युटिकल्स सहयोग के शोधकर्ताओं ने एआई का उपयोग करते हुए प्रयोग करते समय खुद से पूछा था।  जिसे मददगार दवाओं की खोज के लिए बनाया गया था।

  इसलिए, उन्होंने इस ए.आई.  नेचर मशीन इंटेलिजेंस नामक पत्रिका में इस महीने प्रकाशित एक पेपर के अनुसार, रासायनिक हथियारों की तलाश करने के लिए, और प्रभावशाली ढंग से मशीन लर्निंग एल्गोरिदम को केवल छह घंटों में 40,000 विकल्प मिले हैं।  मॉडल को सहायक दवाओं की खोज के लिए बनाया गया था।

  "विचार ने हमें पहले कभी नहीं मारा था। हम रोगजनकों या जहरीले रसायनों के साथ काम के आसपास सुरक्षा चिंताओं के बारे में अस्पष्ट रूप से अवगत थे, लेकिन यह हमसे संबंधित नहीं था; हम मुख्य रूप से वर्चुअल सेटिंग में काम करते हैं। हमारा काम मशीन लर्निंग मॉडल बनाने में निहित है,  दवा की खोज के लिए नए अणुओं के डिजाइन में बेहतर सहायता के लिए चिकित्सीय और विषाक्त लक्ष्य, "शोधकर्ताओं ने अपने पेपर में लिखा है।

  "हमने मानव स्वास्थ्य में सुधार के लिए कंप्यूटर और एआई का उपयोग करते हुए दशकों बिताए हैं पर इसे नीचा दिखाने के लिए नहीं। हम अपने व्यापार के संभावित दुरुपयोग के बारे में सोचने में भोले थे, क्योंकि हमारा उद्देश्य हमेशा आणविक विशेषताओं से बचना था जो कई अलग-अलग वर्गों में हस्तक्षेप कर सकते थे।  मानव जीवन के लिए आवश्यक प्रोटीन के संशोधन के लिए।"

   शोधकर्ता आगे कहते हैं कि यहां तक ​​​​कि इबोला और न्यूरोटॉक्सिन पर उनके काम, जो उनके मशीन लर्निंग मॉडल के संभावित नकारात्मक प्रभावों के बारे में चिंता पैदा कर सकते थे, ने उनके खतरे की घंटी नहीं बजाई थी।  वे आनंदपूर्वक उस नुकसान से अनजान थे जो वे करते हैं।

उनका प्रयोग कैसे काम किया?

सहयोग फार्मास्युटिकल्स ने विषाक्तता की भविष्यवाणी के लिए कुछ कम्प्यूटेशनल मशीन लर्निंग मॉडल प्रकाशित किए थे।  सभी शोधकर्ताओं को विषाक्तता को खत्म करने के बजाय अपनी कार्यप्रणाली को अनुकूलित करना था और उन्हें जो मिला वह एक विचार अभ्यास था जो जैव रासायनिक हथियार बनाने के लिए अवधारणा के कम्प्यूटेशनल सबूत में विकसित हुआ है।

  प्रयोग इस बात का स्पष्ट संकेत है कि हमें एआई की निगरानी की आवश्यकता क्यों है।  मॉडल अधिक बारीकी से और वास्तव में हमारे काम के परिणामों के बारे में सोचते हैं।

सारांश:

स्विस फेडरल इंस्टीट्यूट फॉर एनबीसी (परमाणु, जैविक और रासायनिक) संरक्षण-स्पीज प्रयोगशाला- रसायन विज्ञान, जीव विज्ञान और सक्षम प्रौद्योगिकियों में विकास की पहचान करने के लिए स्विस सरकार द्वारा स्थापित 'अभिसरण' सम्मेलन श्रृंखला का आयोजन करती है जिसका रासायनिक और जैविक  निहितार्थ हो सकता है  'हथियारों का जमावड़ा' करना।  हर दो साल में बैठकें, रासायनिक और जैविक क्षेत्रों और उनके प्रक्षेपवक्र में कला की वर्तमान स्थिति का पता लगाने के लिए, संभावित सुरक्षा प्रभावों के बारे में सोचने के लिए और इन प्रभावों को सबसे प्रभावी ढंग से कैसे विचार कर सकते हैं, इस पर विचार करने के लिए सम्मेलन वैज्ञानिक और निरस्त्रीकरण विशेषज्ञों के एक अंतरराष्ट्रीय समूह को एक साथ लाते हैं।  अंतरराष्ट्रीय स्तर पर प्रबंधित किया जा सकता है।  अत्याधुनिक रासायनिक और जैविक प्रौद्योगिकियों से, नुकसान की संभावनाओं पर चर्चा के तीन दिनों के लिए बैठक बुलाई गई है।  हमारी दवा खोज कंपनी को एक प्रस्तुति में योगदान करने का निमंत्रण मिला कि कैसे दवा की खोज के लिए एआई प्रौद्योगिकियों का संभावित रूप से दुरुपयोग किया जा सकता है।