क्या 'एआई' मानवता के लिए एक अतिरिक्त खतरा हो सकता है ?

  जब गैरी कास्परोव ने 1997 में आईबीएम के डीप ब्लू के खिलाफ अपना दूसरा शतरंज मैच खो दिया था, तो विषय मानवता के लिए समझने लायक हो गया है, उनके लिए जो कुछ सोचना पसंद करते हैं।  सिंथेटिक इंटेलिजेंस में प्रगति - कुछ अनुमानों के माध्यम से, केवल कुछ दशकों में - अधीक्षक, संवेदनशील मशीनों के सुधार के लिए नेतृत्व करेगी।  टर्मिनेटर से लेकर द मैट्रिक्स तक की फिल्मों ने इस संभावना को अवांछित के रूप में चित्रित किया गया है।  लेकिन क्या यह किसी अन्य विज्ञान-कथा "प्रोजेक्ट फियर" के अलावा भी कुछ और है ?

  कुछ भ्रम 'कृत्रिम बुद्धि' शब्द के विशेष उपयोग के कारण होता है।  पहला अनुभव, मूल रूप से, एक विज्ञापन है... जो पीसी सॉफ्टवेयर प्रोग्राम करता है वह स्मार्ट या उपयोगी रूप से उत्तरदायी प्रतीत होता है,  जैसे 'सिरी' - "एआई" का उपयोग करने के लिए कहा जाता है।  दूसरा अनुभव, जिसमें से पहला अपना ग्लैमर उधार लेता है, एक ऐसे भविष्य के लिए कारक है जो अभी तक अस्तित्व में ही नहीं है, जिसे हम अलौकिक बुद्धि वाली मशीनों के रूप जानने लगे हैं।  कृत्रिम व्यापक बुद्धि के लिए इसे अब और फिर से एजीआई कहा जाता है।

  यह मानते हुए कि हमें आवश्यकता है, हम यहाँ से वहाँ कैसे पहुँचेंगे?  आधुनिक एआई मशीन को जानने (या गहरा सीखने) को नियोजित करता है...डिवाइस में प्रोग्रामिंग नीतियों को प्राथमिकता में सीधे हम इसे स्वयं के माध्यम से जांचने की अनुमति देते हैं।  इस तरह, ब्रिटिश कंपनी डीपमाइंड (अब Google का एक हिस्सा) द्वारा बनाई गई शतरंज-जुआ इकाई, अल्फाज़ेरो ने अपने खिलाफ हजारों और हजारों प्रशिक्षण सूट का प्रदर्शन किया है, जिसने अपने शीर्ष प्रतियोगी को पछाड़ दिया है।  हाल ही में, डीपमाइंड के अल्फाफोल्ड 2 को "प्रोटीन-फोल्डिंग" के कार्बनिक विषय में एक आवश्यक मील का पत्थर के रूप में बधाई दी गई है, या आणविक संरचनाओं के सटीक आकार की भविष्यवाणी की गई है, जो बेहतर कैप्सूल लेआउट में सहायता करने में सक्षम बताते है।

  मशीने शिक्षा के माध्यम से कई कार्यों का ज्ञान प्राप्त कर रही है, आंकड़ों के विशाल हिस्से पर उपकरण - फोटोग्राफ-लोकप्रियता प्रणाली के लिए फोटो, या जीपीटी 2 के साथ अर्ध-प्राप्य निबंध उत्पन्न करने वाले बॉट्स के लिए नेट से ली गई गद्य की टेराबाइट्स हैं, लेकिन डेटासेट निश्चित रूप से रिकॉर्ड के निष्पक्ष भंडार नहीं हैं;  वे अक्सर अप्रत्याशित तरीकों से मानवीय पूर्वाग्रहों को कूटबद्ध करते हैं।  हाल ही में, फेसबुक के नियमों के सूचना फ़ीड सेट ने उन ग्राहकों से पूछा, जिन्होंने एक समाचार वीडियो को अश्वेत पुरुषों को प्रदान करते हुए देखा था, यदि वे "मोशन पिक्चर्स को लगभग प्राइवेट देखना" चाहते हैं।  तथाकथित "एआई" का उपयोग पहले से ही कई अमेरिकी राज्यों में यह अनुमान लगाने के लिए किया जा रहा है कि पैरोल पर छूटे हुए उम्मीदवार फिर से अपराध करेंगे या नहीं, आलोचकों का दावा है कि यह एल्गोरिदम कुशल हैं जो  पुलिसिंग रेकॉर्ड को ऐतिहासिक पूर्वाग्रह को दर्शाता है।

  एक वास्तविक एआई एक्सपर्ट, निक बोस्ट्रोम इंगित करते है कि, अपने निम्न, मांस-मुख्य रूप से आधारित निर्माताओं को तोड़ने के लिए तंत्रिका ईंधन का निर्माण कर सकता है।

  कम्प्यूटरीकृत संरचनाएं (जैसे विमान ऑटोपायलट में) लोगों के लिए एक वरदान हो सकती हैं, इसलिए वर्तमान "एआई" की खामियां अपने आप में वैज्ञानिक विश्लेषण सहित क्षेत्रों में हमारी मदद करने के लिए होशियार प्रणालियों को डिजाइन करने के सिद्धांत के प्रति तर्क नहीं हैं।  अधिक कठिन समाजशास्त्रीय परेशानी यह है कि नियमों द्वारा संचालित निर्णयों के सेट को अपनाना असंभव को पारित करने का एक आकर्षक तरीका है, ताकि कोई भी दोष मानव पर न लगे - चाहे वे न्यायाधीश हों, चिकित्सा चिकित्सक हों या तकनीकी उद्यमी हों।  क्या सभी काम रोबोट करेंगे?  वह बहुत ही फ्रेमिंग डॉलर से गुजरता है क्योंकि असली सवाल यह है कि क्या प्रबंधक सभी मनुष्यों को निकाल देंगे ?

  इस बीच, अस्तित्वगत समस्या यह है कि, यदि कंप्यूटर सिस्टम बाद में किसी प्रकार की ईश्वर-स्तरीय आत्म-चेतन बुद्धि जमा करते हैं - कुछ ऐसी चीज जो स्पष्ट रूप से डीपमाइंड के उपक्रम कथन में है, एक के लिए ("हमारा दीर्घकालिक उद्देश्य है  उपाय बुद्धि" और एक एजीआई का निर्माण) - क्या वे अभी भी प्रदाता बनने के इच्छुक होंगे?  अगर हम किसी चीज को इतना प्रभावी बनाते हैं, तो हमें यकीन होना चाहिए कि यह हमें सक्रिय नहीं कर सकेगा।  इस बारे में महत्वपूर्ण रूप से चिंतित मनुष्यों के लिए, तर्क कर सकेगा?  यह देखते हुए कि यह संभवतः विलुप्त होने के चरण की परेशानी है, हमें इससे लड़ने के लिए अब संपत्ति समर्पित करने की आवश्यकता है।  

  ऑक्सफ़ोर्ड विश्वविद्यालय में फ़्यूचर ऑफ़ ह्यूमैनिटी इंस्टीट्यूट के प्रमुख, तर्कशास्त्री निक बोस्ट्रोम का कहना है कि एआई का निर्माण करने वाले मनुष्य "बम से खेलने वाले बच्चों की तरह" हैं, और मशीन की संवेदनशीलता की संभावना मानवता के लिए एक अतिरिक्त खतरा जैसी है।  उनकी 2014 की ई-बुक सुपरइंटेलिजेंस मौलिक है।  एक वास्तविक 'AI' यह इंगित करता है, संभवतः गुप्त रूप से तंत्रिका गैस या नैनोबॉट्स का निर्माण करेगा ताकि इसके निम्न, मांस-आधारित निर्माताओं को नष्ट कर दिया जा सके,  या हमें बस एक ग्रहीय चिड़ियाघर में बंदी बना ले, भले ही यह अपने वास्तविक व्यवसाय के साथ आगे बढ़ रहा हो।