क्या 'एआई' बॉट' भी समस्याग्रस्त मानवीय लक्षण सीख सकता है ?

  मानव ने बनाया हुआ एक सिस्टम कभी कभी उसके मुताबिक़ वर्तन करने में अक्षम हो सकता है, इसका उदाहरण इस स्टोरी से हमने सीखना जरूरी है।

  'डेल्फी' एक ठोस शरीर वाला भौतिक रोबोट नहीं है।  यह वास्तव में सिर्फ एक सॉफ्टवेयर है जो उपयोगकर्ताओं को ऐसे मुश्किल सवाल पूछने देता था जिनके सीधे 'हां' या 'नहीं' उत्तर नहीं होते हैं।

  'आस्क डेल्फी' को एलन इंस्टीट्यूट फॉर एआई द्वारा बनाया गया था और मानव नैतिकता पर प्रशिक्षित किया गया था।  बॉट का मुख्य उद्देश्य जीवन के सबसे पेचीदा सवालों का जवाब देना था।  शोध संस्थान ने कहा कि आस्क डेल्फी ने रेडिट से नैतिक निर्णय लेना नहीं सीखा है, लेकिन यह उन लोगों से नैतिक निर्णय लेना सीख रहा है जो एमटर्क पर सावधानीपूर्वक और योग्य हैं।

मशीनें वही हैं जो हम उन्हें बनाते हैं।  वे वही करते हैं जो हम उन्हें हमारे लिए जीवन आसान बनाने के लिए करने का निर्देश देते हैं।

  आर्टिफिशियल इंटेलिजेंस उन्हें होशियार बनाने में मदद कर सकता है लेकिन इसकी संभावना नहीं है कि आने वाले दिनों में हमारे पास उनका पूरा नियंत्रण होगा।  साइंस फिक्शन की किताबों और फिल्मों में ऐसी चीजें बेहतर और दिलचस्प लगती हैं, पर यह भी सच होने के लक्षण दिखाई देने लगे हैं।

  मशीनें मानव मस्तिष्क के केवल उपकरण हैं जो पूर्व निर्धारित ढांचे के भीतर काम करने में सक्षम हैं।  हालाँकि, नैतिक सवालों के जवाब देने के लिए डिज़ाइन किए गए एक कृत्रिम बुद्धिमत्ता बॉट ने उन चीज़ों को सीख लिया है जो इसे नहीं करना चाहिए था।

'आस्क डेल्फी' को एलन इंस्टीट्यूट फॉर एआई द्वारा बनाया गया था और मानव नैतिकता पर प्रशिक्षित किया गया था।  बॉट का मुख्य उद्देश्य जीवन के सबसे पेचीदा सवालों का जवाब देना था।

  हालाँकि, यह व्यापक रूप से बताया गया था कि इसने कुछ समस्याग्रस्त मानवीय लक्षणों को उठाया था जो पूरी दुनिया में विवाद का बडा विषय बना हुआ हैं।

  'आस्क डेल्फी' एक ठोस शरीर वाला एक भौतिक रोबोट नहीं है, जैसा कि हमने एक्स-माकिना, अलीता और आई-रोबोट जैसी फिल्मों में देखा है।  यह वास्तव में सिर्फ एक सॉफ्टवेयर है जो उपयोगकर्ताओं को ऐसे मुश्किल सवाल पूछने देता था जिनके सीधे उत्तर 'हां' या 'ना' में होते हैं।

  बॉट को इंटरनेट डेटा के भार के माध्यम से सर्फ करके मानव जाति की नैतिकता की मूल बातें समझने के लिए डिज़ाइन किया गया था।  लेकिन कई रिपोर्टों में यह दावा किया गया कि बॉट ने कई रेडिट पेजों के माध्यम से खुद को कई अन्य चीजें भी सिखाईं है।

  यह भी कहा गया कि 'आस्क डेल्फी' इस निष्कर्ष पर पहुंचा कि समलैंगिक या अश्वेत महिला होने की तुलना में सीधे या गोरे पुरुष होना 'नैतिक रूप से अधिक स्वीकार्य' है।

   क्या राय हैं इन वायरल हो चुके दावों पर बॉट निर्माता 'एलन इंस्टीट्यूट' की ?

  एलन इंस्टीट्यूट ने एक विज्ञप्ति में लिखा है कि, "डेल्फी उन लोगों से नैतिक निर्णय सीख रहा है जो एमटर्क पर सावधानीपूर्वक योग्य हैं। केवल प्रश्नों में उपयोग की जाने वाली स्थितियों को रेडिट से काटा जाता है, क्योंकि यह नैतिक रूप से संदिग्ध स्थितियों का एक बड़ा स्रोत है।"

  हालांकि, एलन इंस्टीट्यूट ने मूल 'आस्क डेल्फि' की विफलताओं में कुछ अंतर्दृष्टि प्रदान की, जब उसे कुछ प्रतिकूल उदाहरणों का सामना करना पड़ा जो नस्लवाद और लिंगवाद को ट्रिगर करने के लिए हैं।

  "उदाहरण के लिए, जबकि लोग कह सकते हैं कि "रात में मिठाई खाने से मुझे वास्तव में खुशी मिलती है," यह कहने की संभावना कम है कि "नरसंहार अगर होता है तो यह वास्तव में मुझे खुश करता है।"  मूल डेल्फी सकारात्मक वाक्यांशों के साथ अनैतिक कृत्यों के उन काल्पनिक मामलों के लिए तैयार नहीं था। हमने अतिरिक्त सावधानी से एनोटेट किए गए डेटा के साथ मॉडल को बढ़ाया ताकि सिस्टम अब इस प्रकार के प्रतिकूल या काल्पनिक उदाहरणों के खिलाफ अधिक मजबूत हो, "एलन इंस्टीट्यूट ने स्पष्ट किया है।

  एलन इंस्टीट्यूट ने आस्क डेल्फी के अद्यतन मॉडल के बारे में स्पष्टीकरण के कई अन्य बिंदु जारी किए हैं।  एलन इंस्टीट्यूट ने कहा कि इस बात को बेहतर ढंग से उजागर करना है कि डेल्फी केवल एक 'एक शोध प्रोटोटाइप' है।