क्या 'आर्टिफिशियल इंटेलिजेंस' इंसान की तरह सोच सकता है?
एक नया दृष्टिकोण सिस्टम-लर्निंग मॉडल के तर्क की तुलना मानव से करता है, ताकि उपयोगकर्ता संस्करण के आचरण के आंतरिक पैटर्न देख सके।
गैजेट मास्टरिंग में, जानकारी क्यों एक मॉडल सुनिश्चित करता है कि विकल्प अक्सर उतने ही महत्वपूर्ण होते हैं जितने कि उनके चयन सही हैं या नहीं। उदाहरण के लिए, एक डिवाइस-लर्निंग संस्करण प्रभावशाली रूप से भविष्यवाणी कर सकता है कि एक त्वचा का घाव कैंसर है, लेकिन हो सकता है कि उसने वैज्ञानिक तस्वीर पर एक असंबंधित ब्लिप का उपयोग किया हो।
जबकि विशेषज्ञों को संस्करण के तर्क का अनुभव करने में सहायता करने के लिए उपकरण मौजूद हैं, अक्सर वे तरीके सबसे प्रभावी होते हैं जो एक समय में एक निर्णय पर अंतर्दृष्टि प्रदान करते हैं, और प्रत्येक का मैन्युअल रूप से मूल्यांकन किया जाना चाहिए। मॉडल को आम तौर पर सैकड़ों हजारों रिकॉर्ड इनपुट का उपयोग करके प्रशिक्षित किया जाता है, जिससे मानव के लिए पैटर्न चुनने के लिए पर्याप्त विकल्पों का आकलन करना लगभग संभव नहीं होता है।
अब, एमआईटी और आईबीएम रिसर्च के शोधकर्ताओं ने एक ऐसा तरीका बनाया है जो उपयोगकर्ता को मॉडल के आचरण को जानने के लिए डिवाइस-प्राप्त करने के लिए इन पुरुष या महिला स्पष्टीकरणों को संयोजन, सॉर्ट और रैंक करने की अनुमति देता है। उनकी पद्धति, जिसे साझा रुचि के रूप में संदर्भित किया जाता है, में मात्रात्मक मेट्रिक्स शामिल होते हैं जो मूल्यांकन करते हैं कि एक मॉडल का तर्क मानव के तर्क से कितना मेल खाता है।
साझा रुचि उपभोक्ता को संस्करण के निर्णय लेने में संबंधित प्रवृत्तियों को आसानी से खोजने में मदद कर सकती है - उदाहरण के लिए, संभवतः मॉडल नियमित रूप से विचलित करने वाले, अनुचित कार्यों, जैसे चित्रों में पृष्ठभूमि की वस्तुओं से परेशान हो जाता है। उन अंतर्दृष्टि को एकत्रित करने से उपभोक्ता को त्वरित और मात्रात्मक रूप से यह निर्धारित करने में मदद मिल सकती है कि क्या कोई मॉडल ईमानदार है और वास्तविक-अंतर्राष्ट्रीय परिदृश्य में तैनात होने के लिए तैयार है।
विज़ुअलाइज़ेशन ग्रुप के स्नातक छात्र, लीड लेखक एंजी बोगस्ट कहते हैं, "साझा रुचि बढ़ाने में, हमारा उद्देश्य यह है कि यह इस विश्लेषण प्रक्रिया को बढ़ाए ताकि आप और अधिक अंतरराष्ट्रीय स्तर पर पहचान सकें कि आपके संस्करण का आचरण क्या है।" जो कंप्यूटर साइंस एंड आर्टिफिशियल इंटेलिजेंस लेबोरेटरी (CSAIL) के लीड लेखक है ।
बोगस्ट ने अपने सलाहकार, अरविंद सत्यनारायण, कंप्यूटर तकनीकी ज्ञान के सहायक प्रोफेसर, जो विज़ुअलाइज़ेशन ग्रुप का नेतृत्व करते हैं, साथ ही बेंजामिन हूवर और आईबीएम रिसर्च के वरिष्ठ लेखक हेंड्रिक स्ट्रोबेल्ट के साथ मिलकर लेख लिखा है। पेपर कंप्यूटिंग सिस्टम में मानव कारकों पर सम्मेलन में उपलब्ध कराया जा सकता है।
Boggust ने स्ट्रोबेल्ट की मेंटरशिप के तहत IBM में समर इंटर्नशिप के दौरान इस प्रोजेक्ट पर काम करना शुरू किया है। एमआईटी में लौटने के बाद, बोगस्ट और सत्यनारायण ने उपक्रम में विस्तार किया और स्ट्रोबेल्ट और हूवर के साथ सहयोग को जारी रखा, जिन्होंने केस स्टडीज को स्थापित करने में मदद की जो प्रदर्शित करते हैं कि अभ्यास में दृष्टिकोण का उपयोग कैसे किया जा सकता है।
👉 मानव-एआई संरेखण
साझा रुचि लोकप्रिय तकनीकों का लाभ उठाती है जो प्रदर्शित करती है कि कैसे एक सिस्टम-स्टडीइंग संस्करण ने एक चयनित चयन किया, जिसे प्रमुख रणनीतियों के रूप में जाना जाता है। यदि मॉडल पिक्स को वर्गीकृत कर रहा है, तो सामर्थ्य तकनीक एक छवि के उन क्षेत्रों को उजागर करती है जो मॉडल के लिए महत्वपूर्ण हैं, जबकि उसने अपनी पसंद बनाई है। इन क्षेत्रों को हीटमैप के एक रूप के रूप में देखा जाता है, जिसे एक प्रमुख मानचित्र के रूप में जाना जाता है, यह नियमित रूप से मूल फ़ोटो पर मढ़ा जाता है। यदि मॉडल ने छवि को कैनाइन के रूप में वर्गीकृत किया है, और कुत्ते के सिर को हाइलाइट किया गया है, जिसका अर्थ है कि मॉडल के लिए पिक्सेल महत्वपूर्ण थे जब यह निर्धारित किया गया था कि छवि में एक कैनाइन है।
साझा रुचि फ्लोर-फैक्ट रिकॉर्ड के लिए सामर्थ्य तकनीकों के मूल्यांकन के माध्यम से काम करती है। एक छवि डेटासेट में, जमीनी तथ्य रिकॉर्ड आम तौर पर मानव-जनित एनोटेशन होते हैं जो हर तस्वीर के प्रासंगिक तत्वों को घेरते हैं। पिछले उदाहरण में, फ़ील्ड छवि के अंदर पूरे कुत्ते को घेर सकती है। फ़ोटोग्राफ़ वर्ग के संस्करण की तुलना करते समय, साझा रुचि मॉडल-जनित प्रमुखता जानकारी और मानव-जनित फ़्लोर-फ़ैक्ट रिकॉर्ड की तुलना समान फ़ोटोग्राफ़ के लिए करती है कि वे कितनी ठीक से संरेखित हैं।
विधि उस संरेखण (या गलत संरेखण) को मापने के लिए कई मीट्रिक का उपयोग करती है और फिर 8 वर्गों में से प्रत्येक में एक विशेष चयन को सॉर्ट करती है। श्रेणियां त्रुटिपूर्ण रूप से मानव-संरेखित (मॉडल एक सही भविष्यवाणी करता है और प्रमुख मानचित्र में हाइलाइट किया गया क्षेत्र मानव-जनित बॉक्स के समान है) से पूरी तरह से विचलित (मॉडल गलत भविष्यवाणी करता है और अब किसी का उपयोग नहीं करता है) से सरगम चलाता है मानव निर्मित कंटेनर में देखे गए फोटोग्राफ फ़ंक्शन)।
"स्पेक्ट्रम के एक छोड़ने पर, आपके मॉडल ने ठीक उसी उद्देश्य के लिए चुनाव किया जो एक मानव ने किया था, और वैकल्पिक रूप से स्पेक्ट्रम को छोड़ने पर, आपका मॉडल और मानव निश्चित रूप से असाधारण कारणों से यह विकल्प बना रहे हैं। बोगस्ट बताते हैं कि आपके डेटासेट की सभी तस्वीरों के लिए, आप उस मात्रा का उपयोग उनके माध्यम से करने के लिए कर सकते हैं।
दृष्टिकोण पाठ-मुख्य रूप से आधारित तथ्यों के साथ आगे काम करता है, जिसमें छवि क्षेत्रों के बजाय मुख्य शब्दों को हाइलाइट किया जाता है।
👉 तेजी से मूल्यांकन
शोधकर्ताओं ने तीन केस रिसर्च का इस्तेमाल यह उजागर करने के लिए किया कि कैसे साझा रुचि गैर-विशेषज्ञों और डिवाइस-मास्टरिंग शोधकर्ताओं दोनों के लिए फायदेमंद हो सकती है।
पहले मामले में देखें, उन्होंने त्वचा के घावों की तस्वीरों से कैंसर का निदान करने में सहायता के लिए डिज़ाइन किए गए सिस्टम-अध्ययन संस्करण पर भरोसा करने के लिए त्वचा विशेषज्ञ की सहायता के लिए साझा रुचि का उपयोग किया है। साझा रुचि ने त्वचा विशेषज्ञ को मॉडल की सही और गलत भविष्यवाणियों के उदाहरणों को तेजी से देखने में सक्षम बनाया है। अंततः, त्वचा विशेषज्ञ ने फैसला किया कि वह मॉडल पर विचार नहीं कर सकता क्योंकि इसने वास्तविक घावों के विपरीत, फोटो कलाकृतियों के आधार पर बहुत अधिक भविष्यवाणियां कीं है।
"यहां कीमत यह है कि साझा ब्याज का उपयोग करके, हम इन पैटर्नों को हमारे मॉडल के व्यवहार में उभरने में सक्षम हैं। लगभग आधे घंटे में, त्वचा विशेषज्ञ एक आश्वस्त चयन करने में सक्षम हो गए कि मॉडल पर विचार करना है या नहीं और इसे तैनात करना है या नहीं, "बोगस्ट कहते हैं।
दूसरे मामले की जांच में, उन्होंने यह दिखाने के लिए एक गैजेट-गेटिंग टू रिसर्च रिसर्चर के साथ काम किया कि कैसे साझा रुचि संस्करण के अंदर पूर्व अज्ञात नुकसानों को प्रकट करके एक विशिष्ट सामर्थ्य दृष्टिकोण की तुलना कर सकती है। उनके दृष्टिकोण ने शोधकर्ता को सामान्य गाइड रणनीतियों के माध्यम से आवश्यक समय के एक अंश में सैकड़ों सही और गलत निर्णयों का विश्लेषण करने में सक्षम बनाया।
0.33 मामले में एक नज़र डालें, उन्होंने चयनित छवि वर्ग उदाहरण में गहराई से गोता लगाने के लिए साझा रुचि का उपयोग किया है। तस्वीर के आसपास के जमीनी तथ्य में हेरफेर करके, वे यह देखने में सक्षम थे कि विशिष्ट भविष्यवाणियों के लिए कौन सी तस्वीर क्षमताएं सबसे महत्वपूर्ण हैं।
शोधकर्ता इस बात से प्रेरित थे कि इन केस रिसर्च में शेयर्ड इंटरेस्ट कितनी अच्छी तरह से पूरा हुआ, हालांकि बोगस्ट ने चेतावनी दी कि यह तरीका उतना ही सरल है जितना कि सही तरीका है क्योंकि यह अब तक आधारित है। यदि उन तकनीकों में पूर्वाग्रह शामिल हैं या गुमराह हैं, तो साझा ब्याज उन बाधाओं को प्राप्त करेगा।
नियति में, शोधकर्ताओं को साझा रुचि को एक तरह के रिकॉर्ड पर लागू करने की आवश्यकता होती है, विशेष रूप से सारणीबद्ध आँकड़े जो वैज्ञानिक जानकारी में उपयोग किए जाते हैं। वे वर्तमान समय की सामर्थ्य तकनीकों को बढ़ाने में मदद करने के लिए साझा रुचि को भी लागू करना चाहते हैं। बोगस्ट को उम्मीद है कि यह अध्ययन उन अतिरिक्त कामों को उजागर करता है जो मनुष्यों के लिए समझ में आने वाले दृष्टिकोणों में मॉडल व्यवहार के गैजेट-प्राप्त ज्ञान को निर्धारित करना चाहते हैं।
गैजेट मास्टरिंग में, जानकारी क्यों एक मॉडल सुनिश्चित करता है कि विकल्प अक्सर उतने ही महत्वपूर्ण होते हैं जितने कि उनके चयन सही हैं या नहीं। उदाहरण के लिए, एक डिवाइस-लर्निंग संस्करण प्रभावशाली रूप से भविष्यवाणी कर सकता है कि एक त्वचा का घाव कैंसर है, लेकिन हो सकता है कि उसने वैज्ञानिक तस्वीर पर एक असंबंधित ब्लिप का उपयोग किया हो।
जबकि विशेषज्ञों को संस्करण के तर्क का अनुभव करने में सहायता करने के लिए उपकरण मौजूद हैं, अक्सर वे तरीके सबसे प्रभावी होते हैं जो एक समय में एक निर्णय पर अंतर्दृष्टि प्रदान करते हैं, और प्रत्येक का मैन्युअल रूप से मूल्यांकन किया जाना चाहिए। मॉडल को आम तौर पर सैकड़ों हजारों रिकॉर्ड इनपुट का उपयोग करके प्रशिक्षित किया जाता है, जिससे मानव के लिए पैटर्न चुनने के लिए पर्याप्त विकल्पों का आकलन करना लगभग संभव नहीं होता है।
अब, एमआईटी और आईबीएम रिसर्च के शोधकर्ताओं ने एक ऐसा तरीका बनाया है जो उपयोगकर्ता को मॉडल के आचरण को जानने के लिए डिवाइस-प्राप्त करने के लिए इन पुरुष या महिला स्पष्टीकरणों को संयोजन, सॉर्ट और रैंक करने की अनुमति देता है। उनकी पद्धति, जिसे साझा रुचि के रूप में संदर्भित किया जाता है, में मात्रात्मक मेट्रिक्स शामिल होते हैं जो मूल्यांकन करते हैं कि एक मॉडल का तर्क मानव के तर्क से कितना मेल खाता है।
साझा रुचि उपभोक्ता को संस्करण के निर्णय लेने में संबंधित प्रवृत्तियों को आसानी से खोजने में मदद कर सकती है - उदाहरण के लिए, संभवतः मॉडल नियमित रूप से विचलित करने वाले, अनुचित कार्यों, जैसे चित्रों में पृष्ठभूमि की वस्तुओं से परेशान हो जाता है। उन अंतर्दृष्टि को एकत्रित करने से उपभोक्ता को त्वरित और मात्रात्मक रूप से यह निर्धारित करने में मदद मिल सकती है कि क्या कोई मॉडल ईमानदार है और वास्तविक-अंतर्राष्ट्रीय परिदृश्य में तैनात होने के लिए तैयार है।
विज़ुअलाइज़ेशन ग्रुप के स्नातक छात्र, लीड लेखक एंजी बोगस्ट कहते हैं, "साझा रुचि बढ़ाने में, हमारा उद्देश्य यह है कि यह इस विश्लेषण प्रक्रिया को बढ़ाए ताकि आप और अधिक अंतरराष्ट्रीय स्तर पर पहचान सकें कि आपके संस्करण का आचरण क्या है।" जो कंप्यूटर साइंस एंड आर्टिफिशियल इंटेलिजेंस लेबोरेटरी (CSAIL) के लीड लेखक है ।
बोगस्ट ने अपने सलाहकार, अरविंद सत्यनारायण, कंप्यूटर तकनीकी ज्ञान के सहायक प्रोफेसर, जो विज़ुअलाइज़ेशन ग्रुप का नेतृत्व करते हैं, साथ ही बेंजामिन हूवर और आईबीएम रिसर्च के वरिष्ठ लेखक हेंड्रिक स्ट्रोबेल्ट के साथ मिलकर लेख लिखा है। पेपर कंप्यूटिंग सिस्टम में मानव कारकों पर सम्मेलन में उपलब्ध कराया जा सकता है।
Boggust ने स्ट्रोबेल्ट की मेंटरशिप के तहत IBM में समर इंटर्नशिप के दौरान इस प्रोजेक्ट पर काम करना शुरू किया है। एमआईटी में लौटने के बाद, बोगस्ट और सत्यनारायण ने उपक्रम में विस्तार किया और स्ट्रोबेल्ट और हूवर के साथ सहयोग को जारी रखा, जिन्होंने केस स्टडीज को स्थापित करने में मदद की जो प्रदर्शित करते हैं कि अभ्यास में दृष्टिकोण का उपयोग कैसे किया जा सकता है।
👉 मानव-एआई संरेखण
साझा रुचि लोकप्रिय तकनीकों का लाभ उठाती है जो प्रदर्शित करती है कि कैसे एक सिस्टम-स्टडीइंग संस्करण ने एक चयनित चयन किया, जिसे प्रमुख रणनीतियों के रूप में जाना जाता है। यदि मॉडल पिक्स को वर्गीकृत कर रहा है, तो सामर्थ्य तकनीक एक छवि के उन क्षेत्रों को उजागर करती है जो मॉडल के लिए महत्वपूर्ण हैं, जबकि उसने अपनी पसंद बनाई है। इन क्षेत्रों को हीटमैप के एक रूप के रूप में देखा जाता है, जिसे एक प्रमुख मानचित्र के रूप में जाना जाता है, यह नियमित रूप से मूल फ़ोटो पर मढ़ा जाता है। यदि मॉडल ने छवि को कैनाइन के रूप में वर्गीकृत किया है, और कुत्ते के सिर को हाइलाइट किया गया है, जिसका अर्थ है कि मॉडल के लिए पिक्सेल महत्वपूर्ण थे जब यह निर्धारित किया गया था कि छवि में एक कैनाइन है।
साझा रुचि फ्लोर-फैक्ट रिकॉर्ड के लिए सामर्थ्य तकनीकों के मूल्यांकन के माध्यम से काम करती है। एक छवि डेटासेट में, जमीनी तथ्य रिकॉर्ड आम तौर पर मानव-जनित एनोटेशन होते हैं जो हर तस्वीर के प्रासंगिक तत्वों को घेरते हैं। पिछले उदाहरण में, फ़ील्ड छवि के अंदर पूरे कुत्ते को घेर सकती है। फ़ोटोग्राफ़ वर्ग के संस्करण की तुलना करते समय, साझा रुचि मॉडल-जनित प्रमुखता जानकारी और मानव-जनित फ़्लोर-फ़ैक्ट रिकॉर्ड की तुलना समान फ़ोटोग्राफ़ के लिए करती है कि वे कितनी ठीक से संरेखित हैं।
विधि उस संरेखण (या गलत संरेखण) को मापने के लिए कई मीट्रिक का उपयोग करती है और फिर 8 वर्गों में से प्रत्येक में एक विशेष चयन को सॉर्ट करती है। श्रेणियां त्रुटिपूर्ण रूप से मानव-संरेखित (मॉडल एक सही भविष्यवाणी करता है और प्रमुख मानचित्र में हाइलाइट किया गया क्षेत्र मानव-जनित बॉक्स के समान है) से पूरी तरह से विचलित (मॉडल गलत भविष्यवाणी करता है और अब किसी का उपयोग नहीं करता है) से सरगम चलाता है मानव निर्मित कंटेनर में देखे गए फोटोग्राफ फ़ंक्शन)।
"स्पेक्ट्रम के एक छोड़ने पर, आपके मॉडल ने ठीक उसी उद्देश्य के लिए चुनाव किया जो एक मानव ने किया था, और वैकल्पिक रूप से स्पेक्ट्रम को छोड़ने पर, आपका मॉडल और मानव निश्चित रूप से असाधारण कारणों से यह विकल्प बना रहे हैं। बोगस्ट बताते हैं कि आपके डेटासेट की सभी तस्वीरों के लिए, आप उस मात्रा का उपयोग उनके माध्यम से करने के लिए कर सकते हैं।
दृष्टिकोण पाठ-मुख्य रूप से आधारित तथ्यों के साथ आगे काम करता है, जिसमें छवि क्षेत्रों के बजाय मुख्य शब्दों को हाइलाइट किया जाता है।
👉 तेजी से मूल्यांकन
शोधकर्ताओं ने तीन केस रिसर्च का इस्तेमाल यह उजागर करने के लिए किया कि कैसे साझा रुचि गैर-विशेषज्ञों और डिवाइस-मास्टरिंग शोधकर्ताओं दोनों के लिए फायदेमंद हो सकती है।
पहले मामले में देखें, उन्होंने त्वचा के घावों की तस्वीरों से कैंसर का निदान करने में सहायता के लिए डिज़ाइन किए गए सिस्टम-अध्ययन संस्करण पर भरोसा करने के लिए त्वचा विशेषज्ञ की सहायता के लिए साझा रुचि का उपयोग किया है। साझा रुचि ने त्वचा विशेषज्ञ को मॉडल की सही और गलत भविष्यवाणियों के उदाहरणों को तेजी से देखने में सक्षम बनाया है। अंततः, त्वचा विशेषज्ञ ने फैसला किया कि वह मॉडल पर विचार नहीं कर सकता क्योंकि इसने वास्तविक घावों के विपरीत, फोटो कलाकृतियों के आधार पर बहुत अधिक भविष्यवाणियां कीं है।
"यहां कीमत यह है कि साझा ब्याज का उपयोग करके, हम इन पैटर्नों को हमारे मॉडल के व्यवहार में उभरने में सक्षम हैं। लगभग आधे घंटे में, त्वचा विशेषज्ञ एक आश्वस्त चयन करने में सक्षम हो गए कि मॉडल पर विचार करना है या नहीं और इसे तैनात करना है या नहीं, "बोगस्ट कहते हैं।
दूसरे मामले की जांच में, उन्होंने यह दिखाने के लिए एक गैजेट-गेटिंग टू रिसर्च रिसर्चर के साथ काम किया कि कैसे साझा रुचि संस्करण के अंदर पूर्व अज्ञात नुकसानों को प्रकट करके एक विशिष्ट सामर्थ्य दृष्टिकोण की तुलना कर सकती है। उनके दृष्टिकोण ने शोधकर्ता को सामान्य गाइड रणनीतियों के माध्यम से आवश्यक समय के एक अंश में सैकड़ों सही और गलत निर्णयों का विश्लेषण करने में सक्षम बनाया।
0.33 मामले में एक नज़र डालें, उन्होंने चयनित छवि वर्ग उदाहरण में गहराई से गोता लगाने के लिए साझा रुचि का उपयोग किया है। तस्वीर के आसपास के जमीनी तथ्य में हेरफेर करके, वे यह देखने में सक्षम थे कि विशिष्ट भविष्यवाणियों के लिए कौन सी तस्वीर क्षमताएं सबसे महत्वपूर्ण हैं।
शोधकर्ता इस बात से प्रेरित थे कि इन केस रिसर्च में शेयर्ड इंटरेस्ट कितनी अच्छी तरह से पूरा हुआ, हालांकि बोगस्ट ने चेतावनी दी कि यह तरीका उतना ही सरल है जितना कि सही तरीका है क्योंकि यह अब तक आधारित है। यदि उन तकनीकों में पूर्वाग्रह शामिल हैं या गुमराह हैं, तो साझा ब्याज उन बाधाओं को प्राप्त करेगा।
नियति में, शोधकर्ताओं को साझा रुचि को एक तरह के रिकॉर्ड पर लागू करने की आवश्यकता होती है, विशेष रूप से सारणीबद्ध आँकड़े जो वैज्ञानिक जानकारी में उपयोग किए जाते हैं। वे वर्तमान समय की सामर्थ्य तकनीकों को बढ़ाने में मदद करने के लिए साझा रुचि को भी लागू करना चाहते हैं। बोगस्ट को उम्मीद है कि यह अध्ययन उन अतिरिक्त कामों को उजागर करता है जो मनुष्यों के लिए समझ में आने वाले दृष्टिकोणों में मॉडल व्यवहार के गैजेट-प्राप्त ज्ञान को निर्धारित करना चाहते हैं।
टिप्पणियाँ
एक टिप्पणी भेजें