क्यों हैं 'एआई-जनरेटेड' चेहरे असली चीज़ से अधिक भरोसेमंद ?

  चौंका देने वाले यथार्थवाद के युग के द्वेषपूर्ण उपयोगों के लिए निहितार्थ हैं, राजनीतिक या विभिन्न लाभ के लिए दुष्प्रचार अभियानों में इसकी क्षमता हथियारकरण, ब्लैकमेल के लिए झूठी पोर्न की शुरूआत, और उपन्यास प्रकार के दुरुपयोग और धोखाधड़ी के लिए किसी भी मात्रा में जटिल जोड़तोड़ इसमें हैं।  डीपफेक को समझने के लिए काउंटरमेशर्स विकसित करना एक तरफ सुरक्षा अधिकारियों और विकल्प पर साइबर अपराधियों और साइबर वारफेयर गुर्गों के बीच "हथेलियों की दौड़" बन गया है।

  प्रोसीडिंग्स ऑफ द नेशनल एकेडमी ऑफ साइंसेज यूएसए के अंदर प्रकाशित एक नया अध्ययन इस बात का माप प्रदान करता है कि युग ने कितनी दूरी आगे बढ़ाई है।  परिणाम अनुशंसा करते हैं कि वास्तविक मनुष्य बिना किसी समस्या के सिस्टम-जनित चेहरों के लिए गिर सकते हैं - और यहां तक ​​​​कि उन्हें वास्तविक लेख की तुलना में अधिक भरोसेमंद के रूप में व्याख्या करते हैं।  "हमने देखा है कि सिंथेटिक चेहरे सबसे अच्छे नहीं हैं, विशेष रूप से समझदार हैं, उन्हें वास्तविक चेहरों की तुलना में अधिक ईमानदार माना जाता है," कैलिफोर्निया विश्वविद्यालय, बर्कले के प्रोफेसर, सह-निर्माता हनी फरीद कहते हैं।  अंतिम परिणाम चिंता को बढ़ाता है कि "ये चेहरे नापाक उद्देश्यों के लिए उपयोग किए जाने पर काफ़ी शक्तिशाली हो सकते हैं।"

  "हम निश्चित रूप से खतरनाक डीपफेक के क्षेत्र में प्रवेश कर चुके हैं," लुगानो में इतालवी स्विट्जरलैंड विश्वविद्यालय के एक एसोसिएट प्रोफेसर पियोट्र डिडिक कहते हैं, जो पेपर के अंदर चिंतित नहीं थे।  परीक्षा की अभी भी तस्वीरें बनाने के लिए इस्तेमाल किए जाने वाले उपकरण पहले से ही उपलब्ध हैं।  और यद्यपि समान रूप से परिष्कृत वीडियो विकसित करना अतिरिक्त चुनौतीपूर्ण है, इसके लिए उपकरण शायद मानक पहुंच के भीतर होंगे, डिडिक का तर्क है।

  इस पर एक नज़र डालने के लिए सिंथेटिक चेहरों को तंत्रिका नेटवर्क के बीच आगे-पीछे की बातचीत में विकसित किया गया है, एक प्रकार के उदाहरण जिन्हें जनरेटिव विरोधी नेटवर्क कहा जाता है।  नेटवर्क में से एक, जिसे जनरेटर के रूप में जाना जाता है, ने कठिन ड्राफ्ट के माध्यम से कदम से कदम मिलाकर एक छात्र संचालन जैसे कृत्रिम चेहरों का एक विकसित संग्रह तैयार किया है।  विभिन्न नेटवर्क, जिसे एक विभेदक कहा जाता है, वास्तविक तस्वीरों में कुशल होता है, जिसके बाद वास्तविक चेहरों पर तथ्यों के साथ तुलना करके उत्पन्न आउटपुट को वर्गीकृत किया जाता है।

  जनरेटर ने यादृच्छिक पिक्सल के साथ काम शुरू कीया।  विवेचक की टिप्पणियों के साथ, इसने कदम दर कदम अधिक से अधिक समझदार मानवीय चेहरों का निर्माण किया गया, अंततः, भेदभाव करने वाला असली चेहरे को नकली से अलग नहीं कर पाया।

  नेटवर्क ने पहले के शोध में अकेले गोरे पुरुषों के चेहरे के अधिक सामान्य उपयोग के साथ मूल्यांकन में काले, पूर्वी एशियाई, दक्षिण एशियाई और प्रत्येक महिला और पुरुषों के सफेद चेहरों का प्रतिनिधित्व करने वाले वास्तविक चित्रों की एक श्रृंखला पर शिक्षित किया गया।

  400 सिंथेटिक संस्करणों से मेल खाने वाले 400 वास्तविक चेहरों को संकलित करने के बाद, शोधकर्ताओं ने 315 मनुष्यों से अनुरोध किया कि वे 128 तस्वीरों के प्रसार के बीच नकली से वास्तविक में अंतर करें।  219 योगदानकर्ताओं के एक अन्य समूह को नकली पहचान करने के तरीके के बारे में कुछ प्रशिक्षण और प्रतिक्रिया दी, क्योंकि उन्होंने चेहरों को अलग करने का प्रयास किया था।  अंत में, 223 प्रतिभागियों के एक तीसरे समूह ने 1 (बहुत अविश्वसनीय) से सात (बहुत सीधा) के पैमाने पर विश्वसनीयता के लिए 128 तस्वीरों के चयन का मूल्यांकन किया था।

  48.2 प्रतिशत की औसत सटीकता के साथ, पहले समूह ने नकली लोगों से वास्तविक चेहरों को बताने पर सिक्का टॉस से बेहतर नहीं किया।  उन योगदानकर्ताओं के विकल्पों के बारे में प्रतिक्रिया की परवाह किए बिना, दूसरा संगठन नाटकीय सुधार को प्रकट करने में विफल रहा, लगभग उनतालीस प्रतिशत के बारे में सबसे प्रभावी जवाब प्राप्त किया।  संगठन रेटिंग भरोसेमंदता ने सिंथेटिक चेहरों को वास्तविक मनुष्यों के लिए 4.48 की तुलना में चार.82 की थोड़ी अधिक औसत रेटिंग दी गई।

  

  शोधकर्ता अब उन परिणामों की ओर नहीं देख रहे थे।  "हमने शुरू में सोचा था कि सिंथेटिक चेहरे वास्तविक चेहरों की तुलना में कम भरोसेमंद हो सकते हैं," अध्ययन की सह-निर्माता सोफी नाइटिंगेल कहती हैं।

  अलौकिक घाटी का विचार पूरी तरह से समाप्त नहीं हुआ है।  अध्ययन योगदानकर्ताओं ने कुछ नकली को नकली के रूप में देखा।  "अब हम यह नहीं कह रहे हैं कि उत्पन्न हर एक छवि वास्तविक चेहरे से अप्रभेद्य है, लेकिन उनमें से एक बड़ी मात्रा में हैं," नाइटिंगेल कहते हैं।

   यह खोज प्रौद्योगिकी की पहुंच के बारे में चिंताओं को जोड़ती है जो इसे किसी भी व्यक्ति के लिए भ्रामक स्टिल स्नैप शॉट्स बनाने के लिए व्यवहार्य बनाती है।  "कोई भी फ़ोटोशॉप या सीजीआई की विशेष समझ के बिना सिंथेटिक सामग्री बना सकता है," नाइटिंगेल कहते हैं।  एक और चिंता यह है कि इस तरह के निष्कर्ष प्रभाव पैदा करेंगे कि डीपफेक पूरी तरह से ज्ञानी प्रावधान में बदल जाता है, दक्षिणी कैलिफोर्निया विश्वविद्यालय में विजुअल इंटेलिजेंस और मल्टीमीडिया एनालिटिक्स प्रयोगशाला के संस्थापक निदेशक वेल अब्द-अल्मगेद कहते हैं, जो अब अध्ययन में शामिल नहीं हुए।  उन्हें चिंता है कि वैज्ञानिक काउंटरमेशर्स को डीपफेक में विस्तारित करने की कोशिश में आत्मसमर्पण कर सकते हैं, भले ही वह अपने बढ़ते यथार्थवाद के साथ गति पर अपनी पहचान को संरक्षित करने को "निश्चित रूप से अभी तक एक और फोरेंसिक परेशानी" के रूप में देखते हैं।

  "इस शोध नेटवर्क में जो बातचीत पर्याप्त नहीं हो रही है, वह यह है कि उन डिटेक्शन गियर को बढ़ाने के लिए कैसे सक्रिय रूप से शुरू किया जाए," विटनेस में प्रोग्राम स्ट्रैटेजी एंड इनोवेशन के निदेशक सैम ग्रेगरी कहते हैं, एक मानवाधिकार संगठन जो भाग के दौरान भेद करने के तरीकों की विशेषता बनाता है  डीपफेक।  पता लगाने के लिए उपकरण बनाना महत्वपूर्ण है क्योंकि मनुष्य आमतौर पर नकली की पहचान करने की अपनी क्षमता को कम आंकते हैं, वे कहते हैं, और "जनता को आमतौर पर दुर्भावनापूर्ण रूप से उपयोग किए जाने के बाद पहचानना पड़ता है।"

  ग्रेगरी, जो अब अभ्यास में शामिल नहीं हुए, बताते हैं कि इसके लेखक बिना देर किए इन समस्याओं का समाधान करते हैं।  वे 3 संभावित समाधानों पर प्रकाश डालते हैं, जिसमें उन उत्पन्न तस्वीरों के लिए लंबे समय तक चलने वाले वॉटरमार्क बनाना शामिल है, "जैसे उंगलियों के निशान एम्बेड करना ताकि आप देख सकें कि यह एक जनरेटिव प्रक्रिया से आया है," वे कहते हैं।

  अवलोकन के लेखकों ने इस बात पर जोर देने के बाद एक स्पष्ट निष्कर्ष के साथ छोड़ दिया कि डीपफेक के भ्रामक उपयोग से खतरा बना रहेगा: "हम, परिणामस्वरूप, इन तकनीकों को विकसित करने वालों को यह ध्यान में रखने के लिए प्रेरित करते हैं कि संबंधित खतरे उनके आशीर्वाद से अधिक हैं या नहीं।  ," वे लिखते हैं।  "यदि ऐसा है, तो हम वास्तव में युग के विकास को हतोत्साहित करते हैं क्योंकि यह मीलों संभव है।"