चेहरे की पहचान तकनीक के नैतिक मुद्दे

चेहरे की पहचान तकनीक के नैतिक मुद्दों का एक सिंहावलोकन, गोपनीयता से लेकर पूर्वाग्रह की चिंताओं तक। छवि: लेस्ज़ेक / एडोब स्टॉक ) चेहरे की पहचान तकनीक ने बड़े पैमाने पर बाजार में प्रवेश किया है, हमारे चेहरे अब हमारे फोन और कंप्यूटर को अनलॉक करने में सक्षम हैं। जबकि मशीनों को उनके चेहरे पर एक त्वरित नज़र के साथ एक व्यक्ति की पहचान करने की बहुत ही मानवीय क्षमता के साथ सशक्त बनाने की क्षमता रोमांचक है, यह महत्वपूर्ण नैतिक चिंताओं के बिना नहीं है। ) मान लीजिए आपकी कंपनी फेशियल रिकग्निशन तकनीक पर विचार कर रही है। उस स्थिति में, इन चिंताओं से अवगत होना और उन्हें दूर करने के लिए तैयार होना आवश्यक है, जिसमें चेहरे की पहचान को पूरी तरह से छोड़ना भी शामिल हो सकता है।

देखें: आर्टिफिशियल इंटेलिजेंस एथिक्स पॉलिसी (TechRepublic Premium) इन नैतिक चिंताओं का आकलन करते समय, विचार करें कि आपके ग्राहक, कर्मचारी और आम जनता कैसे प्रतिक्रिया देगी यदि वे पूरी तरह से जानते हैं कि आप तकनीक का उपयोग कैसे कर रहे हैं। यदि वह विचार विचलित करने वाला है, तो आप एक नैतिक “खतरे के क्षेत्र” में जा रहे हैं।

चेहरे की पहचान तकनीक के नैतिक मुद्दे क्या हैं? पारदर्शिता और सहमति की कमी चेहरे की पहचान का एक मूलभूत नैतिक मुद्दा यह है कि इन तकनीकों को अक्सर सहमति या अधिसूचना के बिना नियोजित किया जाता है। कर्मचारियों, ग्राहकों या आम जनता के निगरानी कैमरों या वीडियो फ़ीड तक पहुंच होने का मतलब यह नहीं है कि प्रभावित पक्षों को सूचित किए बिना उस डेटा का उपयोग करना एक अच्छा विचार है।

किसी व्यक्ति को उसके चेहरे से पहचानने से अन्य सभी प्रकार के डेटा तक पहुंचने की संभावना खुल जाती है, जो नैतिक चिंताओं को बढ़ा सकता है। उदाहरण के लिए, यदि आप किसी स्टोर में आने वाले लोगों की पहचान करने के लिए चेहरे की पहचान का उपयोग करते हैं, तो क्या आपको उस पहचान का उपयोग खरीदारी इतिहास को खींचने के लिए करना चाहिए? क्रेडिट रिपोर्ट के बारे में कैसे? क्या आपको कम क्रेडिट स्कोर वाले लोगों की सेवा करने से बचना चाहिए और “उच्च मूल्य” वाले ग्राहकों पर ध्यान केंद्रित करना चाहिए?

इसी तरह के उदाहरण में रिंग डोरबेल जैसे उपभोक्ता इलेक्ट्रॉनिक्स शामिल हैं। पोलिटिको के अनुसार, अमेज़ॅन इन उपकरणों से उपयोगकर्ता की सहमति के बिना पुलिस को वीडियो साझा करता है। जबकि बड़े पैमाने पर निगरानी पर चिंताएं एक अत्यधिक साजिश सिद्धांत की तरह लग सकती हैं, उन्होंने संयुक्त राज्य अमेरिका में नाटकीय रूप से घर पर हमला किया है . संघीय गर्भपात सुरक्षा को हटाने से चिंताएं पैदा हो गई हैं कि बड़ी तकनीकी कंपनियों को गर्भपात क्लीनिकों की यात्रा करने वाले उपयोगकर्ताओं की पहचान करने के लिए सम्मन भेजा जा सकता है। गर्भपात क्लिनिक उदाहरण के रूप में दिखाता है, बड़े पैमाने पर सार्वजनिक आंदोलनों को लॉग करना तब तक ठीक लग सकता है जब तक कि ऐसा न हो। जनता के लिए इकट्ठा होने और स्वतंत्र रूप से दिन के मुद्दों पर समर्थन या विरोध व्यक्त करने की क्षमता अधिकांश लोकतंत्रों का एक मूलभूत तत्व है। बड़े पैमाने पर निगरानी और चेहरे की पहचान कथित “बुरे व्यवहार” का रिकॉर्ड बना सकती है जिसका उपयोग नागरिकों के खिलाफ किया जाता है। इस नैतिक सरोकार के तत्व पहले से ही सामने आ रहे हैं। EFF के अनुसार, लॉस एंजिल्स में पुलिस ने पुलिस विरोधी प्रदर्शनों के दौरान उपयोगकर्ताओं से विरोध के रिंग कैमरा फुटेज का अनुरोध किया।

और भी अधिक सौम्य उदाहरण नैतिक चिंताएं पैदा करते हैं। मान लीजिए कि आपकी कंपनी आइसक्रीम चेन का एक सेट चलाती है और अक्सर ग्राहकों की पहचान करने के लिए चेहरे की पहचान का उपयोग करती है और उन्हें पुरस्कार के साथ “आश्चर्य” करती है। हो सकता है कि वे ग्राहक इस बात से नाराज़ हों कि उनके “दोषी सुख” की निगरानी और ट्रैकिंग की जा रही है? पूर्वाग्रह और सटीकता संबंधी चिंताएँ चेहरे की पहचान तकनीक के साथ अक्सर उद्धृत नैतिक चिंता एल्गोरिदम में नस्लीय पूर्वाग्रह की उपस्थिति है। हालांकि, यह चिंता चेहरे की पहचान तकनीकों की समग्र सटीकता के बारे में अधिक गहन चिंता को दर्शाती है। पूर्वाग्रह का दावा किया गया सबूत अक्सर जनसांख्यिकीय वर्गीकरण एल्गोरिदम से उत्पन्न होता है जो जाति, लिंग और उम्र जैसी विशेषताओं को निर्धारित करने के लिए एक चेहरे का उपयोग करना चाहता है। ए एमआईटी अध्ययन में पाया गया कि अधिकांश वर्गीकरण एल्गोरिदम ने किसी भी अन्य समूह की तुलना में अधिक गहरे रंग की महिलाओं की गलत पहचान की।

चेहरे की पहचान के समर्थकों का तर्क है कि वर्गीकरण और पहचान दो अलग-अलग चीजें हैं और यह कि एल्गोरिदम तकनीकी रूप से और बीच के वर्षों में बेहतर प्रशिक्षण के माध्यम से विकसित हुए हैं। हालांकि, “परफेक्ट” स्थितियों के तहत, चेहरे की पहचान तकनीकों में एक होता है।92% सफलता दर। यह प्रभावशाली लग सकता है, लेकिन यदि आप मैनहट्टन में एक सीरियल किलर की तलाश में हैं, तो चेहरे की पहचान सुझाव दे सकती है 130,000 संभावित झूठी सकारात्मक, और यह “सही” स्थितियों के तहत है।

इसके अलावा, कई कारक एल्गोरिदम को तिरछा कर सकते हैं, फोटो की उम्र बनाम किसी व्यक्ति के चेहरे से लेकर डोपेलगैंजर्स या समान जुड़वाँ जैसी विशिष्ट मानवीय विशेषताओं को समझने में कठिनाइयों तक। यदि आप पसंदीदा दुकानदारों की पहचान करने का प्रयास कर रहे हैं, तो यह एक अत्यधिक चिंता की तरह लग सकता है, लेकिन यदि आप चेहरे की पहचान तकनीक के आधार पर कानून प्रवर्तन निर्णय लेते हैं तो यह बहुत ही चिंताजनक है।

नाम न छापने की नैतिकता नाम न छापने की ऑनलाइन बहस चल रही है , मार्केटिंग के लिए उपयोग की जाने वाली कुकीज़ को ट्रैक करने से लेकर हम जो ऑनलाइन करते हैं उसके बारे में डेटा कैसे और कहाँ संग्रहीत किया जाता है, पर हर चीज पर गर्म लड़ाई से इसका सबूत है। इस बहस का अधिकांश हिस्सा इस भावना से आता है कि सिर्फ इसलिए कि हम सभी प्रकार के ऑनलाइन व्यवहार को ट्रैक कर सकते हैं इसका मतलब यह नहीं है कि यह नैतिक या उचित है। यह वही बहस चेहरे की पहचान तकनीक पर लागू होती है, जो अंततः वास्तविक दुनिया में हमारे सभी व्यवहारों को ट्रैक करने की समान क्षमता प्रदान कर सकती है, जैसे हमारे ऑनलाइन व्यवहार को ट्रैक किया जाता है। जैसे-जैसे यह बहस आगे बढ़ती है, यह चेहरे की पहचान जैसी उभरती प्रौद्योगिकियों के लिए प्रासंगिक सबक प्रदान कर सकती है। प्रौद्योगिकीविदों को लग सकता है कि नैतिक चिंताएं “उनके वेतन ग्रेड से ऊपर हैं;” हालाँकि, चेहरे की पहचान जैसी तकनीकों में अपार शक्ति और नैतिक जोखिम होता है। कार्यान्वयन के साथ आगे बढ़ने और किसी और को बाद में नैतिकता के बारे में चिंता करने के बजाय, इन चिंताओं को समझने और बहस करने लायक है।