चूँकि नकली नग्नताएँ नवीनतम एआई सिरदर्द बन गई हैं, विशेषज्ञ विनियमन और जागरूकता का आह्वान करते हैं

स्पेन का छोटा सा शहर अल्मेंद्रलेजो तब हिल गया जब दर्जनों स्कूली छात्राओं ने बताया कि आर्टिफिशियल इंटेलिजेंस का उपयोग करने वाले "कपड़े उतारने वाले" ऐप का उपयोग करके बनाई गई उनकी नग्न तस्वीरें स्कूल में सभी के फोन पर प्रसारित और साझा की गईं।

एक अन्य मामले में, न्यू जर्सी का एक हाई स्कूल तब सुर्खियों में आया जब एक हाई स्कूल के छात्र ने अपनी महिला सहपाठियों की डीपफेक अश्लील तस्वीरें बनाईं, जो फिर से एआई के माध्यम से बनाई गईं।

हालाँकि ये हजारों मील दूर हो रहे थे, लेकिन लगभग एक ही समय में, दोनों मामले बिना सोचे-समझे पीड़ितों के डीपफेक बनाने के लिए एआई के दुरुपयोग से जुड़े थे। सोशल मीडिया एनालिटिक्स फर्म ग्राफिका के एक अध्ययन के अनुसार, अकेले सितंबर 2023 में 24 मिलियन उपयोगकर्ताओं ने नकली नग्न वेबसाइटों का दौरा किया। जबकि पिछले कुछ महीनों में सैकड़ों ऐसी "कपड़े उतारने वाली" वेबसाइटें सामने आई हैं, लेकिन दुख की बात है कि Google जैसे खोज इंजनों ने किसी भी तरह से उनकी पहुंच को प्रतिबंधित नहीं किया है।

इनमें से अधिकांश साइटें (कुछ मामलों में मोबाइल ऐप्स जिन्हें एंड्रॉइड एप्लिकेशन पैकेज (एपीके) के रूप में वितरित किया जाता है और जिन्हें Google Play Store के बाहर स्मार्टफ़ोन पर इंस्टॉल किया जा सकता है) उन पर अपलोड की गई किसी भी तस्वीर के न्यूड बनाते हैं, कुछ इतने विश्वसनीय होते हैं कि उन्हें पहचानना मुश्किल होता है। पता लगाएँ कि वे सिंथेटिक हैं। डीप फेक कोई नई समस्या नहीं है, लेकिन नए जमाने के कृत्रिम बुद्धिमत्ता उपकरण किसी के लिए भी नियमित लोगों की एआई-जनित नग्न छवियां बनाना आसान बना रहे हैं। एआई टूल तक आसान पहुंच हर किसी को असुरक्षित बनाती है, खासकर महिलाओं और नाबालिगों को, जो डीपफेक एआई पोर्न का आसान लक्ष्य हैं।

“कोई संवेदनशीलता नहीं है क्योंकि आप इसे मैन्युअल रूप से नहीं कर रहे हैं। आप इसे केवल तकनीकी रूप से कर रहे हैं या प्रौद्योगिकी का उपयोग कर रहे हैं। तो किसी कार्य को करने से जुड़ी वे सभी भावनाएँ नष्ट हो जाती हैं। मुझे लगता है कि ये [एआई] अपराध करना आसान बना रहे हैं,'' मनोवैज्ञानिक अंजलि महलके ने एक साक्षात्कार में बताया। “जब लोग किसी प्रकार का अश्लील साहित्य बनाते हैं या कोई अपराध करते हैं, तो शर्म आती है। उनके नीचे, एक संघर्ष है... किसी प्रकार का आघात, या यह ज्यादातर शर्म में निहित है, और वह शर्म एक आत्ममुग्ध घाव की तरह बन जाती है। मानस में, कोई अपराधबोध, पश्चाताप या भावनाओं का कोई नकारात्मक स्पेक्ट्रम नहीं है,'' उसने जारी रखा।

इससे भी अधिक समस्याग्रस्त तथ्य यह है कि ये वेबसाइटें डिजिटल उत्पादों के रूप में काम करती हैं जिन्हें उपयोगकर्ताओं को प्राप्त करने की उम्मीद में उपभोक्ताओं तक पहुंचाया जाता है और फिर अतिरिक्त सेवाओं का उपयोग करके उनसे मुद्रीकरण किया जाता है। कई एआई-जनरेटेड डीपफेक न्यूड इमेज बनाने वाली वेबसाइटें एक फ्रीमियम मॉडल का उपयोग करती हैं - शुरुआत में उपयोगकर्ता मुफ्त में चित्र बना सकते हैं जिसके बाद उन्हें पेपाल जैसे ज्ञात प्लेटफार्मों का उपयोग करके उन्नत सुविधाओं (उदाहरण के लिए, उम्र और शरीर अनुकूलन) तक पहुंचने के लिए अतिरिक्त क्रेडिट खरीदना होगा। कॉइनबेस जैसे क्रिप्टोकरेंसी प्लेटफॉर्म के रूप में।

ये वेबसाइटें दावा करती हैं कि वे "मनोरंजन के उद्देश्य से हैं और किसी का अपमान करने का लक्ष्य नहीं रखती हैं"। महल्के ने इस दावे को सही ठहराया: “90% डीपफेक सामग्री पोर्नोग्राफ़ी के बारे में है, और 99% समय, इसमें महिलाएं शामिल होती हैं। यह काफी चिंताजनक है कि महिलाएं इस तरह की सामग्री का विषय कैसे होती हैं।''

हालाँकि आपको इस नई तकनीक के बारे में सूचियाँ और कैसे-कैसे मिलेंगे, तथ्य यह है कि Google और Bing दोनों जैसे खोज इंजनों ने ऐसे पृष्ठों को अनुक्रमित करना शुरू कर दिया है और प्रौद्योगिकी के सभी के लिए सुलभ होने के साथ स्पष्ट मुद्दों पर विचार करते हुए उन्हें फ़िल्टर नहीं किया है। प्रतिक्रिया मांगे जाने पर Google ने कोई टिप्पणी नहीं की।

“अनिवार्य रूप से, ये वेबसाइटें हैं। आपके पास सूचना प्रौद्योगिकी अधिनियम और नियमों के तहत इंटरनेट सेवा प्रदाता (आईएसपी) और टीएसपी को ऐसा करने का निर्देश देने का प्रावधान है,'' टीएमटी लॉ प्रैक्टिस के प्रबंध भागीदार अभिषेक मल्होत्रा ने कहा। “Google अब ऐसा करने में झिझक सकता है; या तो वे ऐसा करेंगे, या वे कहेंगे, 'जाओ और अदालत से आदेश ले आओ।'

हालांकि एआई प्रौद्योगिकियों के सभी के लिए सुलभ होने के स्पष्ट फायदे हैं, लेकिन इस नई तकनीक के सभी पहलुओं को इतनी आसानी से सुलभ होने से रोकने की जरूरत है, खासकर जब दुरुपयोग का स्पष्ट मामला हो। डीपफेक नग्न छवियां बनाने के लिए एआई का दुरुपयोग इसलिए भी अधिक है क्योंकि किसी की छवि को मॉर्फ करने के लिए किसी व्यक्ति की केवल एक तस्वीर और एक वेबसाइट या मोबाइल एप्लिकेशन की आवश्यकता होती है। तथ्य यह है कि तथाकथित "न्यूडिफाई टूल" का उपयोग करके बनाई गई प्रत्येक छवि संभावित रूप से किसी और की गरिमा और गोपनीयता का उल्लंघन करने वाला एक आपराधिक कृत्य है। चौंकाने वाली बात यह है कि कुछ वेबसाइटें स्वयं सेवाओं को "गैर-सहमति वाली अंतरंग इमेजरी" के रूप में लेबल करती हैं।

“दिन के अंत में, पृष्ठभूमि में एक इकाई, एक कंपनी या एक व्यक्ति है जिसने इस एआई को बनाया है और इसे एक विशेष उद्देश्य दिया है - एल्गोरिदम जिसे एआई और भाषा मॉडल (एलएलएम) में फीड किया जाएगा। यह पढ़ रहा होगा. भाषा सामग्री, जहां एआई अपने इच्छित कार्य को करने के लिए जानकारी प्राप्त कर रहा है, उसमें एआई के लिए तस्वीरों के मॉर्फिंग जैसे कार्यों को निष्पादित करने के लिए सीखने के मॉड्यूल शामिल होंगे। इसलिए, जिस व्यक्ति ने एल्गोरिदम लिखा है या एलएलएम को एआई या इसमें शामिल इकाई को खिलाया है, वह होने वाली गतिविधि के लिए जिम्मेदार है, ”मल्होत्रा ने कहा।

नकली नग्नताएं एआई छवियों के लोकप्रिय होने से पहले भी मौजूद थीं, लेकिन अब इसे बनाने के लिए आपको एक बुरा अभिनेता होने की आवश्यकता नहीं है। दुनिया भर में, यहां तक कि नाबालिग भी मनोरंजन के लिए इन वेबसाइटों का उपयोग कर रहे हैं और ऐसी छवियां बना रहे हैं जिनका उपयोग संभावित रूप से किसी को धमकाने या परेशान करने के लिए किया जा सकता है। ये नकली अक्सर सोशल मीडिया पोस्ट से खींची गई लोगों की नियमित छवियों का उपयोग करके बनाए जाते हैं और इन्हीं प्लेटफार्मों पर समाप्त हो सकते हैं लेकिन विनाशकारी परिणाम के साथ। मामले को बदतर बनाने के लिए, यहां तक ​​कि सोशल मीडिया प्लेटफार्मों ने भी ऐसी सामग्री को चिह्नित करने के लिए प्रौद्योगिकियों को नहीं रखा है, जिससे स्पष्ट सामग्री को लेने में उनकी बड़ी असमर्थता में योगदान होता है।

महल्के ने कहा कि इनमें से 98% डीपफेक वेबसाइटों का एक समर्पित उद्देश्य है। "इसलिए, यदि वे समर्पित साइटें हैं, तो निश्चित रूप से सरकार तंत्र स्थापित कर सकती है।" उन्होंने यह भी सुझाव दिया कि स्कूल इस नई तकनीक के खतरों के बारे में जागरूकता पैदा करने में मदद कर सकते हैं।

अब समय आ गया है कि दुनिया इस नए खतरे के प्रति जागरूक हो और मजबूत कानून बनाए जो एआई-जनरेटेड न्यूड के लिए पूरी पाइपलाइन को बंद कर दे, जो सहमति के बिना बनाई और साझा की जाती हैं। प्रामाणिक सामग्री और सॉफ़्टवेयर द्वारा बनाई गई सामग्री के बीच अंतर करने में सहायता के लिए AI-जनित सामग्री को लेबल करना और वॉटरमार्क करना एक शुरुआत हो सकती है। मेटा और गूगल जैसी बड़ी तकनीकी कंपनियों पर भी यह जिम्मेदारी है कि वे अपने प्लेटफॉर्म पर डीपफेक डिटेक्टर जोड़ें ताकि लोग स्पष्ट यौन तस्वीरें और वीडियो अपलोड न कर सकें। लेकिन कानूनी विशेषज्ञ एआई के विनियमन और ऐसे कानूनों के गठन की भी मांग कर रहे हैं जो उन लोगों की रक्षा करते हैं जिनकी तस्वीरें या वीडियो का उपयोग यौन रूप से स्पष्ट सामग्री बनाने और ऑनलाइन साझा करने के लिए किया गया था।

“हमारे पास कानूनी नियम हैं, खासकर POCSO अधिनियम में। धारा 13 से 16 किसी भी व्यक्ति की सज़ा का जिक्र करती है, भले ही वे बाल अश्लीलता कैसे फैलाते हों या वास्तविक बच्चा अश्लील कृत्य में मौजूद हो या नहीं। हमने इसे बाल कानूनों में शामिल किया है, लेकिन हमने इसे वयस्क कानूनों में शामिल नहीं किया है,'' महलके ने समझाया। जैसा कि महलके ने बताया, बाल पोर्नोग्राफी के मामले में सजा की दर केवल 1% है।