जब देखकर भी यकीन न हो: भारत में AI डीपफेक के खिलाफ कानून

               सोचिए कि कभी अचानक आपको अपने माता या पिता का एक वीडियो मिलता है जिसमें वे आपसे जल्दी पैसे ट्रांसफर करने के लिए कह रहे हैं। आपको उनका चेहरा पहचान में आता है, उनकी आवाज़ वही लगती है, और उनके चेहरे पर डर भी वही दिखता है। आप जो देख और सुन रहे हैं, उस पर भरोसा करके पैसे ट्रांसफर कर देते हैं। कुछ घंटे बाद आपको एक परेशान करने वाली सच्चाई पता चलती है कि आपके पिता ने कभी ऐसा वीडियो नहीं बनाया था।

               अब सोचिए कि आप सुबह उठते हैं और देखते हैं कि आपका एक वीडियो ऑनलाइन घूम रहा है। उस वीडियो में आप ऐसा कुछ कहते या करते दिख रहे हैं, जो आपने कभी नहीं कहा या किया है। आपका चेहरा और आपकी आवाज हुबहु असली लगती है। लेकिन वह वीडियो पूरी तरह से बनावटी है। ऐसा बहुत ज्यादा लोगों के साथ हो रहा है। यह AI डीपफेक की दुनिया है।

               दशकों से, तस्वीरों और वीडियो को असलियत का सबूत माना जाता रहा है। लेकिन आर्टिफिशियल इंटेलिजेंस (AI) ने इस सोच को चुनौती देना शुरू कर दिया है। आज, टेक्नोलॉजी किसी भी व्यक्ति का चेहरा कॉपी कर सकती है, उनकी आवाज़ को क्लोन कर सकती है और बहुत ही सटीक तरीके से भरोसेमंद वीडियो बना सकती है। डीपफेक टेक्नोलॉजी का फिल्मों, शिक्षा और मनोरंजन में सही इस्तेमाल होता है, लेकिन जब इसका गलत इस्तेमाल किया जाता है, तो यह धोखाधड़ी, परेशान करने और इज़्ज़त खराब करने का एक ताकतवर तरीका बन सकता है। 

डीपफेक = सिर्फ़ एक नकली वीडियो से कहीं ज़्यादा है।

               डीपफेक का मतलब आम तौर पर AI से बना या डिजिटल तरीके से बदला हुआ ऑडियो, वीडियो या इमेज होता है जिसे असली दिखाने के लिए डिज़ाइन किया गया हो। किसी व्यक्ति का चेहरा ऐसे वीडियो में डाला जा सकता है जिसमें कभी वह था ही नहीं, या उसकी आवाज़ से ऐसे शब्द कहे जा सकते हैं जो उसने कभी बोले ही नहीं हों ख़तरा सिर्फ़ यह नहीं है कि कंटेंट झूठा है। एक पक्का डीपफेक ऐसी चीज़ बना सकता है जो चीज कभी हुई ही नहीं हो, लेकिन देखने में सबूत पक्का लगे।

               डीपफेक का मुख्यतः इस्तेमाल फ़ाइनेंशियल धोखाधड़ी, पहचान छिपाकर ठगने, बिना सहमति के अश्लील कंटेंट, बदनामी और राजनीतिक गलत जानकारी के लिए किया जा सकता है। यह टेक्नोलॉजी सेलिब्रिटी और आम लोगों में कोई भेदभाव नहीं करती। जिनकी तस्वीरें, वीडियो या आवाज़ की रिकॉर्डिंग ऑनलाइन उपलब्ध हैं, वे इसके संभावित शिकार बन सकते हैं।

जब AI धोखाधड़ी का टूल बन जाता है

               कल्पना कीजिए कि आपको किसी ऐसे व्यक्ति का वीडियो कॉल आता है जो आपका एम्प्लॉयर या परिवार का कोई सदस्य लग रहा है। चेहरा सही है। आवाज़ भी सही है। वह व्यक्ति आपसे तुरंत पैसे ट्रांसफ़र करने के लिए कह रहा है। आपको बाद में पता चलता है कि वह व्यक्ति कभी कॉल पर था ही नहीं।

               जहां डीपफेक का इस्तेमाल किसी की पहचान बदलकर ठगने और धोखाधड़ी के लिए किया जाता है, वहां इन्फॉर्मेशन टेक्नोलॉजी एक्ट, 2000 केकी धाराएं लागू हो सकती हैं। धारा 66C पहचान की चोरी (identity theft) से जुड़ी है, जबकि धारा 66D कंप्यूटर या कम्युनिकेशन डिवाइस के जरिए किसी और बनकर धोखा करने (cheating by personation) से जुड़ी है।

               कानूनी सिद्धांत आसान है: AI धोखाधड़ी को नया अपराध नहीं बनाता है। यह पुराने अपराध को और ज़्यादा मुश्किल बनाता है।

पारंपरिक धोखाधड़ी = झूठी पहचान।

डीपफेक धोखाधड़ी = बनावटी तौर पर बनाई गई पहचान।

प्राइवेसी, गरिमा और अश्लील डीपफेक

               डीपफेक टेक्नोलॉजी के सबसे परेशान करने वाले इस्तेमाल में से एक है, उस व्यक्ति की सहमति के बिना सेक्सुअली एक्सप्लिसिट या अपमानजनक कंटेंट बनाना, जिसकी पहचान का इस्तेमाल किया जा रहा है। कोई व्यक्ति किसी व्यक्ति के सोशल-मीडिया अकाउंट से तस्वीरें ले सकता है और AI का इस्तेमाल करके मनगढ़ंत कंटेंट बना सकता है। हो सकता है कि पीड़ित ने कभी रिकॉर्डिंग में हिस्सा न लिया हो, फिर भी कंटेंट से गंभीर शर्मिंदगी और प्रतिष्ठा को नुकसान हो सकता है।

               हालात के आधार पर, प्राइवेसी उल्लंघन से जुड़ा इन्फॉर्मेशन टेक्नोलॉजी एक्ट काकी धारा 66E (प्राइवेसी उल्लंघन) लागू हो सकती है। जहाँ अश्लील या यौन रूप से स्पष्ट सामग्री इलेक्ट्रॉनिक तरीके से बनाई या फैलाई जाती है, वहाँ धारा 67 और 67A भी लागू हो सकती हैं। कानून सिर्फ यह नहीं कह सकता, “वीडियो नकली है, इसलिए किसी को नुकसान नहीं हुआ।” कंटेंट भले ही मनगढ़ंत हो, लेकिन गरिमा का उल्लंघन असली होता है।

डीपफेक और फौजदारी कानून

               डीपफेक टेक्नोलॉजी नई है, लेकिन इसके ज़रिए होने वाले गलत काम अक्सर बहुत पुराने होते हैं। AI से पहले भी धोखाधड़ी होती थी। सोशल मीडिया से पहले भी मानहानि होती थी। इंटरनेट से डराना-धमकाना पहले भी होता था। तथ्यों के आधार पर, भारतीय न्याय संहिता, 2023 की धाराएं, जो धोखे, बदनामी, धमकी और अन्य अपराधों से जुड़ी हैं—लागू हो सकती हैं।

- धारा 318 (चीटिंग): धोखाझूठ/धोखे से किसी को प्रॉपर्टी देने, या कोई काम करने/न करने के लिए उकसाना, जिससे शारीरिक, मानसिक, प्रतिष्ठा या प्रॉपर्टी को नुकसान हो/होने की संभावना हो।

- धारा 319 (चीटिंग बाय पर्सनेशन): “प्रतिरूपण द्वारा छल” यानी किसी और का रूप/पहचान धरकर धोखाधड़ी करना।

- सेक्शन 353 (पब्लिक मिस्चीफ़): सार्वजनिक शांति को खतरा पहुँचाने वाली गलत जानकारी फैलाना।

- सेक्शन 356 (डिफेमेशन): किसी की गरीमा/प्रतिष्ठा को नुकसान पहुँचाना।

               इसलिए, अहम सवाल सिर्फ़ यह नहीं है कि डीपफेक बनाया गया था या नहीं। सवाल यह है कि इसे क्यों बनाया गया और इससे क्या नुकसान हुआ। धोखा, बदनामी, धमकी या प्राइवेसी का उल्लंघन = मूल कानूनी गलती।

क्या कोई कानूनी तौर पर आपके चेहरे या आवाज़ का इस्तेमाल कर सकता है?

               डीपफेक से “व्यक्तित्व अधिकार” (personality rights) से जुड़े अहम सवाल भी उठते हैं। किसी व्यक्ति की पहचान सिर्फ उसका नाम नहीं होती।‌ उनका चेहरा, आवाज़, तस्वीर और पब्लिक छवि की निजी और व्यापारिक कीमत हो सकती है। इन विशेषताओं का बिना इजाज़त इस्तेमाल गंभीर कानूनी मुद्दे खड़े कर सकता है।

               एक्टर अनिल कपूर के बारे में दिल्ली हाई कोर्ट का फ़ैसला इस मामले में खास तौर पर अहम हो गया। कोर्ट ने पर्सनैलिटी की खासियतों को बिना इजाज़त के इस्तेमाल से बचाने की ज़रूरत को पहचाना, जिसमें AI और डीपफेक जैसी टेक्नोलॉजी के ज़रिए गलत इस्तेमाल भी शामिल है। कोर्ट ने माना कि AI और डीपफेक जैसी तकनीकों के दुरुपयोग समेत, बिना इजाज़त शोषण से व्यक्तित्व के गुणों की सुरक्षा जरूरी है।

               यह सिद्धांत सिर्फ़ सेलिब्रिटीज़ तक ही सीमित नहीं है। कल्पना कीजिए कि एक कंपनी आपके चेहरे का AI से बना वर्शन किसी ऐड में इस्तेमाल कर रही है, जिससे ऐसा लगे कि आपने उनके प्रोडक्ट की तारीफ की है। जबकि आपने कभी परमिशन नहीं दी। आपको कभी पेमेंट नहीं किया गया। फिर भी लोग आपके ऐड पर यकीन कर लेते हैं। टेक्नोलॉजी को इंसानी पहचान को शोषण के लिए आसानी से उपलब्ध नहीं कराना चाहिए।

सोशल-मीडिया प्लेटफॉर्म्स की क्या जिम्मेदारी?

               एक बार जब कोई नुकसानदायक डीपफेक ऑनलाइन अपलोड हो जाता है, तो उसे कॉपी करके कुछ ही मिनटों में फैलाया जा सकता है। इससे एक और अहम सवाल उठता है कि सोशल मीडिया प्लेटफॉर्म की क्या ज़िम्मेदारी है?

               इन्फॉर्मेशन टेक्नोलॉजी (Information Technology) के ढांचे और IT रूल्स के तहत, इंटरमीडियरीज़ को(प्लेटफॉर्म) को लागू ड्यू-डिलिजेंस obligations (कानूनी सावधानी की शर्तों) का पालन करना ज़रूरी है। आसान शब्दों में, ड्यू डिलिजेंस का मतलब है गैर-कानूनी एक्टिविटी को रोकने और कानूनी ऑब्लिगेशन्स का पालन करने के लिए सही और कानूनी तौर पर ज़रूरी कदम उठाना।  इसलिए,जिम्मेदारी सिर्फ उस व्यक्ति की नहीं हो सकती जिसने डीपफेक बनाया। इसमें डीपफेक बनाने वाले से ज़्यादा लोग शामिल हो सकते हैं।

निर्माता = इसे किसने बनाया?

अपलोडर = इसे किसने फैलाया?

प्लेटफॉर्म = गैर-कानूनी कंटेंट की पहचान होने के बाद क्या कार्रवाई की गई?

यह मुद्दा खास तौर पर इसलिए ज़रूरी है, क्योंकि पीड़ित व्यक्ति हजारों अनाम अकाउंट्स के खिलाफ अकेले लड़ना व्यावहारिक रूप से संभव नहीं है।

AI से बने कंटेंट पर भारत की प्रतिक्रिया

               डीपफेक के प्रति भारत का कानूनी रवैया धीरे-धीरे विकसित हो रहा है। मौजूदा ढांचे में इन्फॉर्मेशन टेक्नोलॉजी एक्ट (Information Technology Act), फौजदारी कानून (Criminal Law), प्राइवेसी सुरक्षा (Privacy Protection), व्यक्तित्व अधिकार (Personality Rights) और इंटरमीडिएरी obligations शामिल हैं।

               हाल ही में, सरकार ने IT रूल्स, 2021 में संशोधन करके सिंथेटिकली जेनरेटेड इंफॉर्मेशन (SGI) यानी डीपफेक और AI-जनरेटेड कंटेंट से होने वाले नुकसान को रोकने के लिए फ्रेमवर्क को मज़बूत किया। यह मानते हुए कि AI से बना कंटेंट ऐसी चुनौतियाँ पैदा करता है जिनसे निपटने के लिए पारंपरिक कानून मूल रूप से नहीं बनाए गए थे।

- प्लेटफॉर्म को गैर-कानूनी डीपफेक कंटेंट को फ्लैग होने के बाद 3 घंटे के अंदर हटाना होगा।

- AI से बने कंटेंट पर कम से कम 10% जगह पर लेबल लगाना ज़रूरी है ताकि यूज़र्स को पता चले कि यह सिंथेटिक कंटेंट है।

- अगर प्लेटफॉर्म इन नियमों का पालन नहीं करता, तो उसे IT एक्ट की सेक्शन 79 के तहत मिली कानूनी सुरक्षा खत्म हो सकती है।

               लेबलिंग, ट्रेसेबिलिटी, सहमति, पहचान और नुकसानदायक AI से बने कंटेंट को तेज़ी से हटाने से जुड़े सवाल और भी ज़रूरी हो जाएँगे।

सबसे बड़ा खतरा: असलियत पर से भरोसा उठना

               शायद डीपफेक टेक्नोलॉजी का सबसे बड़ा खतरा सिर्फ नकली वीडियो बनाना नहीं है। बल्कि यह भरोसे को तोड़ना है। क्या होता है जब हम किसी ऑडियो रिकॉर्डिंग, तस्वीर, वॉइस मैसेज या वीडियो कॉल पर भरोसा करने में आत्मविश्वास महसूस नहीं करेंगे? डीपफेक दो खतरनाक संभावनाएँ पैदा करते हैं।

एक नकली चीज़ असली लग सकती है।

एक असली रिकॉर्डिंग को नकली कहकर खारिज किया जा सकता है।

               एक असली वीडियो में पकड़ा गया व्यक्ति आसानी यह दावा कर सकता है कि इसे AI का इस्तेमाल करके बनाया गया था। यह कोर्ट, जांच एजेंसियों और डिजिटल सबूतों के लिए पूरी तरह नई चुनौती पैदा करता है। सवाल अब सिर्फ़ यह नहीं रह गया है कि कोई वीडियो है या नहीं। सवाल यह हो सकता है कि क्या हम यह साबित कर सकते हैं कि यह वीडियो असली है या नक़ली।

निष्कर्ष

               डीपफेक तकनीक आर्टिफिशियल इंटेलिजेंस के जमाने की सबसे गंभीर कानूनी चुनौतियों में से एक पेश करती है। किसी व्यक्ति का चेहरा कॉपी किया जा सकता है, उसकी आवाज़ क्लोन की जा सकती है और उसकी पहचान का इस्तेमाल ऐसी असलियत बनाने के लिए किया जा सकता है जो कभी अस्तित्व में ही नहीं थी।

               भारत का कानूनी जवाब इन्फॉर्मेशन टेक्नोलॉजी एक्ट (Information Technology Act), भारतीय न्याय संहिता, प्राइवेसी और पर्सनैलिटी राइट्स, इंटरमीडियरी ऑब्लिगेशन और AI से बने कंटेंट से जुड़े नए रेगुलेशन के ज़रिए विकसित हो रही है। 

               हालांकि, केवल कानून से समस्या हल नहीं हो सकती। टेक्नोलॉजी को बेहतर डिटेक्शन की ज़रूरत है, प्लेटफॉर्म को ज़्यादा अकाउंटेबिलिटी की ज़रूरत है और नागरिकों को ज़्यादा डिजिटल अवेयरनेस की ज़रूरत है। क्योंकि आर्टिफिशियल इंटेलिजेंस के दौर में, इंसानियत की सबसे पुरानी मान्यताओं में से एक अब काफी नहीं हो सकती। अब सिर्फ़ देखना ही ज़रूरी नहीं कि यकीन किया जाए।

भविष्य के लिए सवाल केवल यह नहीं हो सकता:

“क्या यह वीडियो असली है?” सवाल यह हो सकता है कि “जब टेक्नोलॉजी असलियत को यकीन दिलाने वाले तरीके से बना सकती है, तो हम यह कैसे साबित करें कि क्या असली है?” 

नोट - lawhelp4you.com का यह ब्लॉग केवल जानकारी मात्र के लिए है, इसमें अगर कुछ त्रुटि हो तो उसके लिए क्षमा प्रार्थी हैं।

इस ब्लॉग को लिखने के लिए, एडवोकेट प्रियम कश्यप का आभार।