Deepfake समाज में गंभीर खतरा बनने जा रहा, नकली AI का मारक केवल तकनीक होगा: दिल्ली हाईकोर्ट

दिल्ली हाईकोर्ट ने बुधवार को टिप्पणी की कि डीपफेक समाज में एक गंभीर खतरा बनने जा रहा है और केंद्र सरकार को इस मुद्दे पर कार्रवाई करनी होगी।

कार्यवाहक चीफ़ जस्टिस मनमोहन और जस्टिस तुषार राव गेदेला की खंडपीठ ने कहा कि फर्जी AI के लिए मारक केवल तकनीक होगी।

अदालत डीपफेक तकनीक के नियमन न के खिलाफ दायर दो याचिकाओं पर सुनवाई कर रही थी। इनमें से एक याचिका वरिष्ठ पत्रकार रजत शर्मा ने दायर की है जबकि दूसरी याचिका अधिवक्ता चैतन्य रोहिल्ला ने दायर की है।

आज सुनवाई के दौरान रोहिल्ला के वकील ने अदालत को सूचित किया कि केन्द्र सरकार ने अपने जवाब में कहा है कि सूचना प्रौद्योगिकी कानून और डाटा संरक्षण कानून ही डीपफेक प्रौद्योगिकी से निपटने के लिए पर्याप्त हैं।

इस पर, अदालत ने मौखिक रूप से टिप्पणी की कि डीपफेक का मुद्दा केवल भारत तक ही सीमित नहीं है, बल्कि दुनिया भर में हो रहा है। न्यायालय ने यह भी कहा कि अमेरिका जैसे कुछ देशों ने इस मुद्दे से निपटने के लिए कानून बनाए हैं।

रजत शर्मा के वकील ने तब अदालत को बताया कि यूरोपीय संघ भी इस मुद्दे से निपटने के लिए कुछ नियम लेकर आया है, लेकिन डीपफेक तकनीक को एआई से अलग माना जाना चाहिए।

वकील ने आगे कहा कि पत्रकार की तस्वीर का इस्तेमाल किसी ने डीपफेक तकनीक का उपयोग करके किया था, जिसमें उसे इंडिया टीवी समाचार चैनल पर दवाएं बेचते हुए दिखाया गया था।

एसीजे मनमोहन ने टिप्पणी की कि चुनाव से ठीक पहले, डीपफेक तकनीक के उपयोग के खिलाफ बड़ी संख्या में जनहित याचिकाएं दायर की गई थीं।

उन्होंने कहा, ''चुनाव से ठीक पहले और चुनाव के बाद... आप तब बहुत उत्तेजित थे ... अब आपके वकील कह रहे हैं कि हमने सब कुछ संभाल लिया है, "एसीजे ने एएसजी चेतन शर्मा से कहा।

शर्मा ने जवाब दिया, "हमारी बॉडी लैंग्वेज बदल गई होगी लेकिन हम अभी भी उतना ही उत्तेजित हैं जितना हम तब थे।

इस पर एसीजे मनमोहन ने कहा, "इस तकनीक से होने वाले नुकसान को समझिए क्योंकि आप सरकार हैं। एक संस्था के रूप में हमारी कुछ सीमाएं होंगी। यह राष्ट्रीय और अंतरराष्ट्रीय स्तर पर कैसे काम करता है।

इस पर, एएसजी ने जवाब दिया कि काउंटर एआई तकनीक को रद्द करने के लिए नियोजित किया जा सकता है "अन्यथा एक बहुत ही हानिकारक स्थिति क्या होगी।

उन्होंने कहा, 'मुद्दा यह है कि एक का पता लगाया जाए, फिर रोकथाम, शिकायत दर्ज करने के लिए तंत्र का निर्माण किया जाए और जागरूकता बढ़ाई जाए. पहली शुरुआत के रूप में, प्लेटफार्मों पर एक डिस्क्लेमर हो सकता है ...

खंडपीठ ने टिप्पणी की कि ज्यादातर मंच भारत से बाहर स्थित हैं और जानना चाहा कि भारतीय कानून इन पर कैसे लागू होंगे।

उन्होंने कहा, 'यह (डीपफेक तकनीक) समाज के लिए गंभीर खतरा बनने जा रही है. आपको इस मुद्दे पर कार्रवाई करनी होगी, "एसीजे ने एएसजी को बताया।

रोहिल्ला के वकील ने अदालत से कहा कि जब पिछले साल उनकी याचिका दायर की गई थी तो डीपफेक तकनीक का खतरा उतना नहीं था जितना आज है।

एएसजी चेतन शर्मा ने जवाब दिया कि दुरुपयोग का मुकाबला करने के लिए एक काउंटर तकनीक का इस्तेमाल करना होगा।

उन्होंने कहा कि केंद्र सरकार के कानून और सलाह काफी दूर तक चले जाएंगे, लेकिन वे पूरी दूरी तय नहीं कर सकते।

"आप ठीक कह रहे हैं। नकली एआई के लिए मारक केवल तकनीक होगी , "एसीजे ने टिप्पणी की।

इसके बाद अदालत ने याचिकाकर्ताओं के वकीलों से दो सप्ताह के भीतर डीपफेक तकनीक के दुरुपयोग से निपटने के बारे में उनके सुझावों वाला एक अतिरिक्त हलफनामा दाखिल करने को कहा।

मामले की अगली सुनवाई 8 अक्टूबर को होगी।

रोहिल्ला ने अपनी याचिका में केंद्र सरकार को डीपफेक और एआई तक पहुंच प्रदान करने वाली वेबसाइटों की पहचान करने और उन्हें ब्लॉक करने और इसके नियमन के लिए दिशानिर्देश निर्धारित करने का निर्देश देने का अनुरोध किया है।

याचिका में एआई के निष्पक्ष कार्यान्वयन को सुनिश्चित करने और भारत के संविधान में निहित मौलिक अधिकारों के अनुसार एआई और डीपफेक एक्सेस के लिए दिशानिर्देश जारी करने के लिए निर्देश देने की भी मांग की गई है।

पत्रकार रजत शर्मा की याचिका में कहा गया है कि डीपफेक तकनीक का प्रसार समाज के विभिन्न पहलुओं के लिए महत्वपूर्ण खतरा है, जिसमें गलत सूचना और गलत सूचना अभियान, सार्वजनिक प्रवचन और लोकतांत्रिक प्रक्रियाओं की अखंडता को कम करना, धोखाधड़ी और पहचान की चोरी में संभावित उपयोग के साथ-साथ व्यक्तियों की प्रतिष्ठा और गोपनीयता को नुकसान पहुंचाना शामिल है।

जनहित याचिका में केंद्र सरकार को डीपफेक बनाने में सक्षम एप्लिकेशन, सॉफ्टवेयर, प्लेटफॉर्म और वेबसाइटों तक सार्वजनिक पहुंच की पहचान करने और उसे ब्लॉक करने का निर्देश देने की मांग की गई है।

याचिका में यह सुनिश्चित करने के लिए दिशानिर्देश जारी करने की भी मांग की गई है कि आर्टिफिशियल इंटेलिजेंस और डीपफेक तक कोई भी पहुंच संविधान के भाग- III में गारंटीकृत मौलिक अधिकारों के अनुसार सख्ती से की जाए, जब तक कि केंद्र द्वारा प्रासंगिक नियम नहीं बनाए जाते।