सुप्रीम कोर्ट ने AI डीपफेक को नियंत्रित करने वाली याचिका खारिज की, याचिकाकर्ता को दिल्ली हाईकोर्ट जाने को कहा

सुप्रीम कोर्ट ने उस जनहित याचिका पर विचार करने से इनकार किया, जिसमें आर्टिफिशियल इंटेलिजेंस-जनरेटेड डीपफेक (AI-Generated Deepfakes) से निपटने में अधिकारियों की विफलता की आलोचना की गई और मॉडल AI विनियमन कानून का मसौदा तैयार करने के लिए कोर्ट की निगरानी में विशेषज्ञ समिति के गठन की मांग की गई।

जस्टिस सूर्यकांत और जस्टिस एन कोटिश्वर सिंह की खंडपीठ ने मामले की सुनवाई की और याचिकाकर्ता वकील को दिल्ली हाईकोर्ट में भेज दिया, जो इन मुद्दों से निपट रहा है और समय-समय पर आदेश पारित करता रहा है।

न्यायालय ने आदेश दिया,

"हम इन समानांतर कार्यवाही पर विचार करना आवश्यक नहीं समझते। याचिकाकर्ता को हस्तक्षेपकर्ता के रूप में अपनी पैरवी करने और सहायता करने की स्वतंत्रता के साथ दिल्ली हाईकोर्ट में भेजा जाता है। हम हाईकोर्ट से अनुरोध करते हैं कि वह याचिकाकर्ता को सुनने का अवसर दे। उसके द्वारा दिए गए मूल्यवान सुझावों पर विचार करे।"

सुनवाई के दौरान, याचिकाकर्ता (व्यक्तिगत रूप से) ने कर्नल सोफिया कुरैशी के डीपफेक वीडियो के बारे में चिंता व्यक्त की, जो उसी पर प्रेस ब्रीफिंग देने के बाद भारत के 'ऑपरेशन सिंदूर' का चेहरा बन गई। उन्होंने यह भी बताया कि सरकार ने डीपफेक के संबंध में कुछ कानून लाने का आश्वासन दिया था।

जवाब में जस्टिस कांत ने टिप्पणी की,

"आप बार काउंसिल के सदस्य हैं, है न? आपकी समस्या यह प्रतीत होती है कि आप बाहर जाना चाहते हैं, कुछ मीडिया वाले वहां खड़े हैं और आप माइक के सामने बोलना चाहते हैं।"

हालांकि, इसके बाद खंडपीठ ने याचिकाकर्ता को प्रभावित किया कि वह यह नहीं कह रही थी कि इस मुद्दे को पूरी तरह से खारिज कर दिया जाना चाहिए।

जस्टिस कांत ने उनसे कहा,

"हम जो कह रहे हैं, वह यह है कि दिल्ली हाईकोर्ट पिछले कुछ वर्षों से इसकी जांच कर रहा है। वहां जाएं। हाईकोर्ट द्वारा बहुत सारे कदम उठाए गए हैं... यदि केंद्र सरकार का रुख या हाईकोर्ट के निर्देश संतोषजनक नहीं हैं तो आप हमेशा यहां आ सकते हैं।"

जज ने यह भी कहा कि सार्वजनिक मंचों पर इस मुद्दे पर बहस करने का कोई मतलब नहीं है।

उन्होंने कहा,

"ये साइबर अपराधी इतने होशियार हैं कि जब तक आप कोर्ट से बाहर निकलेंगे, तब तक वे ऐसा ही एक और वीडियो बना लेंगे। कुछ बहुत गंभीरता से करना होगा। जाकर हाईकोर्ट की सहायता करें, हो सकता है कि आपके पास कुछ नए विचार हों।"

एडवोकेट नरेंद्र कुमार गोस्वामी द्वारा दायर याचिका में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय को IT Act, 2000 के तहत नियम बनाने के निर्देश देने की मांग की गई, जिसमें अनिवार्य रूप से निम्नलिखित बिंदू शामिल हैं:

(i) चीन के डीप सिंथेसिस प्रावधानों के अनुसार, मूल, उपयोग किए गए टूल और निर्माता की पहचान का खुलासा करने वाले मेटाडेटा के साथ सभी AI-Generated सामग्री (छवियां, ऑडियो, वीडियो) की वॉटरमार्किंग;

(ii) आईटी नियम, 2021 (सीएसएएम26 प्रोटोकॉल) के नियम 3(1)(बी)(vii) को प्रतिबिंबित करते हुए डीपफेक के लिए 24 घंटे का टेकडाउन तंत्र, गैर-अनुपालन के लिए IT Act की धारा 45 के तहत दंड के साथ;

(iii) CERT-In पैनल के ऑडिटर (CIAD- 2024-0060) द्वारा तिमाही आधार पर AI प्लेटफॉर्म्स का एल्गोरिदमिक ऑडिट किया जाना चाहिए।

इसके अलावा, IT Act की धारा 88 के तहत रिटायर सुप्रीम कोर्ट जज की अध्यक्षता में AI विनियमन निकाय की स्थापना के लिए दिशा-निर्देश मांगे गए, जिसमें नीति आयोग, CERT-In और शिक्षाविदों के सदस्य शामिल हों, जिससे अनुपालन की निगरानी की जा सके।

भारत के चुनाव आयोग के खिलाफ याचिकाकर्ता ने अनुच्छेद 324 के तहत डीपफेक मॉनिटरिंग सेल की स्थापना के लिए निर्देश मांगे, जिसमें (i) AI टूल्स का उपयोग करके सभी राजनीतिक विज्ञापनों को पूर्व-प्रमाणित करने; (ii) चुनाव संचालन नियम, 1961 के नियम 16 ​​के तहत प्लेटफॉर्म्स को रीयल-टाइम टेक डाउन ऑर्डर जारी करने; और (iii) खारिज किए गए डीपफेक का सार्वजनिक भंडार बनाए रखने की शक्तियां हों।

इसके अलावा, यह भी प्रार्थना की गई कि चुनाव के दौरान अघोषित AI-27 जनित सामग्री को प्रतिबंधित करने के लिए आदर्श आचार संहिता में संशोधन किया जाए, जो अनुच्छेद 324 के तहत लागू हो और जिसमें उल्लंघन के लिए IPC की धारा 171G के तहत दंड हो।

गृह मंत्रालय के समक्ष याचिकाकर्ता ने निम्नलिखित राहत मांगी:

- IT Act की धारा 66एफ (साइबर आतंकवाद) के तहत AI खतरों पर 90 दिनों के भीतर एक राष्ट्रीय प्रोटोकॉल विकसित करने का निर्देश, जिसमें (i) विदेशी मूल के डीपफेक की जांच के लिए NIA के तहत समर्पित साइबर-फोरेंसिक इकाई शामिल है; और (ii) IT Act की धारा 70बी(5) के तहत प्लेटफॉर्म द्वारा डीपफेक घटनाओं की CERT-In को अनिवार्य रिपोर्टिंग।

- NICFS के सहयोग से IPC की धारा 419/500 के तहत डीपफेक का पता लगाने और FIR दर्ज करने के लिए पुलिस के लिए प्रशिक्षण मॉड्यूल का कार्यान्वयन।

याचिकाकर्ता ने यह भी प्रार्थना की कि शिक्षा मंत्रालय समग्र शिक्षा अभियान के तहत राष्ट्रीय डीपफेक साक्षरता मिशन शुरू करे, जिसमें अनुच्छेद 21ए के तहत वित्त पोषण के साथ 12 महीने के भीतर NCERT कोर्स (कक्षा VI-XII) में AI/डिजिटल साक्षरता को एकीकृत किया जाए।

इसके अलावा, वह निम्नलिखित घोषणाएं चाहता है:

- AI-Generated Deepfakes को विनियमित करने में प्रतिवादी-अधिकारियों की विफलता (i) अनुच्छेद 21 के तहत निजता/गरिमा के अधिकार (ii) अनुच्छेद 19(1)(ए) के तहत मतदाताओं के सत्य के अधिकार और (iii) अनुच्छेद 14 के तहत समानता के अधिकार का उल्लंघन करती है।

- AI Act डीपफेक को संबोधित करने के लिए अपर्याप्त है, जिसके लिए विशाखा बनाम राजस्थान राज्य (1997) के तहत न्यायिक दिशा-निर्देशों की आवश्यकता है।

इसके अलावा, उन्होंने रिटायर सुप्रीम कोर्ट जज की अध्यक्षता में न्यायालय की निगरानी में 5 सदस्यीय समिति के गठन की मांग की, जिसमें DG-CERT-In, ECI सचिव, DG-NIA और निदेशक-IIT दिल्ली के सदस्य शामिल हों, जिससे मॉडल AI विनियमन कानून का मसौदा तैयार किया जा सके।

केस टाइटल: नरेंद्र कुमार गोस्वामी बनाम भारत संघ और अन्य, डब्ल्यू.पी.(सी) संख्या 300/2025