Deepfake दुरुपयोग रोकने के लिए सुप्रीम कोर्ट में जनहित याचिका, AI विनियमन की मांग

आर्टिफिशियल इंटेलिजेंस (AI) टूल्स के दुरुपयोग को रोकने के लिए खासकर व्यक्तियों के सिंथेटिक चित्र वीडियो और ऑडियो प्रतिरूपण बनाने वाले डीपफेक को नियंत्रित करने हेतु, सुप्रीम कोर्ट में जनहित याचिका (PIL) दायर की गई।

इस याचिका में केंद्र सरकार को AI प्रणालियों के लिए व्यापक नियामक और लाइसेंसिंग ढांचा बनाने का निर्देश देने की मांग की गई।

एडवोकेट आरती साह द्वारा दायर यह याचिका इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MEITy) और दूरसंचार विभाग (DoT) को AI प्रौद्योगिकियों के जिम्मेदार परिनियोजन के लिए वैधानिक तंत्र स्थापित करने और Meta, Google जैसे डिजिटल मध्यस्थों से जवाबदेही सुनिश्चित करने का निर्देश देने के लिए 'रिट ऑफ मैंडेमस' जारी करने का आग्रह करती है।

याचिका में तर्क दिया गया कि AI-जनित सामग्री (डीपफेक) के अनियंत्रित प्रसार से निजता, गरिमा और प्रतिष्ठा का गंभीर उल्लंघन हुआ है। याचिका में कहा गया कि आवाज़ और छवियों की क्लोनिंग करने में सक्षम AI डिवाइस के अनियंत्रित उपयोग से व्यक्तियों को पहले ही भारी नुकसान हो चुका है और यह सार्वजनिक विश्वास सामाजिक सद्भाव और राष्ट्रीय सुरक्षा के लिए आसन्न खतरा है।

याचिकाकर्ता ने सेलेब्रिटीज और पत्रकारों सहित सार्वजनिक हस्तियों को निशाना बनाने वाली डीपफेक की हालिया घटनाओं का हवाला दिया। याचिका में दर्ज है कि अक्षय कुमार, कुमार शानू और पत्रकार सुधीर चौधरी सहित कई लोगों को दिल्ली और बॉम्बे हाईकोर्ट से इन मामलों में अंतरिम सुरक्षा मिली है।

याचिका में तर्क दिया गया कि सरकार की निष्क्रियता संविधान के अनुच्छेद 14, 19 और 21 के तहत नागरिकों के मौलिक अधिकारों का उल्लंघन करती है। इसमें Meta और Google जैसे प्लेटफॉर्म पर डीपफेक दुरुपयोग की शिकायतों पर तुरंत कार्रवाई करने में विफल रहने का आरोप लगाया गया, जिससे शिकायत निवारण तंत्र अप्रभावी हो गए।

याचिका में अंतरराष्ट्रीय प्रथाओं से तुलना करते हुए बताया गया कि यूरोपीय संघ, संयुक्त राज्य अमेरिका, चीन और सिंगापुर जैसे क्षेत्राधिकारों ने जोखिम-आधारित वर्गीकरण, लेबलिंग और प्रवर्तन प्रणालियों के माध्यम से AI-जनित सामग्री के दुरुपयोग को रोकने के लिए नियामक शासन लागू किए हैं, जबकि भारत में ऐसे कानूनी सुरक्षा उपायों की कमी है।

याचिका में डीपफेक की क्षमता पर जोर दिया गया कि वे एक पल में जीवन, प्रतिष्ठा और संस्थानों को नष्ट कर सकते हैं। इसमें चेतावनी दी गई कि बिना तत्काल हस्तक्षेप के डीपफेक का इस्तेमाल चुनावों को प्रभावित करने सांप्रदायिक कलह भड़काने और लोकतांत्रिक संस्थानों में जनता के विश्वास को कमजोर करने के लिए हथियार के रूप में किया जा सकता है।

PIL में सुप्रीम कोर्ट से तीन मुख्य दिशा-निर्देशों की मांग की गई। इनमें केंद्र सरकार को व्यापक AI नियामक और लाइसेंसिंग ढांचा तैयार करने और अधिसूचित करने का निर्देश शामिल है। इसके अलावा, डिजिटल प्लेटफॉर्म को AI-जनित प्रतिरूपण को हटाने के लिए पारदर्शी समयबद्ध तंत्र स्थापित करने का निर्देश दिया जाए और नैतिक AI मानकों की सिफारिश करने के लिए सरकारी अधिकारियों, न्यायविदों, प्रौद्योगिकीविदों और नागरिक समाज के सदस्यों वाली विशेषज्ञ समिति का गठन किया जाए।