पंजाब कोर्ट का बड़ा आदेश: CM भगवंत मान के Deepfake वीडियो हटाए और Google पर नॉन-सर्च योग्य बनाए

पंजाब कोर्ट ने मुख्यमंत्री भगवंत मान का रूप धारण करने वाली आपत्तिजनक AI-जनरेटेड सामग्री को तुरंत हटाने और ब्लॉक करने का निर्देश मेटा प्लेटफॉर्म्स इंक. (फेसबुक) को दिया। कोर्ट ने टिप्पणी की कि यह सामग्री प्रथम दृष्टया अशोभनीय, अश्लील और संभावित रूप से सार्वजनिक व्यवस्था को बाधित करने में सक्षम लगती है।

न्यायिक मजिस्ट्रेट सर्वीशा शर्मा ने आदेश जारी करते हुए कहा,

"अदालत ने आपत्तिजनक सामग्री की सामग्री का अवलोकन किया और प्रथम दृष्टया यह राय है कि यह कम से कम अशोभनीय और अश्लील है। दूसरी बात, यह देखते हुए कि आपत्तिजनक सामग्री पंजाब के मुख्यमंत्री श्री भगवंत मान जैसे एक लोक अधिकारी के खिलाफ है, इस सामग्री की सार्वजनिक अशांति भड़काने की प्रवृत्ति को पूरी तरह से खारिज नहीं किया जा सकता।"

FIR और साइबर सेल की कार्रवाई

यह आदेश राज्य साइबर सेल पंजाब के स्टेशन हाउस ऑफिसर (SHO) द्वारा दायर आवेदन पर पारित किया गया। इस आवेदन में सूचना प्रौद्योगिकी अधिनियम, 2000 और IT नियम, 2021 के तहत तत्काल सामग्री को ब्लॉक करने के निर्देश मांगे गए।

SHO गगनप्रीत सिंह द्वारा प्राप्त जानकारी के आधार पर FIR दर्ज की गई कि "जगमन समरा" नामक फेसबुक अकाउंट ने मुख्यमंत्री का रूप धारण करते हुए आपत्तिजनक और अश्लील AI-जनरेटेड वीडियो और तस्वीरें अपलोड की हैं।

साइबर मॉनिटरिंग सेल की प्रारंभिक जांच में सामने आया कि यह सामग्री सिंथेटिक मीडिया थी, जिसे जनता को गुमराह करने और मुख्यमंत्री की प्रतिष्ठा को नुकसान पहुंचाने के दुर्भावनापूर्ण इरादे से बनाया गया। यह अकाउंट कनाडा से संचालित हो रहा था।

कोर्ट ने सामग्री की जांच के बाद पाया कि वीडियो प्रथम दृष्टया अशोभनीय और अश्लील हैं। चूंकि वे एक लोक अधिकारी को निशाना बना रहे थे, इसलिए ऐसी पोस्ट से सार्वजनिक अशांति पैदा होने की संभावना को खारिज नहीं किया जा सकता। कोर्ट ने यह भी कहा कि इस चरण में AI-जनरेशन की आशंका को खारिज नहीं किया जा सकता है। इसकी प्रामाणिकता निर्धारित करने के लिए ट्रायल के दौरान विशेषज्ञ राय की आवश्यकता होगी।

जज ने जोर दिया कि अगर किसी व्यक्ति के अधिकारों की जल्द से जल्द रक्षा नहीं की गई। सक्षम कोर्ट ने अंततः यह निष्कर्ष निकाला कि सामग्री वास्तव में AI-जनरेटेड या मानहानिकारक है तो इसका कोई उद्देश्य पूरा नहीं होगा।

मजिस्ट्रेट ने AI-हेरफेर वाले मीडिया के बढ़ते खतरे पर जोर देते हुए कहा कि यह दिखाने के लिए त्वरित कार्रवाई आवश्यक है कि गलत डिजिटल आचरण का प्रभावी ढंग से निवारण किया जाएगा। कोर्ट ने कहा कि अभिव्यक्ति की स्वतंत्रता एक मौलिक अधिकार है। हालांकि, यह जनता को गुमराह करने के लिए डिज़ाइन की गई सिंथेटिक, मानहानिकारक या अशोभनीय सामग्री के निर्माण या प्रसार तक नहीं फैल सकती।

आवेदन स्वीकार करते हुए कोर्ट ने निम्नलिखित निर्देश जारी किए:

1. मेटा प्लेटफॉर्म्स इंक. (फेसबुक) FIR में उल्लिखित विशिष्ट यूआरएल के तहत होस्ट की गई आपत्तिजनक सामग्री को हटाए और ब्लॉक करे।

2. मेटा को साक्ष्य को दूषित होने से बचाने के लिए आपत्तिजनक सामग्री से संबंधित सभी डेटा और रिकॉर्ड को संरक्षित करना होगा।

3. राज्य साइबर क्राइम विभाग द्वारा सूचित किए जाने पर मेटा सभी समान, मिरर या व्युत्पन्न संस्करणों को भी हटाए या उनकी पहुँच को अक्षम करे।

4. Google को आक्रामक सामग्री को डी-इंडेक्स और डी-रेफरेंस करने का निर्देश दिया गया है ताकि यह नॉन-सर्च योग्य बनी रहे।

कोर्ट ने चेतावनी दी कि निर्देशों का पालन न करने पर IT Act की धारा 79(3)(b) के साथ पठित धारा 85 और IT नियम, 2021 के नियम 3 और 7 के तहत प्राप्त वैधानिक प्रतिरक्षा समाप्त हो जाएगी।