केंद्र सरकार ने 'ग्रोक' AI के दुरुपयोग से अश्लील कंटेंट बनाने के मामले में X कॉर्प को लिखा पत्र, 3 दिनों के अंदर मांगी कार्रवाई रिपोर्ट

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X कॉर्प (पहले ट्विटर) को विस्तृत नोटिस जारी किया, जिसमें प्लेटफॉर्म पर सूचना प्रौद्योगिकी अधिनियम, 2000 और IT (इंटरमीडियरी गाइडलाइंस और डिजिटल मीडिया एथिक्स कोड) Rules, 2021 के तहत वैधानिक उचित सावधानी दायित्वों का पालन न करने का आरोप लगाया गया। खासकर अपनी AI-आधारित सेवा "ग्रोक" के कथित दुरुपयोग से अश्लील और यौन रूप से आपत्तिजनक कंटेंट बनाने और फैलाने के संबंध में।

2 जनवरी, 2026 की तारीख वाले नोटिस में X को चेतावनी दी गई कि लगातार नियमों का पालन न करने पर IT Act की धारा 79 के तहत सेफ हार्बर सुरक्षा खत्म हो सकती है। साथ ही प्लेटफॉर्म और उसके अधिकारियों को कई कानूनों के तहत गंभीर दंडात्मक परिणामों का सामना करना पड़ सकता है।

महिलाओं को निशाना बनाने वाले AI-सक्षम दुरुपयोग के आरोप

MeitY ने कहा कि उसे संसदीय हितधारकों सहित कई रिपोर्टें मिली हैं कि X पर प्रसारित कंटेंट शालीनता और अश्लीलता से संबंधित कानूनों का उल्लंघन करता है। मंत्रालय ने विशेष रूप से X द्वारा विकसित और प्लेटफॉर्म में एकीकृत AI सेवा "ग्रोक" को महिलाओं की अश्लील तस्वीरें और वीडियो बनाने के लिए दुरुपयोग किए जाने के रूप में चिह्नित किया, जिसमें फर्जी खातों और सिंथेटिक आउटपुट के माध्यम से भी ऐसा किया जा रहा है।

मंत्रालय ने कहा,

"विशेष रूप से यह देखा गया कि 'ग्रोक AI' नामक सेवा का दुरुपयोग यूजर्स द्वारा फर्जी अकाउंट्स बनाने के लिए किया जा रहा है ताकि महिलाओं की अश्लील तस्वीरें या वीडियो अपमानजनक या अश्लील तरीके से होस्ट, बनाए, प्रकाशित या साझा किए जा सकें।"

MeitY ने स्पष्ट किया कि यह दुरुपयोग केवल प्रतिरूपण तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है, जिन्होंने अपनी तस्वीरें या वीडियो अपलोड किए हैं, जिन्हें कथित तौर पर प्रॉम्प्ट और AI-आधारित इमेज जेनरेशन टूल के माध्यम से हेरफेर किया जाता है।

मंत्रालय के अनुसार, ऐसा आचरण "प्लेटफॉर्म-स्तर की सुरक्षा उपायों और प्रवर्तन तंत्र की गंभीर विफलता" को दर्शाता है। साथ ही भारतीय कानून के उल्लंघन में आर्टिफिशियल इंटेलिजेंस प्रौद्योगिकियों का घोर दुरुपयोग है।

महिलाओं और बच्चों पर प्रभाव को लेकर "गंभीर चिंता"

नोटिस में MeitY ने ऐसे कंटेंट के परिणामों पर गंभीर चिंता व्यक्त की, जिसमें कहा गया कि यह महिलाओं और बच्चों की गरिमा, निजता और सुरक्षा का उल्लंघन करता है, डिजिटल स्पेस में यौन उत्पीड़न को सामान्य बनाता है और भारत में काम करने वाले मध्यस्थों पर लागू वैधानिक उचित सावधानी ढांचे को कमजोर करता है।

IT Rules के तहत बाध्यकारी दायित्व

X को "महत्वपूर्ण सोशल मीडिया इंटरमीडियरी" बताते हुए MeitY ने कंपनी को याद दिलाया कि IT Act और IT Rules का पालन करना ज़रूरी है और धारा 79 के तहत छूट सख्त शर्तों पर आधारित है।

मंत्रालय ने कई प्रावधानों का हवाला दिया, जिनमें शामिल हैं:

नियम 4(1)(a) – मुख्य अनुपालन अधिकारी की अनिवार्य नियुक्ति और प्रभावी कामकाज।

नियम 3(1)(b) और 3(1)(d) – गैर-कानूनी सामग्री को होस्ट करने से रोकने और उसे तुरंत हटाने का दायित्व।

नियम 3(2)(b) – शिकायत मिलने पर 24 घंटे के भीतर प्रथम दृष्टया यौन सामग्री को अनिवार्य रूप से हटाना।

नियम 3(2) और 4(4) – सुलभ शिकायत निवारण प्रणालियों की तैनाती और अश्लील सामग्री के प्रसार को रोकने के लिए सक्रिय प्रौद्योगिकी-आधारित उपाय।

MeitY ने चेतावनी दी कि अश्लील, पोर्नोग्राफिक या पीडोफिलिक सामग्री को होस्ट करना या सक्षम करना — जिसमें AI टूल्स के माध्यम से भी शामिल है — के तहत मुकदमा चलाया जा सकता है:

1. IT Act की धारा 66E, 67, 67A और 67B।

2. भारतीय न्याय संहिता, 2023 (BNS) के प्रावधान।

3. महिलाओं का अश्लील प्रतिनिधित्व (निषेध) अधिनियम, 1986।

4. यौन अपराधों से बच्चों का संरक्षण (POCSO) अधिनियम, 2012।

5. युवा व्यक्ति (हानिकारक प्रकाशन) अधिनियम, 1956।

6. IT Act की धारा 85 (कंपनियों द्वारा अपराध)।

मंत्रालय ने भारतीय नागरिक सुरक्षा संहिता, 2023 (BNSS) की धारा 33 की ओर भी ध्यान दिलाया, जो कुछ अपराधों, जिसमें संगठित साइबर अपराध शामिल हैं, उसकी रिपोर्ट करने का अनिवार्य दायित्व लगाता है। साथ ही चेतावनी दी कि रिपोर्ट करने में विफलता पर अलग से दंडात्मक कार्रवाई हो सकती है।

X को जारी किए गए निर्देश

IT Act और IT Rules के तहत मिली शक्तियों का इस्तेमाल करते हुए MeitY ने X को तुरंत Grok का व्यापक टेक्निकल और गवर्नेंस-लेवल रिव्यू करने का निर्देश दिया, जिसमें इसकी प्रॉम्प्ट प्रोसेसिंग, LLM-जेनरेटेड आउटपुट, इमेज हैंडलिंग और सेफ्टी गार्डरेल्स शामिल हैं:

- अपनी सेवा की शर्तों और AI इस्तेमाल पर लगी पाबंदियों को सख्ती से लागू करें, जिसमें उल्लंघन करने वाले अकाउंट को सस्पेंड या खत्म करना शामिल है।

- पहले से जेनरेट या फैलाए गए सभी गैर-कानूनी कंटेंट तक पहुंच को बिना किसी देरी के हटा दें या डिसेबल कर दें।

- 72 घंटे के अंदर एक विस्तृत एक्शन टेकन रिपोर्ट (ATR) जमा करें, जिसमें अपनाए गए सुरक्षा उपाय, चीफ कंप्लायंस ऑफिसर द्वारा निगरानी, ​​उल्लंघन करने वालों के खिलाफ कार्रवाई और अनिवार्य अपराध-रिपोर्टिंग दायित्वों का पालन शामिल हो।

- ड्यू डिलिजेंस की ज़रूरतों का लगातार, दिखाने योग्य और ऑडिट करने योग्य पालन सुनिश्चित करें।

मंत्रालय ने चेतावनी दी कि पालन न करने को गंभीरता से देखा जाएगा और बिना किसी और नोटिस के सख्त कानूनी कार्रवाई हो सकती है, जिसमें इंटरमीडियरी इम्यूनिटी वापस लेना भी शामिल है।

यह नोटिस कई मंत्रालयों और वैधानिक निकायों को भेजा गया, जिसमें गृह मंत्रालय, राष्ट्रीय महिला आयोग और राष्ट्रीय बाल अधिकार संरक्षण आयोग शामिल हैं।