AI से बने नकली फ़ैसलों का हवाला देने का ख़तरा सिर्फ़ भारत में ही नहीं, बल्कि पूरी दुनिया में फैला हुआ: सुप्रीम कोर्ट

सुप्रीम कोर्ट ने हाल ही में कहा कि AI (आर्टिफ़िशियल इंटेलिजेंस) से बने असल में मौजूद न होने वाले फ़ैसलों का हवाला देने का चलन एक "ख़तरा" बन गया, जो न सिर्फ़ भारत में बल्कि पूरी दुनिया में तेज़ी से फैल रहा है। कोर्ट ने सभी पक्षों को सावधान रहने की चेतावनी दी।

ये टिप्पणियां जस्टिस राजेश बिंदल और जस्टिस विजय बिश्नोई की बेंच ने एक कंपनी के डायरेक्टर की तरफ़ से दायर स्पेशल लीव पिटीशन (विशेष अनुमति याचिका) पर सुनवाई करते हुए कीं। इस याचिका में डायरेक्टर ने बॉम्बे हाईकोर्ट की उन टिप्पणियों को हटाने की गुज़ारिश की थी, जो हाईकोर्ट ने तब की थीं, जब डायरेक्टर ने AI की मदद से बने एक ऐसे फ़ैसले का हवाला दिया, जो असल में मौजूद ही नहीं था। यह मामला 'महाराष्ट्र किराया नियंत्रण अधिनियम' (Maharashtra Rent Control Act) से जुड़ा है।

7 जनवरी को जारी एक आदेश में बॉम्बे हाईकोर्ट ने अपने आदेश के पैराग्राफ़ 22 में कुछ टिप्पणियां करते हुए कहा कि अपीलकर्ता (Appellant) की तरफ़ से पेश की गई दलीलें 'Chat GPT' की मदद से तैयार की गईं। इन दलीलों में एक ऐसे फ़ैसले का भी ज़िक्र था, जिसका असल दुनिया में कहीं कोई रिकॉर्ड या हवाला मौजूद नहीं था। कोर्ट ने कहा कि हाईकोर्ट और उसके लॉ क्लर्कों ने उस कथित फ़ैसले (Caselaw) को खोजने की बहुत कोशिश की, लेकिन उन्हें वह कहीं नहीं मिला।

कोर्ट ने कहा:

"प्रतिवादी (Respondent) ने फ़रवरी 2025 और अप्रैल 2025 में अपनी लिखित दलीलें पेश कीं। इन लिखित दलीलों के पूरे अंदाज़ और कुछ साफ़-साफ़ दिखने वाले संकेतों—जैसे कि हरे रंग के 'टिक-मार्क', 'बुलेट-पॉइंट' के निशान, बार-बार दोहराई गई दलीलें वगैरह—को देखकर इस कोर्ट को पूरा यक़ीन है कि ये दलीलें 'Chat GPT' या इसी तरह के किसी अन्य AI टूल की मदद से तैयार की गईं। इसका एक मज़बूत संकेत तब मिला, जब एक कथित फ़ैसले—'ज्योति पत्नी दिनेश तुलसियानी बनाम एलिगेंट एसोसिएट्स' (Jyoti w/o Dinesh Tulsiani Vs. Elegant Associates)—का हवाला दिया गया। प्रतिवादी ने न तो उस फ़ैसले का कोई हवाला (Citation) दिया और न ही उसकी कोई कॉपी कोर्ट में जमा की। इस कोर्ट और इसके लॉ क्लर्कों ने उस कथित फ़ैसले को खोजने की बहुत कोशिश की, लेकिन उन्हें वह कहीं नहीं मिला। इस वजह से कोर्ट का कीमती समय बर्बाद हुआ।"

हाईकोर्ट ने कहा कि AI टूल का इस्तेमाल रिसर्च या खोजबीन में मदद के लिए ज़रूर किया जा सकता है; लेकिन, जिस पक्ष ने इसका इस्तेमाल किया, उसकी यह बड़ी ज़िम्मेदारी बनती है कि वह AI टूल से मिली जानकारियों और सामग्री की पूरी तरह से जांच-पड़ताल (Cross-Verify) कर ले।

हाईकोर्ट ने आगे कहा:

"कोर्ट पर बिना सोचे-समझे दस्तावेज़ों या दलीलों का ढेर लगा देना और कोर्ट को ऐसी सामग्री पढ़ने पर मजबूर करना, जो या तो बेमतलब की या असल में मौजूद ही नहीं है—इस तरह के चलन की कड़ी निंदा की जानी चाहिए और इसे शुरू में ही पूरी तरह से रोक दिया जाना चाहिए। यह कोर्ट की कोई मदद नहीं है। बल्कि, यह न्याय मिलने की प्रक्रिया में तेज़ी लाने के रास्ते में एक बड़ी रुकावट है। यह कोर्ट ऐसी हरकतों को बिल्कुल भी बर्दाश्त नहीं करेगा और इसका नतीजा जुर्माना (Costs) के रूप में भुगतना पड़ेगा। अगर कोई वकील ऐसी हरकत करते हुए पाया जाता है तो उसके खिलाफ और भी सख्त कार्रवाई की जा सकती है, जैसे कि मामले को बार काउंसिल के पास भेजना।"

जस्टिस एम.एम. सथाये ने अपीलकर्ता पर 50,000 रुपये का जुर्माना लगाया और उसे यह रकम हाईकोर्ट एम्प्लॉइज मेडिकल फंड में जमा करने का निर्देश दिया।

हालांकि, सुप्रीम कोर्ट ने उन टिप्पणियों को रिकॉर्ड से हटाने की अनुमति दी, लेकिन उसने सावधानी बरतते हुए यह भी कहा:

"हालांकि, उसने यह सफाई देने की कोशिश की कि उसने कभी उस फैसले का हवाला नहीं दिया, लेकिन फिलहाल हम उस मुद्दे पर कोई बात नहीं करेंगे। नरमी बरतते हुए, हम ऊपर बताए गए पैराग्राफ में की गई टिप्पणियों को रिकॉर्ड से हटाते हैं। फिर भी, यह सच है कि यह समस्या अब सभी कोर्ट्स में बहुत ज़्यादा फैल चुकी है—न सिर्फ भारत में, बल्कि पूरी दुनिया में। हर किसी को इस बारे में सावधान रहने की ज़रूरत है। असल में यह कोर्ट पहले से ही न्यायिक पक्ष पर इस मामले की सुनवाई कर रहा है।"

उल्लेखनीय है कि सुप्रीम कोर्ट की एक दूसरी बेंच ने भी इस मुद्दे का संज्ञान लिया। यह तब हुआ जब एक ट्रायल कोर्ट के फैसले में AI (आर्टिफिशियल इंटेलिजेंस) द्वारा तैयार किए गए नकली उद्धरणों (citations) का हवाला दिया गया।

उपर्युक्त टिप्पणियों के साथ कोर्ट ने इस SLP (विशेष अनुमति याचिका) का निपटारा किया।

सुप्रीम कोर्ट के कई जजों ने समय-समय पर कानूनी कार्यवाही का मसौदा तैयार करने में AI टूल्स के इस्तेमाल पर चिंता जताई, जिनमें अक्सर नकली उद्धरण और कोट्स शामिल होते हैं।

Case Details: HEART AND SOUL ENTERTAINMENT LTD.v. DEEPAK S/O SHIVKUMAR BAHRY|Special Leave to Appeal (C) No(s). 3090/2026