भारतीय न्यायपालिका में AI को रेगुलेट करना: संस्थागत प्रयोगों से एक राष्ट्रीय ढांचे तक

भारतीय न्यायपालिका में डिजिटल टेक्नोलॉजी के साथ प्रयोग 'ई-कोर्ट्स मिशन मोड प्रोजेक्ट' के साथ गंभीरता से शुरू हुए, जिसके तीन चरण हैं। पहला चरण (2007-2015) बुनियादी ढांचे पर केंद्रित है, जबकि दूसरे चरण (2015-2023) में 'केस एंड इंफॉर्मेशन सिस्टम 3.0' और 'नेशनल ज्यूडिशियल डेटा ग्रिड' की स्थापना के माध्यम से पूरे सिस्टम में डिजिटल परिपक्वता आई। तीसरा चरण (2023-वर्तमान) स्पष्ट रूप से केस मैनेजमेंट, कानूनी रिसर्च और अनुवाद के लिए AI, मशीन लर्निंग, ऑप्टिकल कैरेक्टर रिकग्निशन और नेचुरल लैंग्वेज प्रोसेसिंग के इस्तेमाल पर केंद्रित है। सुप्रीम कोर्ट के लिए, AI-असिस्टेड रिसर्च और सारांश के लिए SUPACE, 19 भाषाओं में बहुभाषी फैसले के अनुवाद के लिए SUVAS, रियल-टाइम ट्रांसक्रिप्शन के लिए TERES और जेनरेटिव AI कानूनी रिसर्च के लिए LegRAA जैसे टूल्स धीरे-धीरे पेश किए गए।

इस एकीकृत राष्ट्रीय ढांचे के अस्तित्व में आने से पहले देश के विभिन्न हिस्सों में हाई कोर्ट्स ने AI के प्रति अलग-अलग रुख अपनाए। केरल हाईकोर्ट ने औपचारिक AI उपयोग नीति जारी करके और अपने जिला न्यायालयों में गवाहों के ट्रांसक्रिप्शन के लिए 'अदालत AI' को अनिवार्य बनाकर सक्रिय, गवर्नेंस-प्रधान रुख अपनाया। गुजरात हाईकोर्ट ने अपनी AI नीति में काफी सतर्क दृष्टिकोण अपनाया, जिसमें काफी चिंताएं जताई गईं और अत्यधिक निर्भरता के जोखिमों और न्यायिक अखंडता को बनाए रखने की आवश्यकता पर जोर दिया गया। इन विपरीत रुख ने ठीक उस रेगुलेटरी गैप को दिखाया जिसे सुप्रीम कोर्ट के हालिया टूल्स खत्म करना चाहते हैं।

सुप्रीम कोर्ट ने नवंबर 2025 में AI और न्यायपालिका पर व्हाइट पेपर (व्हाइट पेपर) जारी किया। व्हाइट पेपर ने AI के इस्तेमाल को पूरी तरह से तकनीकी चुनौती के बजाय सैद्धांतिक गवर्नेंस चुनौती के रूप में पेश किया। इसने भारत में पहले से देखे गए एक ठोस जोखिम के रूप में 'हैलुसिनेशन' (AI द्वारा गलत जानकारी बनाना) की पहचान की, जिसमें कर्नाटक की एक ट्रायल कोर्ट में ड्राफ्टिंग की घटना, काल्पनिक उदाहरणों (precedents) के कारण वापस लिया गया इनकम टैक्स अपीलीय ट्रिब्यूनल का आदेश और ChatGPT द्वारा बनाए गए कोट्स (quotes) वाली केस फाइलिंग का हवाला दिया गया।

इसने एल्गोरिथम बायस (पक्षपात) को भी रेखांकित किया, जिसमें US COMPAS विवाद, सार्वजनिक AI टूल्स के माध्यम से गोपनीयता का नुकसान, और 'ब्लैक-बॉक्स' अपारदर्शिता की समस्या जो उचित प्रक्रिया (due process) को कमजोर करती है, जैसी चिंताओं को दिखाया गया। इसकी मुख्य सिफारिशों में शामिल हैं: AI एथिक्स कमेटियां बनाना, पब्लिक चैटबॉट के बजाय सुरक्षित इन-हाउस टूल्स को प्राथमिकता देना, जानकारी का खुलासा करना और ऑडिट ट्रेल्स बनाए रखना, सभी AI आउटपुट का अनिवार्य स्वतंत्र सत्यापन करना और न्यायिक अधिकारियों को उनके नाम से तैयार की गई AI-सहायता प्राप्त सामग्री के लिए व्यक्तिगत रूप से जिम्मेदार मानना।

अंतरराष्ट्रीय स्तर पर न्यायिक प्रणालियों में AI के इस्तेमाल को लेकर नियमों का ढांचा एक स्पष्ट सहमति दिखाता है: अदालतों में AI को मदद करनी चाहिए, फैसला कभी नहीं सुनाना चाहिए। इस संबंध में मुख्य अंतरराष्ट्रीय नियमों में शामिल हैं: UNESCO की AI नैतिकता पर सिफारिश, 2021 (194 सदस्य देशों पर लागू), OECD AI सिद्धांत, 2019 (2024 में अपडेट किए गए) और EU AI एक्ट 2024 (जो न्याय प्रशासन को 'उच्च-जोखिम' वाले क्षेत्र के रूप में वर्गीकृत करता है, जिसके लिए सबसे कड़े नियमों का पालन करना जरूरी है)। ये नियम सामूहिक रूप से पारदर्शिता, जवाबदेही, मानवीय निगरानी और पक्षपात की रोकथाम को बुनियादी और अनिवार्य शर्तों के रूप में स्थापित करते हैं।

जुलाई 2025 में जारी यूनाइटेड किंगडम के 'AI एक्शन प्लान फॉर जस्टिस' में अदालतों, ट्रिब्यूनलों, जेलों, प्रोबेशन और सहायक सेवाओं में जिम्मेदार और उचित तरीके से AI को अपनाने के लिए सरकार का दृष्टिकोण बताया गया। बाद में अक्टूबर 2025 में यूनाइटेड किंगडम ने विस्तृत गाइडलाइंस जारी कीं, जिनमें न्यायिक अधिकारियों के लिए पब्लिक AI टूल्स में गोपनीय जानकारी न डालना, किसी भी जानकारी पर भरोसा करने से पहले सटीकता की जांच करना अनिवार्य करना, और सभी AI-सहायता प्राप्त आउटपुट के लिए व्यक्तिगत जिम्मेदारी पर जोर देना शामिल था।

ब्राजील में नेशनल काउंसिल ऑफ जस्टिस ने न्यायपालिका के भीतर AI समाधानों के विकास, उपयोग और गवर्नेंस के संबंध में कुछ सिद्धांत तय किए हैं – जैसे मौलिक अधिकारों का सम्मान; उचित प्रक्रिया; मानवीय निगरानी और जोखिम-आधारित पर्यवेक्षण; पारदर्शिता, व्याख्या-योग्यता, ट्रेस करने की क्षमता और ऑडिट करने की क्षमता; पक्षपात की रोकथाम; और डेटा सुरक्षा। अपने 'सिनाप्सेस' (Sinapses) प्लेटफॉर्म के माध्यम से, ब्राजील देश भर में न्यायिक AI की निगरानी, ​​नियंत्रण और ऑडिटिंग को केंद्रीकृत करता है।

कनाडा की जुडिशियल काउंसिल स्पष्ट रूप से AI सिस्टम को निर्णय लेने का अधिकार सौंपने पर रोक लगाती है। सिंगापुर की कोर्ट यूजर गाइड AI द्वारा उत्पन्न जानकारी की सटीकता की पूरी जिम्मेदारी उस पक्ष पर डालती है जो इसे जमा करता है। सभी अधिकार क्षेत्रों में, एक सार्वभौमिक सुरक्षा उपाय है – प्रक्रिया में इंसानों की सार्थक भागीदारी (meaningful human-in-the-loop); यह केवल नाममात्र की रबर-स्टैम्प समीक्षा के लिए नहीं, बल्कि वास्तविक और गंभीर जांच-पड़ताल के लिए है।

3 जून 2026 को जारी भारत के सुप्रीम कोर्ट के 'अदालतों में आर्टिफिशियल इंटेलिजेंस के इस्तेमाल के लिए ड्राफ्ट नियम, 2026' (ड्राफ्ट AI नियम) भारत की पहली ऐसी कोशिश है, जो एक व्यापक, राष्ट्रीय और अनिवार्य न्यायिक AI गवर्नेंस फ्रेमवर्क (सिर्फ सलाह देने वाली गाइडेंस के बजाय) बनाती है। यह सुप्रीम कोर्ट, सभी हाईकोर्ट और न्यायिक काम करने वाले सभी ट्रिब्यूनल और कानूनी आयोगों पर लागू होता है। इसके मुख्य गवर्नेंस सिद्धांत इस प्रकार हैं – AI को सख्ती से न्यायिक अधिकार के अधीन और मदद करने वाला होना चाहिए; कानून, तथ्य और न्याय पर अंतिम अधिकार सिर्फ न्यायिक अधिकारियों के पास होता है; AI को भेदभाव से सक्रिय रूप से बचना चाहिए; अस्पष्ट और बिना समझाए जा सकने वाले सिस्टम की कड़ी जांच होती है और AI के इस्तेमाल की जवाबदेही उस अधिकारी की होती है जो टूल का इस्तेमाल कर रहा है।

सभी तरह के मंजूर इस्तेमाल के लिए संबंधित नामित अधिकारियों/उचित प्राधिकरण (जैसा भी मामला हो) से पहले लिखित मंज़ूरी की ज़रूरत होती है। इनमें शामिल हैं - केस मैनेजमेंट, ट्रांसक्रिप्शन, अनुवाद, कानूनी रिसर्च और सारांश बनाना और प्रशासनिक एनालिटिक्स। पूरी तरह से मना किए गए इस्तेमाल में शामिल हैं - अनिवार्य मानवीय समीक्षा के बिना एल्गोरिदम से फैसला करना, ज़मानत या बार-बार अपराध करने (Recidivism) के लिए रिस्क स्कोरिंग, नतीजे का अनुमान लगाना, कोर्ट यूज़र्स की AI से निगरानी ​​और न्यायिक विचार-विमर्श की गोपनीयता से समझौता करने वाला कोई भी इस्तेमाल। ड्राफ्ट AI नियम सुप्रीम कोर्ट में एक 'शीर्ष निकाय' (Apex Body), स्थायी समितियां और राष्ट्रीय न्यायिक पदानुक्रम के हर स्तर पर समर्पित AI सचिवालयों के साथ कोर्ट-स्तरीय AI समितियां बनाते हैं।

ड्राफ्ट AI नियम 'व्हाइट पेपर' के साथ स्पष्ट बौद्धिक निरंतरता में हैं और इसकी सिफारिशों को अनिवार्य कानूनी ताकत के साथ लागू करते हैं। दोनों इंसानी प्रधानता पर केंद्रित हैं, 'हैलुसिनेशन' (AI द्वारा गलत जानकारी देना) और मनगढ़ंत संदर्भों को ठोस जोखिम मानते हैं और अनिवार्य सत्यापन और जानकारी देने की मांग करते हैं। ड्राफ्ट AI नियम और आगे बढ़कर मना किए गए इस्तेमाल की एक विस्तृत और अनिवार्य सूची बनाते हैं; सबमिशन में AI का इस्तेमाल करने वाले पक्षों से जानकारी देने वाले सर्टिफिकेट की मांग करते हैं; और एक व्यापक राष्ट्रीय संस्थागत ढांचा बनाते हैं, जो व्हाइट पेपर में परिकल्पित नियामक ढांचे पर और आगे काम करता है।

हालांकि, अंतिम रूप देने की प्रक्रिया में चार महत्वपूर्ण कमियों पर ध्यान देने की ज़रूरत है। पहला, ऑडिट को इन-हाउस प्रक्रियाओं तक सीमित रखना और तीसरे पक्ष के साथ सोर्स कोड या आर्किटेक्चर साझा करने पर स्पष्ट रूप से रोक लगाना, उस वैश्विक सहमति के खिलाफ है जो मानती है कि सार्वजनिक विश्वास के लिए बाहरी स्वतंत्र तकनीकी समीक्षा ज़रूरी है। सख्त गोपनीयता दायित्वों के तहत काम करने वाला एक संरचित स्वतंत्र ऑडिट तंत्र शामिल किया जाना चाहिए।

दूसरा, न्यायिक प्रणालियों में AI के मना किए गए इस्तेमाल से नुकसान उठाने वालों के लिए शिकायत निवारण तंत्र अविकसित है। AI रेगुलेशन के ड्राफ्ट में AI के गलत इस्तेमाल से नुकसान उठाने वाले लोगों के लिए समय-सीमा, सबूत के मानक या मुआवज़े के बारे में कुछ नहीं कहा गया। इस कमी को दूर करने के लिए UNESCO के 'AI और कानून के शासन पर ग्लोबल टूलकिट' में दिए गए सुरक्षा उपायों को शामिल किया जाना चाहिए। इन उपायों में एल्गोरिदम से लिए गए फैसलों को चुनौती देने और इंसानी समीक्षा की मांग करने का अधिकार शामिल है।

तीसरा, समझाने की क्षमता (Explainability) के मानकों को एक सिद्धांत के तौर पर तो बताया गया, लेकिन उन्हें लागू करने का तरीका नहीं बताया गया। अधिकारों पर असर डालने वाले मामलों में इस्तेमाल होने वाले सिस्टम के लिए कम से कम तकनीकी मानक तय किए जाने चाहिए, जो US के 'नेशनल इंस्टीट्यूट ऑफ़ स्टैंडर्ड्स एंड टेक्नोलॉजी' के फ्रेमवर्क पर आधारित हों। इन मानकों में ये बातें शामिल होनी चाहिए: सिस्टम द्वारा आउटपुट के लिए कारण और सबूत देना, यूज़र्स के लिए स्पष्टीकरण को समझने लायक बनाना और यह पक्का करना कि स्पष्टीकरण असल प्रक्रिया को सही ढंग से दिखाते हों।

चौथा, ट्रेनिंग के लिए कोई अनिवार्य मानक नहीं हैं। ट्रेनिंग की ज़िम्मेदारी में पूरे न्यायिक सिस्टम के लिए कम से कम कंटेंट, फ़्रीक्वेंसी और अनुपालन की जवाबदेही तय की जानी चाहिए ताकि यह ज़रूरत सिर्फ़ कागज़ों तक ही सीमित न रहे।

AI रेगुलेशन का ड्राफ्ट एक सराहनीय और व्यापक कदम है। एल्गोरिदम से फ़ैसले लेने और रिस्क स्कोरिंग पर पूरी तरह रोक लगाने का प्रावधान सही और स्पष्ट रूप से तैयार किया गया। पहचानी गई कमियों को दूर करने के लिए ज़रूरी बदलावों के साथ भारत के फ्रेमवर्क में न्यायिक AI गवर्नेंस का एक बेहतरीन मॉडल बनने की क्षमता है, जिसे समय के साथ दुनिया के दूसरे न्यायिक सिस्टम भी अपनाना चाहेंगे।

लेखक- वरुण मेहता और आशीर्वाद नायक, सिरिल अमरचंद मंगलदास की पब्लिक पॉलिसी प्रैक्टिस में क्रमशः डायरेक्टर और सीनियर एसोसिएट हैं। ये उनके निजी विचार हैं।