SCAORA ने सुप्रीम कोर्ट के AI रेगुलेशन के ड्राफ्ट पर सुझाव दिए, जताई चिंताएं

सुप्रीम कोर्ट एडवोकेट्स-ऑन-रिकॉर्ड एसोसिएशन (SCAORA) ने अदालतों में आर्टिफिशियल इंटेलिजेंस (AI) के इस्तेमाल के लिए 2026 के ड्राफ्ट रेगुलेशन पर अपनी राय और सुझाव जस्टिस पमिदिघंटम श्री नरसिम्हा को सौंपे। वह सुप्रीम कोर्ट की आर्टिफिशियल इंटेलिजेंस कमेटी के प्रमुख हैं। एसोसिएशन ने न्यायिक व्यवस्था में AI को सावधानी से और चरणों में लागू करने का आग्रह किया।

एसोसिएशन की एग्जीक्यूटिव कमेटी ने यह रिपोर्ट सुप्रीम कोर्ट के जज जस्टिस पी.एस. नरसिम्हा और जस्टिस आलोक अराधे को सौंपी। जस्टिस नरसिम्हा ने SCAORA की कोशिशों की सराहना की और भरोसा दिलाया कि आने वाले हफ़्तों में इन सुझावों और AI रेगुलेशन के ड्राफ्ट पर विस्तार से चर्चा की जाएगी।

जून में सुप्रीम कोर्ट की आर्टिफिशियल इंटेलिजेंस कमेटी (जिसमें जस्टिस पी.एस. नरसिम्हा, जस्टिस के.वी. विश्वनाथन और जस्टिस जॉयमाल्य बागची शामिल थे) ने सुप्रीम कोर्ट में AI के इस्तेमाल से जुड़े ड्राफ्ट रेगुलेशन जारी किए थे और स्टेकहोल्डर्स से राय मांगी थी।

SCAORA ने एक AI सब-कमेटी बनाई थी। इस कमेटी ने प्रस्तावित ढांचे का हर क्लॉज़ (धारा) के हिसाब से विस्तार से विश्लेषण किया और फिर 'अदालतों में आर्टिफिशियल इंटेलिजेंस (AI) के इस्तेमाल के लिए 2026 के ड्राफ्ट रेगुलेशन पर टिप्पणियां और सुझाव' नाम से अपनी रिपोर्ट सौंपी।

रिपोर्ट के मुख्य सुझावों में से एक यह है कि जब तक पर्याप्त सुरक्षा उपाय न किए जाएं, तब तक AI सिस्टम को ऐसे कामों में नहीं लगाया जाना चाहिए, जिनका मुकदमों से जुड़े लोगों पर सीधा असर पड़ता हो। इसमें तर्क दिया गया कि आज के AI सिस्टम यह ठीक से नहीं बता सकते कि वे अपने नतीजे (आउटपुट) तक कैसे पहुंचे, इसलिए उन्हें ज़्यादा जोखिम वाले न्यायिक काम नहीं सौंपे जाने चाहिए।

रिपोर्ट में ड्राफ्ट रेगुलेशन की आलोचना की गई, क्योंकि इसमें "एक्सप्लेनेबिलिटी" (समझाने की क्षमता) की मांग की गई, जबकि साथ ही कड़ी निगरानी में अपारदर्शी (ओपेक) AI सिस्टम को लागू करने की इजाज़त भी दी गई। SCAORA के अनुसार, इससे एक विरोधाभास पैदा होता है, क्योंकि आधुनिक जेनरेटिव AI सिस्टम जटिल न्यूरल नेटवर्क के ज़रिए काम करते हैं, जिनकी अंदरूनी कार्यप्रणाली को इंसान ठीक से समझ या सत्यापित नहीं कर सकते। इसलिए यह ज़्यादा जोखिम वाले कामों में अपारदर्शी या "ब्लैक बॉक्स" AI सिस्टम को लागू करने पर रोक लगाने का सुझाव देती है।

SCAORA "ब्लैक बॉक्स पैराडॉक्स" पर भी ज़ोर देती है। उसका कहना है कि हालांकि ड्राफ्ट रेगुलेशन में AI का इस्तेमाल करने वाले जजों और कोर्ट अधिकारियों पर अंतिम जवाबदेही तय की गई है, लेकिन इसमें यह नहीं बताया गया कि जब AI की सोचने की प्रक्रिया ही समझ से बाहर हो, तो ऐसी जवाबदेही को असल में कैसे लागू किया जा सकता है। यह रिपोर्ट AI हैलुसिनेशन (AI द्वारा गलत या मनगढ़ंत जानकारी देना) के बारे में भी चेतावनी देती है।

इसमें पूजा रमेश सिंह बनाम जम्मू-कश्मीर बैंक लिमिटेड मामले में सुप्रीम कोर्ट के हालिया फैसले का ज़िक्र किया गया, जिसमें कोर्ट ने नकली या AI से बने मनगढ़ंत कानूनी उदाहरणों (precedents) के प्रति "ज़ीरो-टॉलरेंस" (सख्त) रवैया अपनाया। रिपोर्ट में कोर्ट की प्रक्रियाओं में इस्तेमाल होने वाले सभी AI-जनरेटेड आउटपुट के लिए "ह्यूमन-इन-द-लूप" और "ह्यूमन-ऑन-द-लूप" जैसे ज़रूरी सुरक्षा उपायों की सिफारिश की गई।

SCAORA ऑटोमेशन बायस (मशीन के फैसलों पर आँख बंद करके भरोसा करने की प्रवृत्ति) के बारे में भी आगाह करती है। उसका कहना है कि ज़्यादा काम के बोझ तले दबे जज और कोर्ट के कर्मचारी मशीन से मिले नतीजों पर ज़्यादा भरोसा करने लग सकते हैं। रिपोर्ट में कहा गया कि AI की मदद से लिए गए प्रशासनिक फैसले - जैसे ज़रूरी मामलों को लिस्ट करना या फाइलिंग में कमियों की पहचान करना - भले ही प्रशासनिक काम माने जाएं, लेकिन इनसे मुक़दमा लड़ने वालों के अधिकारों पर काफ़ी असर पड़ सकता है। इसलिए यह सुझाव देती है कि ऐसे प्रशासनिक कामों में भी AI के इस्तेमाल को सीमित किया जाए जो केस के नतीजों पर बड़ा असर डालते हैं।

डेटा गवर्नेंस के मामले में रिपोर्ट विदेशी टेक्नोलॉजी कंपनियों के कंट्रोल वाले AI इंफ्रास्ट्रक्चर के ज़रिए न्यायिक डेटा की प्रोसेसिंग पर चिंता जताती है। यह सिफारिश करती है कि कोर्ट का डेटा देश के अपने (सॉवरेन) इंफ्रास्ट्रक्चर के भीतर ही रहना चाहिए। साथ ही यह सुप्रीम कोर्ट द्वारा पहले से लागू किए गए AI सिस्टम - जैसे SUPACE, SUVAS, रियल-टाइम ट्रांसक्रिप्शन सर्विस, AI-असिस्टेड ई-फाइलिंग और SuSahayak - का तुरंत ऑडिट करने की मांग करती है।

एसोसिएशन ड्राफ्ट रेगुलेशन (नियमों के मसौदे) के संवैधानिक आधार पर भी सवाल उठाती है। उसका कहना है कि इनमें यह साफ़ नहीं किया गया कि इन्हें अनुच्छेद 145 या अनुच्छेद 142 से अधिकार मिला है, या इन्हें मॉडल स्टैंडर्ड (आदर्श मानक) के तौर पर बनाया गया। एसोसिएशन का तर्क है कि भले ही अनुच्छेद 145 सुप्रीम कोर्ट को अपनी कार्यप्रणाली और प्रक्रिया के नियम बनाने का अधिकार देता है, लेकिन यह कोर्ट को हाईकोर्ट पर बाध्यकारी नियम थोपने का अधिकार नहीं देता, क्योंकि हाई कोर्ट के पास नियम बनाने की अपनी स्वतंत्र शक्तियाँ होती हैं।

रिपोर्ट में AI गवर्नेंस बॉडीज़ में बार (वकीलों के संगठन) के अपर्याप्त प्रतिनिधित्व, संस्थागत ज़िम्मेदारियों के ओवरलैप होने और बहुत ज़्यादा नौकरशाही वाले स्ट्रक्चर को लेकर भी चिंता जताई गई। इसमें AI के इस्तेमाल से जुड़े गवर्नेंस, ट्रेनिंग और संस्थागत निगरानी में 'एडवोकेट्स-ऑन-रिकॉर्ड' की ज़्यादा भागीदारी की सिफारिश की गई।

इसकी मुख्य सिफारिशों में SCAORA ने अदालतों में AI को सावधानीपूर्वक और चरणबद्ध तरीके से लागू करने, ज़्यादा जोखिम वाले न्यायिक कामों में 'ब्लैक-बॉक्स' AI सिस्टम पर रोक लगाने, AI से बने आउटपुट पर इंसानी निगरानी को अनिवार्य करने, डेटा संप्रभुता के लिए मज़बूत सुरक्षा उपाय करने, पूरे बार के लिए AI टूल्स तक पारदर्शी पहुँच सुनिश्चित करने और एक ऐसा रेगुलेटरी फ्रेमवर्क बनाने की मांग की, जो तेज़ी से टेक्नोलॉजी अपनाने के बजाय न्यायिक स्वतंत्रता और मुक़दमेबाज़ों के अधिकारों की सुरक्षा को प्राथमिकता दे।

AI सब-कमेटी की अध्यक्षता SCAORA के प्रेसिडेंट देवव्रत ने पदेन (ex officio) तौर पर की, जबकि वाइस-प्रेसिडेंट निखिल जैन और ऑनरेरी सेक्रेटरी युगंधरा पवार झा ने को-चेयरपर्सन के तौर पर काम किया। एडवोकेट-ऑन-रिकॉर्ड डॉ. चारू माथुर को एडवाइज़र नियुक्त किया गया, जबकि पल्लवी बरुआ ने सीनियर सदस्य के तौर पर एग्जीक्यूटिव कमेटी का प्रतिनिधित्व किया। कमेटी को रजत मित्तल ने बुलाया था और एग्जीक्यूटिव सदस्य निवेदिता नायर, डॉ. मीनाक्षी कालरा और अनस तनवीर भी इस पैनल में शामिल थे।