आयकर अपीलीय ट्रिब्यूनल की बेंगलुरु पीठ ने हाल ही में काल्पनिक निर्णयों पर भरोसा करते हुए गलत तरीके से आदेश पारित करने के लिए सुर्खियां बटोरीं, जो तथ्यात्मक और कानूनी रूप से मामले के लिए अनुपयुक्त थे।
ये निर्णय - एक मद्रास हाईकोर्ट से और तीन सुप्रीम कोर्ट से - दो पूरी तरह से अस्तित्वहीन थे, एक में एक उद्धरण था जिसके कारण एक असंबंधित निर्णय हुआ, और चौथा एक ऐसे निर्णय से संबंधित था जो विचाराधीन कानूनी और तथ्यात्मक मुद्दों से पूरी तरह अप्रासंगिक था।
हालांकि आदेश को "अनजाने में हुई त्रुटियों" के कारण वापस ले लिया गया है, लेकिन इसने कानूनी शोध में एआई पर अंधाधुंध निर्भरता रखने की व्यापक चिंता को रेखांकित किया है और उपयोगकर्ता की अपेक्षाओं से मेल खाने के लिए विश्वसनीय लेकिन काल्पनिक जानकारी उत्पन्न करने की इसकी प्रवृत्ति को उजागर किया है - एक घटना, जिसे टिप्पणीकारों ने 'एआई भ्रम' करार दिया है।
चूंकि कानूनी दुनिया पेशे की कठोर मांगों के साथ एआई की बहुमुखी क्षमताओं को सामंजस्य बनाने का प्रयास करती है, इसलिए वकीलों और कानूनी फर्मों को एआई मतिभ्रम और मुव्विकलों, बेंच और बार के प्रति उनके कर्तव्य पर पड़ने वाले संभावित प्रभावों के बारे में सतर्क रहना चाहिए।
एआई मतिभ्रम क्या हैं?
एआई मतिभ्रम एआई द्वारा उत्पन्न "गलत या भ्रामक परिणाम" हैं, जो आम तौर पर कई कारकों के कारण होते हैं, जिनमें "अपर्याप्त प्रशिक्षण डेटा, मॉडल द्वारा की गई गलत धारणाएं, या मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा में पूर्वाग्रह" शामिल हैं।
कानूनी पेशे के संदर्भ में, एआई मतिभ्रम, कम से कम, निम्नलिखित गलत परिणामों को जन्म दे सकता है:
· परिणाम 1: एआई कानून का सटीक वर्णन कर सकता है जबकि साथ ही साथ गैर-मौजूद न्यायिक मिसालें उत्पन्न कर सकता है या काल्पनिक केस कानून बना सकता है (जो प्रतीत होता है कि वैध उद्धरणों के साथ हो सकता है या नहीं भी हो सकता है) जो वास्तव में इसके दावों का समर्थन नहीं करते हैं।
· परिणाम 2: एआई नए कानूनी सिद्धांत या न्यायालय प्रक्रियाएं बना सकता है जो किसी विशेष क्षेत्राधिकार में मौजूद नहीं हैं या लागू नहीं हैं।
· परिणाम 3: एआई केस कानूनों, नियमों या अधीनस्थ विधानों को गलत तरीके से सारांशित कर सकता है, जिससे भ्रामक व्याख्याएं हो सकती हैं।
· परिणाम 4: एआई अप्रचलित या निरस्त कानूनों को गलत तरीके से लागू कर सकता है, या यहां तक कि मौजूदा कानूनी प्रावधानों का सही संदर्भ भी दे सकता है, लेकिन दोषपूर्ण कानूनी निष्कर्ष पर पहुँच सकता है।
विशेष रूप से, ये परिणाम उन क्षेत्रों में विशेष रूप से स्पष्ट हैं जहां कानून निरंतर परिवर्तनशील है, जिससे एआई के लिए विश्वसनीय जानकारी प्रदान करना और भी कठिन हो जाता है।
स्टैनफोर्ड के एक अध्ययन ने तीन महत्वपूर्ण चुनौतियों की पहचान की है जो एआई को कानूनी शोध में एक प्रभावी और भरोसेमंद उपकरण बनने से रोकती हैं।
सबसे पहले, कई एआई प्रशिक्षण डेटासेट में स्पष्ट और सीधे उत्तर वाले प्रश्न होते हैं जो स्रोत डेटाबेस में पाए जा सकते हैं। हालांकि, कानूनी प्रश्न मानक से इस हद तक भिन्न होते हैं कि उनके पास शायद ही कभी सीधे या स्पष्ट उत्तर होते हैं। कानून व्याख्या के लिए खुले हो सकते हैं; व्यक्तिगत निर्णयों में परस्पर विरोधी निर्णय हो सकते हैं, और कानूनी तर्क अक्सर मामले के तथ्यात्मक संदर्भ पर निर्भर करता है। इस प्रकार, डेटासेट से कौन सी जानकारी प्राप्त करनी है और कौन सा उत्तर उत्पन्न करना है, यह तय करना कानूनी सेटिंग में एक चुनौतीपूर्ण कार्य हो सकता है।
दूसरा, अधिकांश एआई सिस्टम "किसी प्रकार की पाठ्य समानता" के आधार पर प्रासंगिक दस्तावेज़ों की पहचान करते हैं। जबकि ये अन्य क्षेत्रों में काम कर सकते हैं, कानून में, यह एआई सिस्टम को उन स्रोतों से प्राप्त उत्तरों की पहचान करने और उत्पन्न करने के लिए प्रेरित कर सकता है जो पाठ्य रूप से प्रासंगिक प्रतीत होते हैं लेकिन वास्तव में, "अप्रासंगिक या विचलित करने वाले" होते हैं।
तीसरा, कानूनी पाठ उत्पन्न करना या कानूनी दस्तावेजों का सारांश बनाना एक जटिल कार्य है जो सरल पाठ पुनर्प्राप्ति से परे है। ऐसी गतिविधियों के लिए वकीलों को प्रासंगिक कानूनों पर अपने पहले से मौजूद कमांड पर भरोसा करने की आवश्यकता होती है ताकि वे उचित कानूनी संदर्भ को ध्यान में रखते हुए विभिन्न पाठों से तथ्यों, होल्डिंग्स और नियमों को गंभीरता से संश्लेषित कर सकें। एक प्रभावी एआई सिस्टम से सटीक और विश्वसनीय प्रतिक्रियाएं उत्पन्न करने के लिए इन सूक्ष्म विश्लेषणात्मक बिंदुओं का अनुकरण करने की अपेक्षा की जाएगी।
हालांकि, इन चुनौतियों से कानूनी समुदाय को अपने दैनिक कार्यों में एआई को अपनाने से नहीं रोकना चाहिए। जैसा कि मैंने पहले तर्क दिया है, एआई एक दुर्जेय सहयोगी हो सकता है - बशर्ते इसका उपयोग जिम्मेदार तरीके से किया जाए। यह मुझे लेख के अगले भाग पर ले जाता है, जहां मैं एआई मतिभ्रम से उत्पन्न जोखिमों को दूर करने में वकीलों और कानूनी फर्मों के कर्तव्य और जिम्मेदारी की जांच करूँगा।
एआई मतिभ्रम से उत्पन्न होने वाली जिम्मेदारी
अभी तक, भारतीय न्यायालयों को एआई मतिभ्रम और वकीलों और कानूनी फर्मों द्वारा अपने मुवक्किलों और न्यायालय के प्रति साझा की जाने वाली जिम्मेदारी के लिए उनके निहितार्थों पर निर्णय लेने का अवसर नहीं मिला है।
हालांकि, स्टेफ़नी वड्सवर्थ और मैथ्यू वड्सवर्थ बनाम वॉलमार्ट इंक और जेटसन इलेक्ट्रिक बाइक, एलएलसी (जिसे आगे "स्टेफ़नी" के रूप में संदर्भित किया गया है) के मामले में, व्योमिंग जिले के लिए यूएस जिला न्यायालय ने हाल ही में 24.02.2025 को एक आदेश पारित किया, जो सीधे तौर पर एआई मतिभ्रम और कानूनी पेशेवरों के संबंधित कर्तव्यों से जुड़ा हुआ है।
संक्षेप में, मामले के तथ्य इस प्रकार हैं:
06.02.2025 को, न्यायालय ने तीन प्रतिवादियों,आर1, आर 2 और आर3 - सभी वकीलों के खिलाफ गैर-मौजूद मामलों का हवाला देने के लिए "कारण बताने का आदेश" जारी किया, जो कि लिमिन में प्रस्ताव में हैं।
प्रतिवादियों ने सामूहिक रूप से स्वीकार करते हुए कि उद्धृत मामले काल्पनिक थे और एआई भ्रम का परिणाम थे, निम्नलिखित प्रतिक्रिया प्रस्तुत की:
· आर1 ने आर2 के निर्देशन में कार्य करते हुए, अपने लॉ फर्म के इन-हाउस डेटाबेस एआई प्लेटफ़ॉर्म पर भरोसा करते हुए प्रस्तावों का मसौदा तैयार किया, जिसने गैर-मौजूद निर्णय उत्पन्न किए। आर1 ने निर्णय की सामग्री को सत्यापित करने की जहमत नहीं उठाई।
· आर2 की मसौदा तैयार करने की प्रक्रिया में सीमित भागीदारी थी, क्योंकि उसने केवल यह सुझाव दिया था कि उनके मुवक्किल के बयान के दौरान इस्तेमाल किए गए एक शब्द को प्रस्तावों के अंतिम संस्करण में शामिल नहीं किया जाए।
· आर3 जो इस मामले में स्थानीय वकील था, प्रस्तावों के प्रारूपण में बिल्कुल भी शामिल नहीं था।
· आर2 और आर3 दोनों को ही पूर्व दाखिल की समीक्षा करने के लिए प्रस्तावों की प्रतियां प्रदान नहीं की गईं। हालांकि, उन्होंने फिर भी प्रस्तावों के निचले भाग में अपना ई-हस्ताक्षर चिपका दिया।
· आर2 और आर3 ने आर1 की प्रतिष्ठा और अनुभव पर भरोसा किया, अगर उसने तथ्यों और कानून की उचित जांच करने का कर्तव्य पूरा किया होता।
हालांकि, न्यायालय इन प्रस्तुतियों से सहमत नहीं था। इसके बजाय, उसने माना कि प्रतिवादियों के पास दस्तावेज़ को पढ़ने और मौजूदा कानूनों की "उचित जांच करने" की "गैर-प्रत्यायोजित जिम्मेदारी" थी। एक सामान्य नियम के रूप में, वकील एक दूसरे पर आंख मूंदकर भरोसा नहीं कर सकते। यदि कोई वकील किसी अन्य को दस्तावेज़ पर हस्ताक्षर करने की अनुमति देता है, तो उसमें निहित तथ्यों या कानून की समीक्षा किए बिना, वे "राज्य के नैतिक नियम" का उल्लंघन कर रहे हैं।
एआई द्वारा जनित सूचना की सत्यता की जांच करने की उपेक्षा करके, प्रतिवादियों ने न केवल न्यायालय का बहुमूल्य समय बरबाद किया, बल्कि अपने मुवक्किल का समय और पैसा भी बरबाद किया, जिससे अंततः उन्हें "योग्य प्रस्ताव दायर करने का अवसर" से वंचित होना पड़ा।
न्यायालय ने आगे कहा कि इस तरह के आचरण से "न्यायाधीशों और न्यायालयों की प्रतिष्ठा को संभावित नुकसान पहुंचता है, जिनके नाम फर्जी राय के लेखकों के रूप में गलत तरीके से इस्तेमाल किए जाते हैं और काल्पनिक आचरण वाले पक्ष की प्रतिष्ठा को नुकसान पहुंचता है।"
यह बदले में कानूनी पेशे और न्यायिक प्रणाली के बारे में संदेह को बढ़ावा देता है, जबकि भविष्य के वादियों को "न्यायिक फैसले की प्रामाणिकता पर संदेह जताकर उसे चुनौती देने" के लिए लुभाने की एक खतरनाक मिसाल कायम करता है।
परिणामस्वरूप, आर1 की प्रो हैक वाइस स्थिति (एक अस्थायी विशेष लाइसेंस जो किसी बाहरी राज्य के वकील को उनके लाइसेंस प्राप्त अधिकार क्षेत्र के बाहर अभ्यास करने की अनुमति देता है) को रद्द कर दिया गया, और उस पर $3,000 का जुर्माना लगाया गया, जबकि आर2 और आर3 पर, जिन्होंने मसौदा तैयार करने में कोई भूमिका नहीं निभाई थी, प्रत्येक पर $1,000 का जुर्माना लगाया गया।
दिलचस्प बात यह है कि न्यायालय ने इन चूकों के लिए आर1 + आर2 और आर3 की कानूनी फर्मों को संयुक्त रूप से जिम्मेदार नहीं ठहराया। पूर्व कानूनी फर्म ने सबूत पेश किए थे, जिसमें दिखाया गया था कि उसने अपने कर्मचारियों को कभी भी अपने इन-हाउस एआई सिस्टम का उपयोग करने के लिए प्रशिक्षित नहीं किया था, जिस तरह से आर1 ने किया था।
इसके अतिरिक्त, फर्म ने प्रस्तुत किया कि उसने एक सुधारात्मक सुरक्षा लागू की, जिसके तहत उपयोगकर्ताओं को "किसी भी एआई-जनरेटेड जानकारी का उपयोग करने या उस पर भरोसा करने से पहले स्वतंत्र रूप से सत्यापित करना आवश्यक था।" इसके विपरीत, बाद की कानूनी फर्म को उत्तरदायी नहीं ठहराया गया, क्योंकि आर3 ने न तो अपने अभ्यास में एआई का उपयोग किया और न ही प्रस्तावों का मसौदा तैयार करने में भाग लिया।
हालांकि यह किसी भारतीय न्यायालय द्वारा लिखा गया निर्णय नहीं है, लेकिन स्टेफ़नी ने एआई द्वारा संचालित युग में कानूनी समुदाय की बढ़ती जिम्मेदारियों पर विकसित हो रहे विमर्श में बहुत ज़रूरी स्पष्टता लाई है।
चूंकि भारतीय कानून फर्म तेजी से इन-हाउस एआई सिस्टम को अपना रहे हैं, और सुप्रीम कोर्ट द्वारा हाल ही में एसएलपी में उद्धृत तथ्यों और कानूनों की सत्यता का पता लगाने के लिए एक वकील-ऑन-रिकॉर्ड की गैर-प्रत्यायोजित जिम्मेदारी पर जोर देने के मद्देनज़र,[19] स्टेफ़नी में की गई टिप्पणियां भारत में उतनी ही प्रासंगिक हैं जितनी कि वे संयुक्त राज्य अमेरिका में हैं। इस प्रकार, स्पेक्ट्रम के सभी कानूनी पेशेवरों के लिए इसके निहितार्थों और इसके द्वारा रेखांकित जिम्मेदारियों के प्रति सचेत रहना समझदारी होगी।
लेखक नेहानशु राव हैं। विचार व्यक्तिगत हैं।