सत्य, विश्वास और प्रौद्योगिकी: AI मतिभ्रम के युग में कानूनी व्यवसाय

जेनरेटिव आर्टिफिशियल इंटेलिजेंस (जेएनएआई) के आगमन ने लार्ज लैंग्वेज मॉडल (एलएलएम) को प्रौद्योगिकी के साथ मनुष्यों के बातचीत करने के तरीके में पूरी तरह से क्रांति लाने में सक्षम बनाया है। आबादी के विभिन्न क्षेत्रों के बीच चैटजीपीटी, जेमिनी और ग्रोक जैसे मॉडलों की अपार लोकप्रियता इन मॉडलों के हमारे दैनिक जीवन पर पड़ने वाले व्यक्तिगत और सामाजिक प्रभाव को रेखांकित करती है। विविध पृष्ठभूमि के लोग अब विभिन्न कार्यों को करने के लिए इन मॉडलों पर बहुत अधिक भरोसा करते हैं।

ओपनएआई के अनुसार, 2020 के मध्य तक, हर हफ्ते 700 मिलियन से अधिक सक्रिय चैटजीपीटी उपयोगकर्ता हैं। चैटजीपीटी का उपयोग व्यक्तिगत सलाह लेने से लेकर उच्च-क्रम की समस्या-समाधान तक है। अब यह तेजी से स्पष्ट हो रहा है कि जेनरेटिव एआई का उत्पादकता, समय प्रबंधन और नवाचार पर सकारात्मक प्रभाव पड़ता है।

हालांकि, हैकनी की गई कहावत पर भरोसा करने के लिए, जो कुछ भी चमकता है वह सोना नहीं है। लार्ज लैंग्वेज मॉडल (एलएलएम) के दायरे के जनरेटिव एआई के मामले में, उनकी चमक कभी-कभी सिर्फ एक और मृगतृष्णा हो सकती है। विचाराधीन मृग एआई मतिभ्रम की घटना से संबंधित है। उन मनुष्यों की तरह जिन्होंने वास्तविकता से संपर्क खो दिया है, अब तेजी से मतिभ्रम कर रहे हैं, या अन्य शब्दों में, नकली, फर्जी और विकृत जानकारी पैदा कर रहे हैं।

हालांकि यह एक ऐसा मुद्दा है जो हर पेशे को नकारात्मक रूप से प्रभावित करता है, मेरा दृढ़ विश्वास है कि कानूनी बिरादरी के लिए, एआई मतिभ्रम एक अनूठा खतरा पैदा करेगा। इसलिए यह पोस्ट इस बात की जांच करेगी कि एआई मतिभ्रम कुछ प्रमुख न्यायिक निर्णयों का विश्लेषण करके कानूनी पेशे को नकारात्मक रूप से कैसे प्रभावित कर सकता है, और अंत में उन तरीकों का पता लगा सकता है जिनके द्वारा कानूनी बिरादरी मतिभ्रम एआई के बीच नेविगेट कर सकती है।

क्या एआई हॉलुसिनेट या मनगढ़ंत बातें करता है?

यद्यपि एआई मतिभ्रम की कोई सार्वभौमिक रूप से सहमत परिभाषा नहीं है, कई शोध कार्यों ने इस घटना की प्रकृति और दायरे का पता लगाया है। एक पेपर एआई मतिभ्रम को एक ऐसी स्थिति के रूप में परिभाषित करता है जिसमें एआई चैटबॉट "प्रश्नों के जवाब में काल्पनिक, गलत या अप्रमाणित जानकारी" का उत्पादन करता है। एक एआई जिसने झूठ को मतिभ्रमित किया है या झूठे बयानों को सच्चाई के रूप में प्रस्तुत करता है, लेकिन एक पेपर अब मतिभ्रम को बुलशिटिंग का एक रूप मानता है।

लेखकों का तर्क है कि झूठ और सत्य दर्शन के क्षेत्र से संबंधित हैं, और एक मशीन के लिए मतिभ्रम जैसे मानव जैसी गुणवत्ता को जिम्मेदार ठहराना मानवरूपता का एक और रूप है। एआई में मानव जैसी गुणवत्ता को स्पष्ट रूप से अस्वीकार करके, उन्होंने अब " मनगढंत" शब्द गढ़ा है। मानव मनोविज्ञान में, " मनगढंत " तब होता है जब किसी की स्मृति में एक अंतर होता है और मस्तिष्क दूसरों को धोखा देने के इरादे के बिना बाकी हिस्सों में दृढ़ता से भर जाता है। लेखकों का तर्क है कि यह एआई से भ्रामक जानकारी को समझाने का एक अधिक प्रभावी तरीका है, क्योंकि "रचनात्मक अंतर भरने का सिद्धांत काम पर है"

जबकि एक अन्य शोधकर्ता 'मतिभ्रम'शब्द को 'फैब्रिकेशन' के साथ बदलने की मांग कर रहा है, क्योंकि यह सटीक रूप से कैप्चर करता है कि एआई वास्तव में क्या कर रहा है। सही शब्दावली को अपनाने के आसपास की समकालीन बहसों के बावजूद, इस पेपर के संदर्भ के लिए, यह कहा जा सकता है कि एक एआई को मतिभ्रम, मूर्खतापूर्ण या भ्रमित करने के लिए कहा जाता है जब यह बिना किसी सत्यापन और पूर्ण विश्वास के साथ झूठी, गलत, गलत या विकृत जानकारी उत्पन्न करता है। इसलिए, विकृत जानकारी एक एआई की पहचान है जिसने मतिभ्रमित कर दिया है। यदि एआई अब मतिभ्रम, मूर्खतापूर्ण या भ्रमित कर सकता है, तो कानूनी पेशे के लिए इसका क्या मतलब है?

कानूनी पेशे में विकृत जानकारी

कानूनी पेशा वह है जो सूचना पुनर्प्राप्ति पर बहुत अधिक निर्भर करता है। कानूनी बिरादरी का प्रत्येक सदस्य दैनिक रूप से ऐसी जानकारी के निष्कर्षण से जुड़ा होता है जिसे ऑनलाइन और ऑफ़लाइन दोनों संसाधनों से एकत्र किया जाना चाहिए। जबकि कानूनी बिरादरी ने हमेशा अपने लाभ के लिए सूचना प्रौद्योगिकी (वेस्टलॉ और लेक्सिसनेक्सिस जैसे ऑनलाइन संसाधनों) का लाभ उठाया है, जेनएआई क्रांति ने कानूनी पेशेवरों के लिए एक वरदान और एक अभिशाप दोनों प्रस्तुत किया है।

एक वरदान के रूप में, चैटजीपीटी जैसे एलएलएम ने वकीलों को कम समय में बड़ी मात्रा में मामले से संबंधित जानकारी उत्पन्न करने में सक्षम बनाया है और जटिल मामले कानूनों को संक्षेप में प्रस्तुत करने, कानूनी तर्कों के निर्माण और याचिकाओं को संपादित करने में एक सहायक शोध सहायक भी रहे हैं। हालांकि, दूसरी ओर, इसकी अपमानजनक प्रकृति ऐसे मामलों में सामने आई है जैसे वकील फर्जी और फर्जी मामले जमा करते हैं, और याचिकाओं में विकृत ग्रंथ सूची का हवाला देते हैं। वर्तमान में, कानूनी परिदृश्य को जेएनएआई के संबंध में एक अनूठी चुनौती का सामना करना पड़ता है, जो विशेष रूप से नकली और फर्जी उद्धरणों के प्रसार से संबंधित है।

एआई मतिभ्रमों के लिए न्यायपालिका का दृष्टिकोण

एआई-जनित जानकारी को सत्यापित करने के लिए वकीलों के कर्तव्य पर सबसे शुरुआती फैसलों में से एक 2023 में न्यूयॉर्क के दक्षिणी जिले के लिए संयुक्त राज्य जिला न्यायालय द्वारा माता बनाम एवियन्का इंक (2023) में दिया गया था। अदालत को एक वकील की दलीलों में नकली मामले के उद्धरणों की उपस्थिति का सामना करना पड़ा। हालांकि वकील ने इन उद्धरणों को उत्पन्न करने के लिए पूरी तरह से चैटजीपीटी पर भरोसा किया था, लेकिन न्यायाधीश ने इसे अनुचित नहीं माना जब वकील एक लोकप्रिय और विश्वसनीय कृत्रिम बुद्धिमत्ता उपकरण का उपयोग करते हैं।

हालांकि, इसका मतलब यह नहीं है कि न्यायाधीश ने वकीलों को जेनएआई का उपयोग करने के लिए एक मुफ्त पास दिया। न्यायाधीश के अनुसार, वकील का कर्तव्य है कि वह अपनी फाइलिंग की सटीकता सुनिश्चित करे, जो वकीलों को सौंपी गई गेटकीपिंग भूमिका है। अदालत ने वकीलों के नकारात्मक परिणाम पर भी प्रकाश डाला, केवल समय की बर्बादी, लेखक की प्रतिष्ठा क्षति, जिन्हें गलत तरीके से उद्धृत किया गया था और "कानूनी पेशे के बारे में निंदकवाद" को बढ़ावा देने में, केवल मतिभ्रमित जानकारी की नकल करने वाले वकीलों के नकारात्मक परिणाम पर भी प्रकाश डाला।

2025 में दिए गए एआई-जनित नकली मामले उद्धरणों पर हाल ही में अमेरिकी फैसले में, ओक्लाहोमा के पूर्वी जिले के जिला न्यायालय ने फैसला सुनाया कि एक वकील का कर्तव्य मानव दोषसिद्धि के साथ एक याचिका दायर करना है और काव्यात्मक रूप से कहा कि "जनरेटिव तकनीक शब्दों का उत्पादन कर सकती है, लेकिन यह उन्हें विश्वास नहीं दे सकती है। यह जो कुछ भी लिखता है उसके लिए साहस, ईमानदारी, सच्चाई या जिम्मेदारी नहीं दे सकता है। यह उस वकील का पवित्र कर्तव्य बना हुआ है जो पृष्ठ पर हस्ताक्षर करता है।

न्यायाधीश ने तब मनगढ़ंत मामले कानूनों, गलत मामलों, काल्पनिक कानून के उद्धरण और यहां तक कि भ्रामक कानूनी बयानों के मसौदे को जेनएआई के अनैतिक उपयोग के उदाहरणों के रूप में पहचाना। इस मामले से, यह बहुत स्पष्ट है कि न्यायालयों ने एआई के उपयोग को एक गलत कार्य के रूप में नहीं माना, बल्कि इसके बजाय बिना सत्यापन के चैटजीपीटी पर पूरी तरह से भरोसा करने के वकील के प्रवेश को एक वकील के मानव मन के आवेदन की कमी के उदाहरण के रूप में माना।

दोनों मामलों में, न्यायाधीशों ने समान रूप से फैसला सुनाया। अदालत ने नकली मामले कानून बनाने के लिए जेएनएआई के उपयोग के बारे में जानकारी को रोकने में वकीलों द्वारा दिखाए गए व्यक्तिपरक बुरे विश्वास के लिए प्रतिबंधों के रूप में मौद्रिक दंड का आदेश दिया। लेकिन 2025 के फैसले में, न्यायाधीश ने विशेष रूप से फैसला सुनाया कि लगाए गए प्रतिबंध विशुद्ध रूप से पुनर्स्थापनात्मक प्रकृति के हैं और वकीलों को दंडित करने का इरादा नहीं है।

इसके अलावा, न्यायाधीश ने देखा कि वकीलों ने सिविल प्रक्रिया के संघीय नियमों के नियम 11 (बी) का उल्लंघन किया था, जिसमें कहा गया है कि "एक वकील या गैर-प्रतिनिधित्व वाली पार्टी यह प्रमाणित करती है कि परिस्थितियों में उचित जांच के बाद गठित व्यक्ति के ज्ञान, जानकारी और विश्वास का सबसे अच्छा हिस्सा है। नियम 11 (बी) को पढ़कर, न्यायाधीश ने सही ढंग से कहा कि एक उचित जांच को एक कृत्रिम इकाई को नहीं सौंपा जा सकता है, और यह वह होनी चाहिए जो केवल मानव निर्णय द्वारा की जानी चाहिए। एक कदम आगे बढ़ते हुए, न्यायाधीश ने वकीलों को यह प्रमाणित करने के लिए अपनी दलीलों में संशोधन करने का भी आदेश दिया कि प्रत्येक उद्धृत मामले और कानून की सटीकता निर्धारित करने के लिए एक सत्यापन और समीक्षा की गई थी, जिसके बाद सत्यापन का एक हस्ताक्षरित प्रमाण पत्र था।

आगे की सड़क: निरोध, सत्यापन और शाश्वत सतर्कता

भारत में, आर्टिफिशियल इंटेलिजेंस का नकारात्मक प्रभाव अब अदालत कक्षों में महसूस किया गया है। तीन मामलों में, हाईकोर्ट उन याचिकाओं में उद्धृत मामले कानूनों को खोजने के लिए चौंक गए जो वास्तव में कभी मौजूद नहीं थे जो एआई मतिभ्रम का एक स्पष्ट मामला है। एक बार फिर, भारतीय न्यायपालिका ने वकीलों को यह भी याद दिलाया कि वे एआई-जनित जानकारी पर निर्विवाद रूप से भरोसा न करें, लेकिन वकीलों से ऐसी जानकारी की प्रामाणिकता को क्रॉस-चेक और मान्य करने का आग्रह किया। वर्तमान में, एक ऑनलाइन डेटाबेस दुनिया भर में कुल 508 एआई मतिभ्रम मुकदमेबाजी की रिपोर्ट करता है। चैटजीपीटी जैसे एलएलएम संभावित उपयोगकर्ताओं को त्रुटियां करने की अपनी प्रवृत्ति के बारे में चेतावनी देने के बावजूद, यह स्पष्ट प्रतीत होता है कि एआई मतिभ्रमित मुकदमों की प्रवृत्ति भविष्य में बढ़ती रहेगी।

कानूनी पेशे और इसमें शामिल सभी लोगों के लिए, इसके लिए तत्काल आत्मनिरीक्षण की आवश्यकता है। इसकी शुरुआत उन वकीलों से होनी चाहिए जिन्हें निस्संदेह अपने मुवक्किलों और अदालतों के प्रति अपने कर्तव्य का पूरे दिल से पालन करना चाहिए। एआई मतिभ्रम के युग में, सच्चा होने और उचित परिश्रम करने के कर्तव्य का वकीलों द्वारा सचेत रूप से अभ्यास किया जाना चाहिए, खासकर जब याचिकाओं का मसौदा तैयार किया जाता है और अदालत में बयान देते हैं। राज्य और नियामक निकायों, विशेष रूप से बार काउंसिलों को नीतियों का मसौदा तैयार करने और उन कानूनों में संशोधन करने में कानूनी बिरादरी की सक्रिय रूप से सहायता करनी चाहिए जो विशेष रूप से मतिभ्रमपूर्ण जानकारी पर भरोसा करने के परिणामों को संबोधित करते हैं।

जब तक नियामक निकाय और न्यायालय एक स्पष्ट मंजूरी नहीं देते हैं, तब तक कोई निवारक प्रभाव नहीं होता है। हालांकि विभिन्न अमेरिकी अदालतों ने वकीलों को फटकार लगाई है और यहां तक कि मतिभ्रमित जानकारी का सत्यापन नहीं करने के लिए उन पर मौद्रिक प्रतिबंध भी लगाए हैं, लेकिन भारत जैसे देशों में, अदालतों ने गलती करने वाले वकीलों के खिलाफ दृढ़ता से आगे नहीं बढ़ाया है। इसी तरह, भारत में लॉ स्कूलों को एआई-सक्षम शिक्षण और सीखने के तरीकों को शामिल करने के लिए अपने पाठ्यक्रम को पूरी तरह से अनुकूलित करना चाहिए, और प्रोफेसरों को छात्रों को मतिभ्रमित और गैर-मतिभ्रमित एआई सामग्री के बीच सटीक अंतर करने के लिए आवश्यक कौशल प्राप्त करने में सक्षम बनाना चाहिए।

कुल मिलाकर, कानूनी पेशेवरों से एआई मतिभ्रम के लिए सबसे उपयुक्त मारक शाश्वत सतर्कता है, और जैसा कि जस्टिस एच आर खन्ना ने हमें वर्षों पहले याद दिलाया था, "शाश्वत सतर्कता स्वतंत्रता की कीमत है और अंतिम विश्लेषण में, इसके केवल रखवाले लोग हैं।" एआई युग में, शाश्वत सतर्कता, पूरी तरह से सत्यापन के साथ, वह कीमत है जो हमें एआई को कार्यों को आउटसोर्स करते समय चुकानी होगी। जे.एन. ए. आई. निस्संदेह मनुष्यों की तुलना में बहुत अधिक तेज़ी से जानकारी उत्पन्न कर सकता है। फिर भी, यह मनुष्य हैं, जिनके पास अंतर्ज्ञान, विवेक और चिंतन की क्षमता है, जिन्हें द्वारपाल के रूप में खड़ा होना चाहिए और एआई द्वारा उत्पन्न जानकारी के हर टुकड़े को सत्यापित करना चाहिए।

लेखक डॉ. सचिन मेनन सहायक प्रोफेसर, स्कूल ऑफ लॉ, क्राइस्ट यूनिवर्सिटी, बेंगलुरु हैं। विचार व्यक्तिगत हैं।