अदालत में एल्गोरिदम: न्याय और मानवीय गरिमा के बीच का संघर्ष

भारत के सर्वोच्च न्यायालय ने हाल ही में न्यायपालिका में कृत्रिम बुद्धिमत्ता (AI) के उपयोग के लिए नए नियम जारी किए हैं। यह कदम एक ऐसे युग में आया है जहाँ दुनिया भर में ‘ब्लैक-बॉक्स’ एल्गोरिदम चुपचाप यह तय कर रहे हैं कि किसे जमानत मिलनी चाहिए और किसे नहीं, या किसके बयान अधिक विश्वसनीय हैं। भारत ने यहाँ एक स्पष्ट रेखा खींची है: न्याय केवल डेटा का प्रसंस्करण नहीं है; यह मानवीय विवेक और जवाबदेही का कार्य है।

न्याय का ‘ब्लैक-बॉक्स’ और अदृश्य निर्णय

इन नए नियमों का सबसे महत्वपूर्ण पहलू ‘प्रिडिक्टिव प्रोफाइलिंग’ (predictive profiling) पर पूर्ण प्रतिबंध है। इसका अर्थ है कि AI अब यह तय नहीं कर सकता कि कोई आरोपी फरार होने के जोखिम में है या किसी गवाह की विश्वसनीयता क्या है। जब हम एक एल्गोरिदम को यह अधिकार देते हैं कि वह भविष्य के व्यवहार का अनुमान लगाए, तो हम अक्सर पुराने डेटा के पूर्वाग्रहों (biases) को न्याय के नाम पर थोपते हैं। यदि ऐतिहासिक डेटा में किसी विशेष समुदाय के प्रति पूर्वाग्रह रहा है, तो AI उसी पूर्वाग्रह को ‘सत्य’ मानकर दोहराएगा।

सर्वोच्च न्यायालय ने स्पष्ट किया है कि अदालत में कोई भी AI प्रणाली ‘ब्लैक-बॉक्स’ नहीं हो सकती। एक ब्लैक-बॉक्स सिस्टम वह है जहाँ इनपुट और आउटपुट तो दिखते हैं, लेकिन यह पता नहीं चलता कि मशीन उस निष्कर्ष तक कैसे पहुँची। कानून की दुनिया में, तर्क (reasoning) ही सब कुछ है। यदि कोई न्यायाधीश यह नहीं बता सकता कि निर्णय का आधार क्या था, तो वह निर्णय न्यायसंगत नहीं है। AI द्वारा दिए गए सुझावों पर मानवीय निरीक्षण (human oversight) अनिवार्य करना केवल एक तकनीकी सुरक्षा नहीं, बल्कि एक नैतिक आवश्यकता है।

डिजिटल धर्म: न्याय और सत्य की कसौटी

इस विकास को यदि हम ‘डिजिटल धर्म’ के चश्मे से देखें, तो यहाँ न्याय (Nyaya) और सत्य (Satya) के सिद्धांत टकराते हैं। न्याय केवल सही परिणाम तक पहुँचने का नाम नहीं है, बल्कि उस प्रक्रिया की पवित्रता बनाए रखने का नाम है जिससे वह परिणाम निकलता है। जब एक मशीन निर्णय लेती है, तो वह ‘सत्य’ को डेटा के रूप में देखती है—सांख्यिकी और पैटर्न के रूप में। लेकिन मानवीय सत्य जटिल होता है; उसमें परिस्थिति, भावना और पश्चाताप शामिल होता है जिसे कोई भी वर्तमान LLM या प्रिडिक्टिव मॉडल नहीं समझ सकता।

AI का उपयोग प्रशासनिक कार्यों, दस्तावेजों के सारांश या कानूनी शोध को तेज करने के लिए करना सेवा (Seva) हो सकता है, क्योंकि यह न्याय मिलने की गति को बढ़ाता है। लेकिन जब AI निर्णय लेने की प्रक्रिया में प्रवेश करता है, तो वह मानवीय गरिमा के साथ समझौता करने का जोखिम उठाता है। सर्वोच्च न्यायालय का यह प्रतिबंध वास्तव में इस बात की स्वीकृति है कि न्याय एक ‘मानवीय कला’ है, जिसे गणित में नहीं बदला जा सकता।

मुंबई से दिल्ली तक: प्रभाव और चुनौतियाँ

मुंबई जैसे महानगरों के फास्ट-ट्रैक कोर्ट्स में, जहाँ मुकदमों का बोझ पहाड़ जैसा है, AI का प्रलोभन बहुत अधिक है। दक्षता (Efficiency) अक्सर न्याय की गुणवत्ता पर हावी हो जाती है। लेकिन यहाँ खतरा यह है कि ‘दक्षता’ के नाम पर हम उन लोगों को अदृश्य कर सकते हैं जिनके पास तकनीक तक पहुँच नहीं है या जिनकी जीवन स्थितियाँ डेटा के साँचों में फिट नहीं बैठतीं।

चुनौती अब इस बात की है कि इन नियमों का पालन कैसे सुनिश्चित किया जाएगा। क्या वकील और न्यायाधीश AI द्वारा दिए गए ‘सुझावों’ से प्रभावित हुए बिना निष्पक्ष निर्णय ले पाएंगे? जब एक मशीन किसी दस्तावेज़ का विश्लेषण करके एक निष्कर्ष देती है, तो मानवीय मस्तिष्क अक्सर उस ‘विशेषज्ञ’ राय के प्रति झुक जाता है—इसे ऑटोमेशन बायस (automation bias) कहा जाता है।

एक प्रतिबिंब: क्या हम विवेक को आउटसोर्स कर रहे हैं?

House of 7 में हम अक्सर चर्चा करते हैं कि AI हमारी क्षमताओं का विस्तार होना चाहिए, न कि हमारे अस्तित्व का विकल्प। न्यायपालिका का यह निर्णय हमें याद दिलाता है कि कुछ चीजें इतनी पवित्र हैं कि उन्हें कभी भी कोड के हवाले नहीं किया जाना चाहिए। विवेक (Discernment) वह गुण है जो हमें मनुष्य बनाता है; यदि हम इसे एल्गोरिदम को सौंप देते हैं, तो हम केवल एक कुशल समाज बनेंगे, लेकिन एक न्यायपूर्ण समाज नहीं।

भारत का यह रास्ता दुनिया के लिए एक उदाहरण हो सकता है कि कैसे तकनीकी प्रगति और बुनियादी मानवाधिकारों के बीच संतुलन बनाया जाए। यह इस बात की घोषणा है कि भारत अपनी कानूनी प्रणाली में ‘मशीनी दक्षता’ से ऊपर ‘मानवीय जवाबदेही’ को रखता है।

एक प्रश्न आपके लिए

यदि भविष्य में एक AI न्यायाधीश 100% सटीकता के साथ फैसला सुना सके, लेकिन वह यह न बता पाए कि उसने वह फैसला क्यों लिया—तो क्या आप उस फैसले को स्वीकार करेंगे? या आप एक मानवीय न्यायाधीश को प्राथमिकता देंगे जो गलती कर सकता है, लेकिन जिसका तर्क आप सुन और समझ सकते हैं?