आर्टिफिशियल इंटेलिजेंस (AI) से कब क्या कर दिया जाए, कुछ कहा नहीं जा सकता. हालात तो यहां तक हो गए हैं कि सुप्रीम कोर्ट के जज भी इससे परेशान हैं. तभी सीजेआई बीआर गवई ने भी सोमवार को AI के गलत इस्तेमाल पर चिंता जताई है. GenAI पर दाखिल याचिका पर सुनवाई करते हुए सीजेआई कहा, हां, हां… हमने भी मॉर्फ किए गए अपने फोटो देखे हैं. यह टिप्पणी उन्होंने तब की जब अदालत में यह मुद्दा उठा कि किस तरह AI और डिजिटल टूल्स का दुरुपयोग कर न्यायपालिका और जजों को निशाना बनाया जा रहा है.
GenAI कितना खतरनाक
याचिकाकर्ता कार्तिकेय रावल ने कोर्ट से अनुरोध किया कि जूडिशियरी GenAI के उपयोग के लिए एक पॉलिसी और एक ढांचा होना चाहिए, ताकि इसके दुरुपयोग को रोका जा सके. रावल ने कहा कि ट्रेडिशनल AI और GenAI में फर्क समझना जरूरी है. ट्रेडिशनल AI केवल डेटा के विश्लेषण पर आधारित होता है, जबकि GenAI नया डेटा, फोटो, टेक्स्ट और यहां तक कि कोड भी तैयार कर सकता है, जिससे कानूनी प्रणाली में भ्रम और अनिश्चितता पैदा हो सकती है.
‘ब्लैक बॉक्स’ और ‘हैलुसिनेशन’ का खतरा
याचिका में सबसे बड़ा खतरा बताया गया है कि GenAI को ब्लैक बॉक्स टेक्नोलॉजी कहा जाता है यानी इसके अंदर डेटा प्रोसेसिंग कैसे होती है, यह पारदर्शी नहीं है. याचिकाकर्ता के मुताबिक, GenAI के ‘ब्लैक बॉक्स’ स्वरूप और उसकी अपारदर्शिता भारतीय न्याय व्यवस्था में अस्पष्टता और भ्रम पैदा कर सकती है. उन्होंने चेतावनी दी कि GenAI की तकनीक हैलुसिनेशन (hallucination) की स्थिति पैदा कर सकती है यानी सिस्टम ऐसा डेटा या फैसला गढ़ सकता है जो वास्तविक नहीं, बल्कि काल्पनिक हो. ऐसी मनगढ़ंत जानकारी, फर्जी केस लॉ, और पूर्वाग्रह से भरे निर्णय Article 14 (समानता के अधिकार) का उल्लंघन होंगे.
भेदभाव और डेटा बायस का मुद्दा
रावल ने यह भी कहा कि GenAI के प्रशिक्षण डेटा (Training Data) की गुणवत्ता और उसमें मौजूद पक्षपात (bias) बहुत मायने रखते हैं. अगर यह डेटा समाज में पहले से मौजूद असमानताओं, भेदभाव और स्टीरियोटाइप्स पर आधारित हुआ, तो AI उन्हीं पैटर्न को दोहरा और बढ़ा सकता है. इसका सीधा असर हाशिए पर मौजूद समुदायों पर पड़ेगा जैसे महिलाओं, दलितों या अल्पसंख्यकों से जुड़े मामलों में पक्षपातपूर्ण सुझाव या निष्कर्ष सामने आ सकते हैं. याचिका में कहा गया है कि अगर भविष्य में न्यायपालिका में AI का उपयोग किया जाता है तो डेटा की मालिकाना हक (data ownership) साफ होना चाहिए. निर्णय या विश्लेषण तैयार करने वालों की जवाबदेही तय होनी चाहिए और AI के किसी भी परिणाम के लिए मानव हस्तक्षेप या समीक्षा प्रक्रिया अनिवार्य रहनी चाहिए.
