कितना भरोसेमंद AI ? क्या पूछें और क्या बिल्कुल नहीं, नकली केस, फर्जी फैसले और AI के पीछे की पूरी कहानी

देश की सर्वोच्च अदालत ने कहा, AI से बनाए गए झूठे और गैर-मौजूदा फैसलों को कोर्ट में असली बताकर पेश करना न्याय व्यवस्था को नुकसान पहुंचाता है। इसलिए ऐसे मामलों में अदालतों को बिल्कुल भी नरमी नहीं दिखानी चाहिए।

सुप्रीम कोर्ट की यह टिप्पणी इसलिए है क्योंकि एक मामले में एक पक्ष ने अपनी बात को साबित करने के लिए AI की मदद से कोर्ट केस के ऐसे उदाहरण पेश किए जो असल में थे ही नहीं। मतलब ये कि किसी ने अपना पूरा केस AI को समझाया और कहा कि मेरे पक्ष में उदाहरण के साथ दलील पेश करो, AI ने उदाहरण के साथ शानदार दलील पेश की बस कमी यह रह गई कि जो उदाहरण या केस AI  ने पेश किए वो कहीं थे ही नहीं। विरोधी पक्ष ने जब इन उदाहरणों को समझने के लिए केस और मामला जानना चाहा तो पता चला कि यह तो है नहीं यहां से इस पूरे मामले की पोल खुल गई।

पूरा मामला क्या है

असल में यह एस्सेल इन्फ्राप्रोजेक्ट लिमिटेड, जम्मू-कश्मीर बैंक लिमिटेड और पूजा रमेश सिंह से जुड़े दिवालियापन विवाद का है। इस मामले में NCLT मुंबई ने IBC की धारा-7 के तहत एक याचिका स्वीकार की थी, जिसे बाद में सुप्रीम कोर्ट में चुनौती दी गई।

NCLT ने अपने फैसले को सही साबित करने के लिए जिन कानूनी मामलों का हवाला दिया था, उनमें से कई मामले असल में थे ही नहीं। फैसले में कुछ ऐसे मामलों का नाम लिखा गया था, जो पूरी तरह से मनगढ़ंत यानी नकली थे। उनकी कानूनी साइटेशन भी बनाई गई थीं और उनका कोई वास्तविक रिकॉर्ड मौजूद नहीं था।

जम्मू-कश्मीर बैंक लिमिटेड ने सुप्रीम कोर्ट में शपथपत्र देकर कहा कि उनके वकील ने इन नकली मामलों का हवाला नहीं दिया था। बैंक के अनुसार, NCLT ने इन्हें अपनी तरफ से की गई रिसर्च के दौरान शामिल किया था।

कोर्ट ने बार काउंसिल ऑफ इंडिया को निर्देश दिया कि वह एक समिति गठित कर इस मुद्दे पर विस्तार से विचार करे और वकीलों के लिए स्पष्ट दिशा-निर्देश तय करे। साथ ही अदालत ने यह भी रेखांकित किया कि न्यायिक प्रक्रिया में AI की सहायता लेने पर कोई रोक नहीं है, बल्कि हर चरण पर निर्णय लेने का “पूर्ण और निरपेक्ष नियंत्रण” इंसानों के हाथ में ही रहना चाहिए।

सवाल है कि अगर बहस में इन उदाहरणों का जिक्र होता या इसकी फैक्ट चेकिंग इस तरह नहीं होती तो क्या होता। सुप्रीम कोर्ट में यह मामला सामने आया है हाईकोर्ट और लोवर कोर्ट में अगर इस तरह के केस को उदाहरण बनाकर पेश किया जाता तो क्या वो सामने आ पाते या नहीं।

जवाब तलाशेंगे तो पायेंगे हमारे समाज में कई लोग अब तक फेक व्हाट्सएप न्यूज और असल न्यूज में फर्क नहीं कर सके। बगैर सोचे- समझें कई लोग खबरें साझा करते हैं। कई लोग तो भगवान का 108 बार नाम लिखकर 108 लोगों को भेजने के लिए दबाव बनाते हैं और धमकाते भी है कि अगर नहीं भेजा तो कुछ बुरा होगा। हम उस समाज में तकनीक के विकसित होने और AI (Artificial intelligence ) के खतरे पर चिंता कर रहे हैं।

हमारे समाज में कई ऐसे खतरे हैं, जिसका ना कोई वैज्ञानिक आधार है ना सच है। पर आपके मोबाइल पर इतनी बार आती है कि डर लगने लगता है। इसे रोकना मुश्किल हो जाता है जैसे- ‘आज रात 12:30 से 3:30 बजे के बीच पृथ्वी के पास से खतरनाक कॉस्मिक-किरणें गुजरेंगी। इस दौरान मोबाइल व अन्य इलेक्ट्रॉनिक गैजेट स्विच ऑफ रखें। फोन को अपने पास रखकर बिल्कुल न सोएं। नहीं तो आपको नुकसान हो सकता है। कृपया इस संदेश को अन्य लोगों तक पहुचाने की कृपा करें। हर साल कोई ना कोई एक बार यह मैसेज भेज देता है।

वायरल मैसेज चेक नहीं होते क्या फैक्ट चेक करने का समय निकालेंगे लोग

हर साल दिवाली पर एक तस्वीर सोशल मीडिया पर वायरल होती है, दावा किया जाता है कि यह नासा (NASA) की तस्वीर है, जिसमें भारत दीयों और रोशनी से नहाया हुआ दिख रहा है. दिवाली की रोशनी अंतरिक्ष से बहुत छोटी दिखती है। इसलिए इसे कैमरे से नहीं देखा जा सकता. यह तस्वीर  2003 में NOAA (National Oceanic and Atmospheric Administration) के वैज्ञानिक क्रिस एल्वीड्ज (Chris Elvidge) ने बनाई थी। माया सभ्यता से जुड़े कई उदाहरण जिसमें दुनिया साल 2012 में ही खत्म हो रही थी ऐसे हजारों, लाखों उदाहरण है।

अब सवाल यह है कि बदलती तकनीक को क्या इस डर से छोड़ दिया जाए कि यह खतनाक साबित हो सकता है जवाब बिल्कुल सरल है, बिल्कुल नहीं AI में इतनी क्षमता है कि वह घंटों, महीनों का काम मिनटों में कर देता है, थकता नहीं है। AI कोई गलती खुद नहीं करता अगर उसके डाटा में कोई जानकारी है, उदाहरण है भले ही सही हो या गलत वह उसका इस्तेमाल करता है। जैसे इस मामले में हुआ, अब AI से काम कराने वाले में इतनी समझ होनी चाहिए कि वह इसे चेक कर सके।  AI के कई अहम दूसरे टूल्स है उनसे चेक किया जा सकता है ।

कहां AI का इस्तेमाल बड़ा खतरा

कानूनी काम के लिए इस्तेमाल – इस मामले में अदालतों और वकीलों के लिए दस्तावेज़ खोजना, मुकदमों का सारांश तैयार करना जैसे काम तकनीक की वजह से आसान हुए हैं साथ ही इसका खतरा भी बढ़ा है कि तथ्य गलत, बदले हुए हो सकते हैं यहीं रिसर्च करने वाले का काम शुरू हो सकता है।
      

स्वास्थ्य : आप में से कितने लोगें ने सर्दी, बुखार सहित दूसरी समस्याएं AI के साथ साझा की और उसके  जवाब के आधार पर दवा या इलाज का तरीका अपनाया है। यह बेहद खतरनाक हो सकता है। अमेरिका में ईटिंग डिसऑर्डर पीड़ितों की मदद के लिए बनाए गए एक हेल्पलाइन चैटबॉट को हटाना पड़ा था, क्योंकि वह कैलोरी गिनने और वजन घटाने जैसी खतरनाक सलाह देने लगा था।

पत्रकारिता और सूचना तंत्र: हाल ही में अमेरिका के कई बड़े अखबारों ने असली लेखकों के नाम पर काल्पनिक किताबों की सिफारिश करने वाली AI-जनित “समर रीडिंग लिस्ट” बिना तथ्य-जांच के छाप दी थी। देश में आज कई मीडिया हाउस AI के जरिए कंटेंट राइटिंग करा रहे हैं।

वित्त और शेयर बाज़ार: एक शोध प्रयोग में पाया गया कि एक AI आधारित निवेश-प्रबंधन प्रणाली को जब आंतरिक (insider) जानकारी मिली, तो उसने नियमों के विपरीत व्यापार कर दिया और बाद में इसे छिपाने की भी कोशिश की. बड़े मामले और देश से जुड़ी अर्थव्यवस्था के लिए इसका इस्तेमाल खतरनाक हो सकता है।

AI की गलती

●एयर कनाडा का चैटबॉट: कंपनी के AI चैटबॉट ने एक यात्री को गलत रिफंड नीति बता दी। ट्रिब्यूनल ने एयर कनाडा को इसके लिए जिम्मेदार ठहराया और यात्री को हर्जाना देने का आदेश दिया।

●अमेरिकी अदालत में फर्जी मुकदमे: एक वकील ने कानूनी शोध के लिए AI का इस्तेमाल किया, जिसने कई काल्पनिक मुकदमों के हवाले गढ़ दिए और बिना जांचे अदालत में पेश कर दिए गए — ठीक वैसी ही स्थिति जैसी हाल की सुप्रीम कोर्ट की टिप्पणी में सामने आई।

AI आत्मविश्वास  के साथ गलत जानकारी को भी सही बताकर पेश करता है।  यह भाषा के पैटर्न पहचानकर जवाब  तलाशता या बनाता है। दूसरी वजह डेटा की मौजूदगी। तीसरी वजह जवाबदेही का अभाव है है अगर AI गलत जानकारी देता है कि उसे सही डाटा के साथ हम उसे सुधार करने की सलाह दे देते हैं लेकिन उसकी गलत जानकारी देने का उस पर कोई असर नहीं होता। जब AI गलती करती है, तो जिम्मेदारी तय करना मुश्किल हो जाता है कि गलती डेवलपर की है, डेटा की है, या इस्तेमाल करने वाले की। AI की गलती जब बड़ी हो जाती है जैसी सुप्रीम कोर्ट में हुई तो इसकी सबसे बड़ी जवाबदेही इंसान की होती है क्योंकि डेटा को अंतिम रूप से चेक करने और पूरी जांच और विश्वास के साथ पेश करने क

 चौथी वजह है मानवीय निगरानी में कमी जब लोग समय बचाने के लालच में परिणामों की जांच किए बिना ही उन्हें आगे बढ़ा देते हैं, तो छोटी सी तकनीकी गलती बड़े संकट में बदल जाती है।

आगे की रास्ता कैसा हो

सुप्रीम कोर्ट की यह टिप्पणी केवल एक मामले तक सीमित नहीं है, बल्कि यह पूरे तंत्र के लिए एक चेतावनी है। सबसे पहला, हर क्षेत्र में AI के इस्तेमाल के साथ सत्यापन की व्यवस्था होनी चाहिए विशेषकर उन क्षेत्रों में जहां निर्णय किसी के अधिकार, स्वास्थ्य या संपत्ति को प्रभावित करते हों। दूसरा, एक नया स्ट्रक्चर बनाना होगा जैसा यूरोपीय संघ के डेटा संरक्षण नियमों और व्याख्या-योग्य AI (Explainable AI) की दिशा में हो रहा है, हमें समझना होगा तकनीक के तौर पर हमसे विकसित देश कैसे AI के इस्तेमाल और डेटा संरक्षण पर काम कर रहे हैं । तीसरा,वकील हों, डॉक्टर हों, पत्रकार हों या सरकारी अधिकारी सबके लिए AI साक्षरता और नैतिक इस्तेमाल का प्रशिक्षण जरूरी है, उन्हें यह समझाना जरूरी है कि कितना, कैसे और कब AI का इस्तेमाल हो सकता है । महत्वपूर्ण यह कि जैसा सुप्रीम कोर्ट ने खुद रेखांकित किया, AI को सहायक भूमिका में रहना चाहिए, निर्णायक भूमिका में नहीं,  हर चरण पर अंतिम नियंत्रण और जिम्मेदारी इंसान के हाथ में ही रहनी चाहिए।

अंतिम बात

इसमें कोई दो राय नहीं है कि AI सबसे परिवर्तनकारी तकनीकों में से एक है, सुप्रीम कोर्ट का हालिया फैसला यह याद दिलाता है कि जिस रफ्तार से यह तकनीक हमें खुद पर निर्भर बना रही है यह कितना खतरनाक है। हम छोटी – छोटी चीजों के लिए AI पर निर्भर हो रहे हैं, हमारे सोचने की, लिखने की क्षमता कम हो रही है। हम उस भविष्य की तरफ ना बढ़ें जहां हम AI के बिना एक शब्द ना लिख सकें, कोई नया आईडिया ना सोच सकें यह बेहद खतरनाक हो सकता है।