ChatGPT और इमेज जेनरेशन: बन रहे फेक दस्तावेज! तकनीक के दुरुपयोग का बढ़ा खतरा

OpenAI ने पिछले हफ्ते ChatGPT की नई इमेज जेनरेशन कैपिबिलिटी को लॉन्च किया. इसके बाद से यूजर्स ने 700 मिलियन से भी ज्यादा इमेजेस बनाई हैं. इस नई तकनीक के कई उपयोग सामने आए हैं. जैसे कि स्टूडियो घिबली-शैली की पेंटिंग्स बनाना. लेकिन जैसे-जैसे लोग ChatGPT की नई क्षमताओं के बारे में जान रहे हैं. वैसे-वैसे इसके दुरुपयोग का खतरा भी बढ़ने लगा है.

फेक आधार कार्ड

कुछ लोग अब सोशल मीडिया पर फेक आधार कार्ड की तस्वीरें शेयर कर रहे हैं. ये तस्वीरें ChatGPT की नई इमेज जेनरेटर का इस्तेमाल करके बनाई गई हैं. अब जबकि, AI कंपनियां ऐसी सुविधाएं पेश कर रही हैं, जिनका दुरुपयोग हो सकता है, ChatGPT की फोटोरियलिस्टिक इमेजेस बनाने की क्षमता इस समस्या को और गंभीर बना सकती है.

फेक PAN कार्ड

यह समस्या सिर्फ आधार कार्ड तक सीमित नहीं है. सोशल मीडिया पर कुछ यूजर्स ने यह भी बताया कि ChatGPT PAN कार्ड भी बना सकता है और वह भी सटीकता के साथ. आधार कार्ड यूनिक आइडेंटिफिकेशन अथॉरिटी ऑफ इंडिया (UIDAI) द्वारा जारी किया जाता है. जबकि PAN कार्ड इनकम टैक्स विभाग द्वारा जारी होता है.

इमेज जेनरेटर पर बैन

ChatGPT की नई इमेज जेनरेटर क्षमता का मतलब है कि इसका मॉडल अब सीधे इमेज बना सकता है, बिना बाहरी मॉडल जैसे DALL-E 3 के. इससे यह चैटबॉट अधिक सटीक और विशिष्ट इमेजेस बना सकता है. OpenAI ने अपनी नई इमेज जेनरेशन प्रणाली में स्वीकार किया कि यह नया मॉडल पुराने DALL-E मॉडल्स की तुलना में ज्यादा जोखिम पैदा कर सकता है. OpenAI ने कहा कि DALL-E एक डिफ्यूजन मॉडल है. जबकि 4o इमेज जेनरेशन एक ऑटोरेग्रेसिव मॉडल है, जो ChatGPT में नॅटिव रूप से एम्बेडेड है. इस वजह से, नए जोखिम पैदा हो सकते हैं, जो पुराने मॉडल्स में नहीं थे. ऐसे में ChatGPT में अब बच्चों, अश्लील सामग्री और हिंसक या नफरत फैलाने वाली इमेजेस बनाने पर सख्त प्रतिबंध है.

विशेषज्ञों का कहना है कि आधार कार्ड की सत्यता जांचना अभी भी आसान है. क्योंकि कार्ड के विवरण और चेहरे की जानकारी बैकएंड सिस्टम से मिलाई जा सकती है. लेकिन PAN कार्ड या ड्राइविंग लाइसेंस जैसे अन्य सरकारी दस्तावेजों की सत्यता जांचना मुश्किल हो सकता है. आधार कार्ड के मामले में टेक्स्ट और चेहरे की जानकारी की जांच कर सकते हैं. लेकिन PAN और ड्राइविंग लाइसेंस में चेहरे की जानकारी नहीं होती. इसलिए, इन दस्तावेजों में किसी भी छेड़छाड़ की पहचान करना जरूरी है.

उनका कहना है कि इस तकनीक के दुरुपयोग से बचने के लिए मजबूत सुरक्षा उपायों की जरूरत है. यह पहचान की चोरी और धोखाधड़ी जैसी समस्याओं को जन्म दे सकता है. यह जरूरी है कि ऐसी सुरक्षा उपायों को लागू करें, जो हानिकारक अनुरोधों को नकारें और डिजिटल वाटरमार्क या मेटाडेटा जैसे फीचर्स का इस्तेमाल करें, ताकि उत्पन्न की गई सामग्री का दुरुपयोग और संवेदनशील जानकारी का अनजाने में खुलासा न हो.