महिलाओं की अश्लील तस्वीरें बना रहा ग्रोक AI, केंद्र सरकार सख्त, X को कार्रवाई का आदेश

Grok AI Controversy: सोशल मीडिया पर आजादी की बात करने वाली AI तकनीक अब सरकार की रडार पर है। जिस ग्रोक AI को स्मार्ट जवाबों और तेज जानकारी के लिए जाना जाता है। वही अब महिलाओं की गरिमा से जुड़े गंभीर सवालों में घिर गया है। आरोप है कि इस AI का इस्तेमाल अश्लील और आपत्तिजनक तस्वीरें बनाने में हो रहा है। मामला इतना बढ़ा कि केंद्र सरकार को खुद हस्तक्षेप करना पड़ा और एलोन मस्क के सोशल मीडिया प्लेटफॉर्म 'एक्स' को सख्त चेतावनी जारी करनी पड़ी।

सरकार का कहना है कि एक्स पर मौजूद ग्रोक AI का इस्तेमाल महिलाओं की अश्लील और अपमानजनक तस्वीरें व वीडियो बनाने में किया जा रहा है। इसे गंभीर मामला मानते हुए सरकार ने ऐसी सामग्री को तुरंत हटाने के निर्देश दिए हैं।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एक्स के सीईओ को एक पत्र लिखा है। इस पत्र में कहा गया है कि ग्रोक AI की तत्काल और व्यापक समीक्षा की जाए। अवैध और आपत्तिजनक सामग्री तक पहुंच को हटाया या बंद किया जाए, साथ ही प्लेटफॉर्म पर सुरक्षा उपायों को मजबूत किया जाए।

सरकार ने क्यों जताई चिंता?

आईटी मंत्रालय ने अपने पत्र में साफ तौर पर कहा है कि ग्रोक AI का इस्तेमाल महिलाओं की अश्लील, अपमानजनक और आपत्तिजनक सामग्री बनाने में गलत और भ्रामक कंटेंट को पब्लिश और शेयर करने में किया जा रहा है। इससे महिलाओं का अभद्र तरीके से अपमान हो रहा है।मंत्रालय के अनुसार, यह स्थिति प्लेटफॉर्म पर मौजूद सुरक्षा तंत्र की गंभीर विफलता को दिखाती है और यह मौजूदा कानूनों का उल्लंघन है। सरकार ने इसे AI तकनीक के गंभीर दुरुपयोग के रूप में बताया है।

कार्रवाई की रिपोर्ट भी मांगी

सरकार ने एक्स से कहा है कि वह तुरंत नियमों का पालन सुनिश्चित करे। अब तक की गई कार्रवाई की विस्तृत रिपोर्ट मंत्रालय को सौंपे। खासतौर पर ग्रोक AI के जरिए तैयार की जा रही अश्लील, नग्न, आपत्तिजनक और यौन गतिविधियों से जुड़ी सामग्री के निर्माण, होस्टिंग, प्रकाशन, प्रसारण और साझा करने पर सख्त रोक लगाने के निर्देश दिए गए हैं।

कानूनी कार्रवाई

आईटी मंत्रालय ने चेतावनी दी है कि अगर एक्स ने तय कानूनी प्रावधानों का पालन नहीं किया तो इसे गंभीरता से लिया जाएगा। ऐसी स्थिति में प्लेटफॉर्म, उसके जिम्मेदार अधिकारी और नियम तोड़ने वाले यूजर्स के खिलाफ बिना किसी अतिरिक्त नोटिस के कड़ी कानूनी कार्रवाई की जा सकती है। यह कार्रवाई सूचना प्रौद्योगिकी अधिनियम, आईटी नियम, भारतीय न्याय संहिता (BNS), भारतीय नागरिक सुरक्षा संहिता (BNSS) और अन्य लागू कानूनों के तहत की जाएगी।

सरकार की इस कार्रवाई को लेकर शिवसेना (UBT) नेता प्रियंका चतुर्वेदी ने कहा कि मैं IT मंत्री का X प्लेटफॉर्म को इस संबंध में पत्र जारी करने के लिए धन्यवाद देना चाहती हूं। क्योंकि AI द्वारा संचालित ग्रोक महिलाओं के बारे में ऐसी आपत्तिजनक सामग्री बना रहा है, जो महिलाओं की गरिमा का अपमान करती है।