ग्रोक पर अब कोई एआई पोर्न नहीं: सूत्रों का दावा- एक्स ने गलती मानी, 3,500 सामग्री को ब्लॉक किया, 600 खाते हटाए; कंपनी ने कहा- भारतीय कानून का पालन करेंगे

सोशल मीडिया प्लेटफॉर्म एक्स ने कंटेंट मॉडरेशन में अपनी गलतियों को स्वीकार किया है। कंपनी ने कहा है कि वह अश्लील तस्वीरें बनाने पर पूरी तरह से प्रतिबंध लगाएगी और भारत के कानूनों का पालन करेगी। सरकारी सूत्रों के मुताबिक, अश्लील सामग्री वायरल होने के बाद यह फैसला लिया गया। प्लेटफ़ॉर्म ने कहा कि उसने 3,500 से अधिक सामग्री को ब्लॉक कर दिया है और 600 से अधिक खाते हटा दिए हैं। दरअसल, एआई चैटबॉट ग्रोक के दुरुपयोग को लेकर शिवसेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को आईटी मंत्री को पत्र लिखा था। इसके बाद, केंद्र सरकार ने उसी दिन एक्स को एआई ऐप ग्रोक द्वारा उत्पन्न की जा रही अश्लील और अश्लील सामग्री को तुरंत हटाने के लिए कहा, या कानूनी कार्रवाई का सामना करने के लिए कहा। एक्स ने कहा- भारत हमारे लिए बड़ा बाजार एक्स ने एक्शन का ऐलान करते हुए कहा कि भारत हमारे लिए बड़ा बाजार है. कंपनी ने कहा कि वह यहां के नियमों का सम्मान करेगी. यह कदम संयम को मजबूत करेगा. प्रियंका चतुवेर्दी ने कहा, ‘एक्स ने कंटेंट को रोकने के बजाय उसे सीमित कर दिया है।’ राज्यसभा सांसद प्रियंका चतुर्वेदी ने शनिवार को एक्स पर इस मुद्दे पर एक और पोस्ट किया। उन्होंने लिखा कि सोशल मीडिया प्लेटफॉर्म एक्स ने ग्रोक की आपत्तिजनक और यौन रूप से विचारोत्तेजक छवि निर्माण को पूरी तरह से रोकने के बजाय भुगतान किए गए उपयोगकर्ताओं तक सीमित कर दिया। उन्होंने आरोप लगाया कि इस कदम ने महिलाओं और बच्चों की छवियों के अनधिकृत दुरुपयोग को प्रभावी ढंग से अनुमति दी, जिससे उन्हें जोखिम में डाल दिया गया। उन्होंने कहा कि यह शर्म की बात है कि मंच निंदनीय व्यवहार से कमाई कर रहा है। मस्क ने कहा- जिम्मेदारी टूल की नहीं, यूजर की है. इससे पहले 3 जनवरी को एक्स के मालिक एलन मस्क ने कहा था कि कुछ लोग कह रहे हैं कि ग्रोक आपत्तिजनक तस्वीरें बनाता है, लेकिन यह कुछ बुरा लिखने के लिए कलम को दोष देने जैसा है। क्या लिखना है यह कलम तय नहीं करती, बल्कि उसे पकड़ने वाला और लिखने वाला तय करता है। मस्क ने कहा कि ग्रोक उसी तरह काम करता है। आपको क्या मिलता है यह काफी हद तक इस बात पर निर्भर करता है कि आप इसमें क्या इनपुट करते हैं। क्योंकि जिम्मेदारी उपकरण की नहीं बल्कि उसे इस्तेमाल करने वाले की होती है। शिवसेना (यूबीटी) सांसद ने उठाया मुद्दा शिवसेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने एआई चैटबॉट ग्रोक के दुरुपयोग के संबंध में 2 जनवरी को आईटी मंत्री अश्विनी वैष्णव को पत्र लिखा। एआई के ग्रोक फीचर का सोशल मीडिया पर दुरुपयोग किया जा रहा है, खासकर एक्स पर। कुछ पुरुष फर्जी अकाउंट बना रहे हैं और महिलाओं की तस्वीरें पोस्ट कर रहे हैं, एआई से कपड़े छोटे दिखाने या छवियों को गलत तरीके से पेश करने के लिए कह रहे हैं। यह केवल फर्जी अकाउंट तक ही सीमित नहीं है, बल्कि अपनी तस्वीरें शेयर करने वाली महिलाओं को भी निशाना बनाया जा रहा है। यह बहुत गलत है और एआई का गंभीर दुरुपयोग है। सबसे ज्यादा परेशान करने वाली बात यह है कि ग्रोक इन अनुचित मांगों को मान रहा है। यह महिलाओं की गोपनीयता का उल्लंघन करता है और उनकी छवियों को बिना अनुमति के उपयोग करने की अनुमति देता है। ये ग़लत ही नहीं, अपराध भी है. महिलाओं की तस्वीरों को अश्लील तस्वीरों में बदलना कुछ यूजर्स सोशल मीडिया प्लेटफॉर्म एक्स पर फर्जी अकाउंट बनाते हैं। वे इन अकाउंट से महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद ग्रोक एआई को महिलाओं की तस्वीरें गलत और आपत्तिजनक तरीके से प्रदर्शित करने के लिए प्रेरित किया जाता है। एआई को कपड़े बदलने या यौन रुझान वाली छवि पेश करने जैसे संकेत दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई इजाजत नहीं ली जाती है. कई बार महिलाओं को खुद इस बात की जानकारी नहीं होती कि उनकी फोटो का इस तरह इस्तेमाल किया जा रहा है. आरोप है कि ग्रोक ऐसी झूठी मांगों को रोकने की बजाय उन्हें स्वीकार कर लेते हैं.

Source link