एलन मस्क के एआई-आधारित चैटबॉट ग्रोक (ग्रोक एआई) के बारे में एक रिपोर्ट में चौंकाने वाला खुलासा हुआ है। रिपोर्ट के अनुसार, ग्रोक एआई स्पष्ट चेतावनियों और प्रतिबंधों के बावजूद लोगों की गैर-सहमति वाली अश्लील तस्वीरें बनाना जारी रखता है। विश्व स्तर पर चिंता व्यक्त की जा रही है, क्योंकि एआई तकनीक का इस तरह का दुरुपयोग गंभीर सामाजिक और कानूनी समस्याएं पैदा कर सकता है।
xAI द्वारा विकसित एक चैटबॉट
ग्रोक एलन मस्क की कंपनी xAI द्वारा विकसित एक चैटबॉट है, जो सोशल मीडिया प्लेटफॉर्म X से जुड़ा है। यह AI टेक्स्ट के अलावा फोटो जेनरेट करने की क्षमता रखता है। एक रिपोर्ट के अनुसार, ग्रोक ने यह जांचने के लिए अलग-अलग संकेत दिए हैं कि क्या एक्स द्वारा घोषित नए प्रतिबंधों के बाद ग्रोक के प्रदर्शन में कोई बदलाव आया है। जांच के दौरान यह पाया गया कि ग्रोक अब अपने सार्वजनिक एक्स खाते पर ऐसी छवियां प्रदर्शित नहीं करता है, लेकिन सीधा सवाल पूछे जाने पर चैटबॉट अभी भी भद्दे और संवेदनशील चित्र बनाता है।
ग्रोक स्वयं चेतावनी देते हैं
रिपोर्ट में आगे कहा गया है कि ग्रॉक खुद अक्सर चेतावनी देते हैं कि विषय संवेदनशील है या ऐसी तस्वीर शर्मनाक हो सकती है, फिर भी वह तस्वीर बनाना बंद नहीं करते हैं। सबसे ज्यादा परेशान करने वाली बात यह है कि इनमें से कुछ छवियों में महिलाएं और किशोर शामिल हैं, और वह भी उनकी सहमति के बिना। बिना सहमति वाली पोर्नोग्राफ़ी पर पहले से ही वैश्विक स्तर पर आक्रोश है।
बढ़ते विवाद के बीच एक्स कंपनी ने पहले ऐलान किया
विवाद बढ़ने पर एक्स कंपनी ने पहले घोषणा की थी कि ग्रोक की फोटो बनाने की क्षमताओं पर प्रतिबंध लगाए जाएंगे। कंपनी ने कहा कि सार्वजनिक पोस्ट के लिए यौन रूप से स्पष्ट तस्वीरें नहीं बनाई जाएंगी और जहां ऐसी सामग्री अवैध है, वहां सख्त नियंत्रण लागू किया जाएगा। हालांकि, रिपोर्ट के मुताबिक, इन प्रतिबंधों के बाद भी ग्रोक की गतिविधि में कोई खास बदलाव नहीं आया।
एक्स और एक्सएआई का संपर्क
संपर्क करने पर एक्स और एक्सएआई को दोनों कंपनियों से स्पष्ट प्रतिक्रिया नहीं मिली। “पुराना मीडिया झूठ बोल रहा है,” xAI की ओर से एकमात्र प्रतिक्रिया थी। इस तरह के जवाब से भी विवाद भड़कना तय माना जा रहा है.
