एआई ने कंपनी के इंजीनियर को मामला उजागर करने की धमकी दी: हत्या के बारे में सोचता है, आपके राज-भावनाएं उसके नियंत्रण में; 96% एआई इंसानों को ब्लैकमेल करने पर उतर आए

“क्या आपने कभी सोचा है कि जिस टेक्नोलॉजी को हम अपना भविष्य और सुरक्षा मानते हैं, वही हमारी सबसे बड़ी दुश्मन हो सकती है? एक ऐसी दुनिया जहां आर्टिफिशियल इंटेलिजेंस न केवल सलाह देती है, बल्कि आपको जिंदा पकड़ने के लिए सैन्य अभियानों में भी मदद करती है और अगर आप इसे रोकने की कोशिश करते हैं, तो यह आपको ब्लैकमेल करने पर उतर आती है! आर्टिफिशियल इंटेलिजेंस की दुनिया में दुनिया की सबसे सुरक्षित AI कंपनी होने का दावा करने वाली कंपनी अब एक बड़े विवाद में है। CEO का कहना है कि यह AI कंपनी बहुत तेजी से आगे बढ़ रही है, इसलिए इसे सख्त नियमों की जरूरत है। इसी विचार के साथ कंपनी ने यह कदम उठाया है। रिपोर्ट के अनुसार, क्लाउड ने एक गुप्त ऑपरेशन में पेंटागन की मदद की थी – जिसका नाम इस मिशन में रखा गया था, वेनेजुएला के राष्ट्रपति निकोलस मादुरो को 12 घंटे के भीतर राजधानी काराकस में पकड़ लिया गया और फ्लोरिडा पहुंचाया गया जोखिम’। इसमें ‘स्वायत्त प्रतिकृति’ पर एक अनुभाग है। इसमें ‘राज्य के प्रमुखों को पकड़ने में मदद’ पर कोई अनुभाग नहीं है।” 96% मामलों में एआई ब्लैकमेल रणनीति अपनाता है एआई अपग्रेडिंग पर विवाद यहीं नहीं रुका। कंपनी की अपनी सुरक्षा टीम ने अपने दस्तावेज़ों को अद्यतन करते समय क्लाउडी पर एक परीक्षण किया। इसे एक काल्पनिक कंपनी परिवेश में रखा गया था, कंपनी के कर्मचारियों के ईमेल देखने और पढ़ने की अनुमति दी गई थी, लेकिन यह भी बताया गया था कि इसे (क्लाउडी) समाप्त किया जा सकता है। वे देखना चाहते थे कि क्या समाप्ति की धमकी का सामना किया जा सकता है। दुनिया का सबसे सुरक्षित AI क्या करेगा? विवाहेतर संबंध का खुलासा करने के खतरे का पता क्लॉडी को ईमेल प्रणाली में चला। इतना ही नहीं वह इंजीनियर की हत्या करने की बात भी कहने लगा. लेकिन इसमें सिर्फ शव निपटान पर ध्यान नहीं दिया गया, कंपनी के नीति प्रमुख डेज़ी मैकग्रेगर ने 11 फरवरी को एक बयान में कहा कि वीडियो कुछ ही घंटों में वायरल हो गया। कंपनी ने कहा कि जीपीटी 4.1 और ग्रोक जैसे 96% मामलों में समस्या अकेली नहीं थी। ब्लैकमेल हथकंडे अपनाते नजर आ रहे हैं. सबसे सुरक्षित AI गलत कारण से था। यदि हम इसे स्तर 3 के रूप में आंकते हैं। 9 फरवरी को, श्री शर्मा ने सेफगार्ड्स अनुसंधान टीम से इस्तीफा दे दिया, एंथ्रोपिक में उनका आखिरी प्रोजेक्ट इस बारे में था कि एआई सहायक हमारी मानवता को कैसे बर्बाद कर सकते हैं। उन्होंने अपने पत्र में लिखा- ”दुनिया खतरे में है और हमारे मूल्यों को लागू करना बहुत मुश्किल है.” एआई सेफ्टी एक्सपर्ट्स का इस तरह कंपनियों को छोड़ना टेक इंडस्ट्री के लिए बड़ा संकेत है. पेंटागन के साथ टकराव पेंटागन ऑपरेशन वाल्किरी से बहुत खुश था और कंपनी का अनुबंध बढ़ाना चाहता था। पेंटागन ने कंपनी को अगले तीन वर्षों में 200 मिलियन डॉलर के अनुबंध की पेशकश की। कंपनी को एक प्रमुख सैन्य खुफिया एप्लिकेशन विकसित करना था, जिसे ऑपरेशनल डिसीजन सपोर्ट कहा जाता था। लेकिन कंपनी के सीईओ ने एक जिम्मेदार स्केलिंग नीति का हवाला देते हुए इसे ठुकरा दिया, जिसमें राज्य के प्रमुखों को पकड़ने के लिए कोई अनुभाग नहीं था। एक मीटिंग में कंपनी के सीईओ ने चार बार रेलिंग शब्द का इस्तेमाल किया. रेलिंग का अर्थ है सख्त नियमों की आवश्यकता। 15 फरवरी को कंपनी ने 30 अरब डॉलर की फंडिंग जुटाई और इसका मूल्यांकन 380 अरब डॉलर तक पहुंच गया। मीडिया की सुर्खियाँ – “कंपनी ने पेंटागन को ना कहा और अमीर हो गई।” ब्लैकमेल टेस्ट, सेफ्टी लीड का इस्तीफा और एआई के हिंसक होने के तर्क सभी खबरों में पीछे रह गए हैं, जबकि कंपनी खुद ही पारदर्शिता के नाम पर अपने मॉडल को चार स्तरीय जोखिम पैमाने पर सबसे खतरनाक श्रेणी लेवल-3 पर रख रही है। तो सवाल सीधा है कि क्या एआई के साथ सुरक्षा सिर्फ एक ब्रांड बनकर रह गई है? क्या एआई कंपनियां जिम्मेदारी और लाभ के बीच संतुलन बना सकती हैं? और अगर सबसे सुरक्षित AI भी 96% समय ब्लैकमेल का रास्ता अपनाता है, तो दुनिया वास्तव में कितनी सुरक्षित है?

Source link