ओपनएआई के कर्मचारी महीनों पहले कनाडाई पुलिस को स्कूल में गोलीबारी करने वाले के बारे में सचेत करना चाहते थे, यही कारण है कि चैटजीपीटी के साथ उनकी बातचीत को कंपनी की समीक्षा प्रणाली द्वारा चिह्नित किया गया था
सैम ऑल्टमैन का ओपनएआई वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, ब्रिटिश कोलंबिया में एक घातक स्कूल की शूटिंग में संदिग्ध के रूप में पहचाने जाने से महीनों पहले चैटजीपीटी वार्तालापों को परेशान करने के बारे में कनाडाई पुलिस को सचेत किया जाए या नहीं, इसकी समीक्षा की गई और बहस की गई। बंदूक हिंसा के संदर्भ के लिए ओपनएआई की आंतरिक समीक्षा प्रणालियों द्वारा चैटबॉट के साथ उपयोगकर्ता की बातचीत को चिह्नित किए जाने के बाद चर्चा हुई। रिपोर्ट में कहा गया है कि जबकि कुछ कर्मचारियों ने कानून प्रवर्तन को अधिसूचित करने पर जोर दिया, कंपनी के नेताओं ने अंततः निर्णय लिया कि गतिविधि अधिकारियों से संपर्क करने के लिए आवश्यक सीमा को पूरा नहीं करती है।
बातचीत को OpenAI की समीक्षा प्रणाली द्वारा चिह्नित किया गया
डब्ल्यूएसजे के अनुसार, उपयोगकर्ता, जिसे बाद में कनाडाई पुलिस ने जेसी वान रूटसेलेर के रूप में पहचाना, ने कई दिनों तक आग्नेयास्त्रों से जुड़े हिंसक परिदृश्यों का वर्णन करने के लिए पिछले साल जून में चैटजीपीटी का उपयोग किया था। बातचीत को OpenAI के स्वचालित निगरानी उपकरणों द्वारा चिह्नित किया गया था, जो वास्तविक दुनिया के नुकसान के संभावित जोखिमों का पता लगाने के लिए डिज़ाइन किए गए हैं।ध्वजांकित सामग्री ने आंतरिक चिंता उत्पन्न की। लगभग एक दर्जन ओपनएआई कर्मचारियों ने कथित तौर पर चर्चा की कि क्या पोस्ट एक विश्वसनीय खतरे का सुझाव देते हैं। कुछ स्टाफ सदस्यों का मानना था कि बातचीत संभावित वास्तविक दुनिया की हिंसा का संकेत दे सकती है और उन्होंने वरिष्ठ नेताओं से कनाडाई कानून प्रवर्तन को सूचित करने का आग्रह किया।
OpenAI ने पुलिस से संपर्क क्यों नहीं किया?
ओपनएआई ने अंततः अधिकारियों को सतर्क नहीं करने का फैसला किया। कंपनी के एक प्रवक्ता ने डब्ल्यूएसजे को बताया कि वैन रूटसेलेर के खाते पर प्रतिबंध लगा दिया गया था, लेकिन उनकी गतिविधि कानून प्रवर्तन को रिपोर्ट करने के लिए कंपनी के मानक को पूरा नहीं करती थी। उस मानक के लिए “दूसरों को गंभीर शारीरिक क्षति का विश्वसनीय और आसन्न जोखिम” की आवश्यकता होती है।प्रवक्ता ने कहा कि ओपनएआई उपयोगकर्ता की गोपनीयता के खिलाफ संभावित सुरक्षा जोखिमों और तत्काल खतरे के स्पष्ट सबूत के बिना पुलिस को शामिल करने से होने वाले नुकसान को संतुलित करता है।10 फरवरी को ब्रिटिश कोलंबिया के टंबलर रिज में एक स्कूल में हुई गोलीबारी के दौरान वैन रूटसेलर को मृत पाया गया था, जिसे पुलिस ने खुद के द्वारा पहुंचाई गई चोट बताया था। आठ लोग मारे गए और कम से कम 25 घायल हो गए। रॉयल कैनेडियन माउंटेड पुलिस ने बाद में उसे संदिग्ध के रूप में नामित किया।हमले की जानकारी मिलने के बाद ओपनएआई ने आरसीएमपी से संपर्क किया और कहा कि वह जांचकर्ताओं के साथ सहयोग कर रहा है। कंपनी ने कहा, “हमारी संवेदनाएं टम्बलर रिज त्रासदी से प्रभावित सभी लोगों के साथ हैं।”
एआई और सार्वजनिक सुरक्षा के आसपास व्यापक बहस
यह मामला बढ़ते सवालों पर प्रकाश डालता है कि एआई कंपनियां संवेदनशील उपयोगकर्ता डेटा को कैसे संभालती हैं। ओपनएआई ने वॉल स्ट्रीट जर्नल को बताया कि यह नुकसान को हतोत्साहित करने के लिए अपने सिस्टम को प्रशिक्षित करता है और मानव समीक्षकों के लिए बातचीत से संबंधित मार्गों को प्रशिक्षित करता है, जो तत्काल खतरा होने पर कानून प्रवर्तन से संपर्क कर सकते हैं।कनाडाई पुलिस ने कहा कि वैन रूटसेलेर का मानसिक स्वास्थ्य संबंधी चिंताओं से संबंधित अधिकारियों के साथ पूर्व संपर्क था, और आग्नेयास्त्रों को पहले ही उनके निवास से हटा दिया गया था। जांचकर्ता अब उसकी ऑनलाइन गतिविधि की समीक्षा कर रहे हैं, जिसमें चल रही जांच के हिस्से के रूप में सामूहिक गोलीबारी का वीडियो गेम सिमुलेशन और आग्नेयास्त्रों से संबंधित सोशल मीडिया पोस्ट शामिल हैं।
