कनाडा ने 8 लोगों की हत्या करने वाले शूटर द्वारा चैटबॉट के इस्तेमाल पर ओपनएआई अधिकारियों को तलब किया

कनाडा के अधिकारियों ने वहां से अधिकारियों को तलब किया है ओपनएआई इस खुलासे के बाद मंगलवार को एक बैठक हुई कि कंपनी ने उस उपयोगकर्ता के बारे में अधिकारियों को सूचित नहीं किया, जिसका खाता 10 फरवरी को ब्रिटिश कोलंबिया में सामूहिक हत्या करने से महीनों पहले निलंबित कर दिया गया था। देश के कृत्रिम बुद्धिमत्ता मंत्री, इवान सोलोमन ने पुलिस को जानकारी कब दी जाती है, इसके लिए सुरक्षा प्रोटोकॉल और सीमा के बारे में स्पष्टीकरण मांगा है।सोलोमन ने कहा कि 18 वर्षीय जेसी वान रूटसेलर से जुड़ी कंपनी की कार्रवाइयों के बारे में उन्हें जो पता चला, उससे वह “बहुत परेशान” थे, अधिकारियों का कहना है कि उन्होंने खुद को मारने से पहले ब्रिटिश कोलंबिया के टम्बलर रिज के ग्रामीण समुदाय में आठ लोगों की हत्या कर दी थी। एनवाईटी द्वारा उनके सोशल मीडिया खातों की समीक्षा के अनुसार, वैन रूटसेलेर ने हथियारों और अत्यधिक हिंसा के प्रति आकर्षण प्रदर्शित किया, और मानसिक स्वास्थ्य के मुद्दों के साथ अपने अनुभवों का दस्तावेजीकरण किया। कंपनी के अनुसार, वैन रूटसेलेर द्वारा उसके चैटजीपीटी चैटबॉट को भेजे गए संदेशों ने पिछले जून में ओपनएआई में आंतरिक रूप से झंडे उठाए।कंपनी के दुर्व्यवहार का पता लगाने वाली प्रणाली, जो स्टाफ सदस्यों द्वारा स्वचालित उपकरणों और जांच का उपयोग करती है, के बाद उसके खाते से संबंधित संदेशों को उठाया गया, वैन रूटसेलेर को मंच से प्रतिबंधित कर दिया गया, कंपनी ने कहा। शूटिंग से पहले वैन रूटसेलेर द्वारा चैटजीपीटी के उपयोग की रिपोर्ट सबसे पहले वॉल स्ट्रीट जर्नल ने दी थी।ओपनएआई ने कहा कि उसने शूटर के खाते के बारे में कानून प्रवर्तन को सूचित करने पर विचार किया था, लेकिन अंततः ऐसा नहीं करने का फैसला किया क्योंकि कंपनी ने निर्धारित किया कि उपयोगकर्ता की ओर से कोई विश्वसनीय योजना नहीं थी। OpenAI का कहना है कि वह उपयोगकर्ताओं की गोपनीयता की सुरक्षा के विरुद्ध सार्वजनिक सुरक्षा को संतुलित करने का प्रयास करता है। इसमें कहा गया है कि वह चेतावनियां जारी करने के बारे में अत्यधिक आक्रामक होने से भी बचना चाहता है, जिससे कानून प्रवर्तन अधिकारी किसी उपयोगकर्ता के घर पर बिना बताए पहुंच सकते हैं। लेकिन अधिकारियों तक नहीं पहुंचने के कंपनी के फैसले ने कुछ कर्मचारियों के बीच चिंता पैदा कर दी। ओपनएआई ने कहा कि कंपनी को बड़े पैमाने पर गोलीबारी की जानकारी मिलने के बाद उसने रूटसेलर की खाता गतिविधि के बारे में जानकारी के लिए रॉयल कैनेडियन माउंटेड पुलिस से संपर्क किया। पुलिस मामले में संभावित सबूतों को संरक्षित करने के लिए संबंधित डिजिटल प्लेटफॉर्म और एआई फर्मों को मजबूर करने का आदेश मांग रही है।