कनाडा स्कूल में गोलीबारी: ओपनएआई ने ट्रांस शूटर के चैटजीपीटी खाते को चिह्नित किया लेकिन पुलिस को सतर्क नहीं किया
सैम ऑल्टमैन के नेतृत्व में ओपनएआई कंपनी के बयानों के अनुसार, कंपनी ने कनाडा के सबसे घातक स्कूल गोलीबारी से कुछ महीने पहले कनाडाई ट्रांसजेंडर किशोरी जेसी वान रूटसेलर से जुड़े एक खाते की पहचान की थी और उस पर प्रतिबंध लगा दिया था, लेकिन उस समय कानून प्रवर्तन को सतर्क नहीं किया था।आर्टिफिशियल इंटेलिजेंस फर्म ने कहा कि उसके आंतरिक निगरानी सिस्टम ने पिछले साल जून में हिंसक सामग्री से संबंधित नीतियों का उल्लंघन करने के लिए चैटजीपीटी खाते का पता लगाया था। बंदूक हिंसा से जुड़े परेशान करने वाले हिंसक परिदृश्यों के दुरुपयोग के लिए चिह्नित किए जाने के बाद खाते को बाद में प्रतिबंधित कर दिया गया था।
अधिकारियों ने कहा कि हाई स्कूल छोड़ने वाली 18 वर्षीय वैन रूटसेलर ने कथित तौर पर इस महीने की शुरुआत में पश्चिमी कनाडाई शहर टंबलर रिज में गोलीबारी में आठ लोगों की हत्या कर दी और लगभग 25 अन्य को घायल कर दिया, इससे पहले कि उसने अपनी जान ले ली।
OpenAI ने क्या कहा?
समाचार एजेंसी एपी ने ओपनएआई के प्रवक्ता के हवाले से कहा, “हमारी संवेदनाएं टंबलर रिज त्रासदी से प्रभावित हर किसी के साथ हैं।” उन्होंने कहा कि कंपनी ने बाद में कनाडाई अधिकारियों से संपर्क किया और जांचकर्ताओं के साथ सहयोग कर रही है।ओपनएआई ने कहा कि जब खाते को पहली बार चिह्नित किया गया था तो उसने कानून प्रवर्तन के लिए इसे संदर्भित करने पर विचार किया था, लेकिन उस समय वास्तविक दुनिया में विश्वसनीय या आसन्न नुकसान का कोई सबूत नहीं मिला। हालाँकि, गोलीबारी के बाद, कंपनी ने जांच में सहायता के लिए रॉयल कैनेडियन माउंटेड पुलिस के साथ सक्रिय रूप से जानकारी साझा की।OpenAI के सिस्टम को इसके AI टूल के संभावित दुरुपयोग का पता लगाने और सुरक्षा नीतियों का उल्लंघन करने वाले खातों पर प्रतिबंध लगाने सहित प्रवर्तन कार्रवाई करने के लिए डिज़ाइन किया गया है। समाचार एजेंसी एपी द्वारा उद्धृत विवरण के अनुसार, “कंपनी ने अपने एआई मॉडल के दुरुपयोग का पता लगाने के लिए डिज़ाइन किए गए टूल का उपयोग करके खाते की पहचान की, जिसमें संभावित हिंसक गतिविधियों को आगे बढ़ाना भी शामिल है।”कनाडा में अधिकारियों ने पुष्टि की कि वे चल रही जांच के हिस्से के रूप में संदिग्ध की ऑनलाइन और सोशल मीडिया गतिविधि की जांच कर रहे हैं।इस घटना ने उपयोगकर्ता गतिविधि से संबंधित रिपोर्ट करने की प्रौद्योगिकी कंपनियों की जिम्मेदारी और ऑनलाइन व्यवहार के आधार पर खतरों का आकलन करने की चुनौतियों के बारे में व्यापक सवाल खड़े कर दिए हैं। ओपनएआई ने कहा कि वह अपने कृत्रिम बुद्धिमत्ता प्रणालियों के दुरुपयोग को रोकने के लिए सुरक्षा उपायों को मजबूत करना जारी रखे हुए है।
