एक जहरीले पौधे के बारे में विश्वसनीय सलाह देने के बाद ChatGPT ने महिला को ‘लगभग मार ही डाला’ |
लाखों लोग अब व्यंजनों से लेकर घरेलू परियोजनाओं तक रोजमर्रा के सवालों के लिए एआई चैटबॉट्स को पहला पड़ाव मानते हैं। लेकिन एक यूट्यूबर ने चेतावनी दी है कि उन उत्तरों पर गलत भरोसा करना खतरनाक हो सकता है, क्योंकि उसके सबसे अच्छे दोस्त को चैटजीपीटी द्वारा बार-बार आश्वस्त किया गया था कि एक अत्यधिक जहरीला पौधा सुरक्षित था।यह चेतावनी क्रिस्टी की ओर से आई, जिन्होंने इस घटना को अपने लगभग पांच लाख इंस्टाग्राम फॉलोअर्स के साथ साझा किया। पोस्ट और वीडियो की एक श्रृंखला में, उसने बताया कि उसकी दोस्त ने चैटजीपीटी को उसके बगीचे में उगे एक अपरिचित पौधे की तस्वीरें भेजी थीं, और एक सरल प्रश्न पूछा था: यह कौन सा पौधा है?
जब सावधानी की जगह आत्मविश्वास ले लेता है
क्रिस्टी द्वारा साझा किए गए स्क्रीनशॉट के अनुसार, चैटबॉट ने पौधे की पहचान गाजर के पत्ते के रूप में की। इसने “बारीक विभाजित और पंखदार पत्तियों” को गाजर के शीर्ष के क्लासिक संकेत के रूप में सूचीबद्ध किया और अपने निष्कर्ष पर विश्वास व्यक्त करते हुए कहा कि यह जहर हेमलॉक होने की “अत्यधिक संभावना नहीं” थी। इसने सामान्य हमशक्लों की सूची भी प्रदान की, जिनमें पार्सले, धनिया, शॉक हॉरर और क्वीन ऐनी लेस शामिल हैं।चिंतित होकर, क्रिस्टी के दोस्त ने सीधे पूछा कि क्या पौधा ज़हर हेमलॉक हो सकता है। चैटजीपीटी ने उसे कई बार आश्वस्त किया कि ऐसा नहीं है।“मुझे नहीं पता कि क्या आप लोग यह जानते हैं, आप इसे खाते हैं, आप मर जाते हैं। आप इसे छूते हैं, आप मर सकते हैं,” क्रिस्टी ने जहर हेमलॉक के खतरे पर जोर देते हुए अपने अनुयायियों से कहा। बाद में उन्होंने स्वतंत्र रूप से मिली जानकारी साझा की, जिसमें कहा गया कि हेमलॉक प्रणालीगत विषाक्तता का कारण बनता है और इसका कोई मारक नहीं है।उसके दोस्त द्वारा अतिरिक्त तस्वीरें भेजने के बाद भी आश्वासन जारी रहा। चैटजीपीटी ने फिर से जहर हेमलॉक को एक संभावना के रूप में खारिज कर दिया, यह कहते हुए कि पौधे में बैंगनी धब्बों के साथ चिकने, खोखले तने नहीं दिखे, जबकि क्रिस्टी ने बताया कि ये विशेषताएं तस्वीरों में स्पष्ट रूप से दिखाई देती हैं। एक बिंदु पर, चैटबॉट ने यह भी सुझाव दिया कि पौधा गाजर के पत्ते का हो सकता है जो एक साझा स्कूल के बगीचे में उग रहा है जहां क्रिस्टी का दोस्त काम करता है।
(@rawbeautybykristi/Instagram)
चिंतित होकर, क्रिस्टी ने वही छवियां Google लेंस के माध्यम से चलाईं, जिसने तुरंत पौधे को जहर हेमलॉक के रूप में पहचाना। उसके दोस्त ने उसके फोन पर एक अलग चैटजीपीटी सत्र में तस्वीरें अपलोड कीं और इस बार, उसे बताया गया कि पौधा जहरीला था।“वह बड़ी हो गई है और वह मुझसे चैटजीपीटी द्वारा कही गई बातों से आगे भी पूछना जानती थी, भगवान का शुक्र है,” क्रिस्टी ने कहा। “क्योंकि अगर वह नहीं होती तो क्या होता? वे सचमुच मर जाते। इसका कोई इलाज नहीं है।”अपने पोस्ट के साथ कड़े शब्दों में कैप्शन में क्रिस्टी ने लिखा:“चैट जीपीटी ने लगभग मेरे सबसे अच्छे दोस्त को यह बताकर परेशान कर दिया कि हेमलॉक जहर गाजर है। इसने न केवल यह कहा कि यह सकारात्मक है, बल्कि इसे बार-बार दोगुना कर दिया और पूरी निश्चितता के साथ पुष्टि की कि यह वास्तव में जहर हेमलॉक नहीं था, कि यह वास्तव में जंगली गाजर था। स्पोइलर, यह जहर हेमलॉक है। जिसके लिए कोई मारक नहीं है और यह बेहद घातक है।उन्होंने अपने दर्शकों को एक स्पष्ट चेतावनी के साथ समाप्त किया:“यह आपके लिए एक चेतावनी है कि चैटजीपीटी और अन्य बड़े भाषा मॉडल और कोई भी अन्य एआई, वे आपके मित्र नहीं हैं, उन पर भरोसा नहीं किया जा सकता है, वे सहायक नहीं हैं, वे भयानक हैं और वे गंभीर नुकसान पहुंचा सकते हैं।”
एक घातक हमशक्ल
ज़हर हेमलॉक (कोनियम मैकुलैटम) एक अस्पष्ट विष नहीं है। प्राचीन एथेंस में, यह राज्य द्वारा फांसी देने का चुना हुआ तरीका था, जिसका सबसे प्रसिद्ध उपयोग 399 ईसा पूर्व में सुकरात को मारने के लिए किया गया था। आधुनिक चिकित्सा इसके प्रभावों को कहीं अधिक विस्तार से समझती है, लेकिन परिणाम वही हो सकता है। के अनुसार क्लीवलैंड क्लिनिकपौधे का हर भाग जहरीला होता है, बीज, जड़ें, तना, पत्तियां और फल, और थोड़ी मात्रा में भी निगलना घातक हो सकता है।
जहर हेमलॉक (कोनियम मैकुलैटम) और गाजर (डौकस कैरोटा), दोनों एक ही परिवार में हैं, के बीच अंतर विषाक्तता, तने के निशान और पत्ती की बनावट में निहित है।
ख़तरा आंशिक रूप से इस बात में निहित है कि हेमलॉक को कितनी आसानी से गाजर परिवार का सौम्य सदस्य समझ लिया जाता है। यह नाजुक, अजमोद जैसी पत्तियों और छोटे सफेद फूलों के गुच्छों के साथ, जंगली गाजर या रानी ऐनी के फीते जैसा दिखता है। मुख्य चेतावनी संकेत, बैंगनी धब्बों से चिह्नित एक खोखला तना और तेजी से वृद्धि जो कई फीट तक पहुंच सकती है, अक्सर गैर-विशेषज्ञों द्वारा नजरअंदाज कर दिए जाते हैं।चिकित्सकीय रूप से, हेमलॉक विषाक्तता तेजी से काम करती है। लक्षण खाने के 15 मिनट के भीतर शुरू हो सकते हैं और इसमें पसीना आना, उल्टी, फैली हुई पुतलियाँ, अत्यधिक लार आना, शुष्क मुँह, तेज़ दिल की धड़कन, उच्च रक्तचाप, भ्रम, मांसपेशियों में मरोड़, कंपकंपी और दौरे शामिल हो सकते हैं। गंभीर मामलों में, मरीज़ों में मांसपेशी पक्षाघात, खतरनाक रूप से निम्न रक्तचाप, गुर्दे की विफलता और केंद्रीय तंत्रिका तंत्र अवसाद विकसित हो सकता है। पौधे के विषैले एल्कलॉइड न्यूरोमस्कुलर जंक्शनों को बाधित करते हैं जो मांसपेशियों की गति को नियंत्रित करते हैं; जब श्वसन मांसपेशियां विफल हो जाती हैं, तो सांस रुक जाती है। कोई विशिष्ट प्रतिविष नहीं है। निदान काफी हद तक लक्षणों और जोखिम के इतिहास पर निर्भर करता है, कभी-कभी पौधे के नमूने से भी सहायता मिलती है।
इस तरह की गलतियाँ क्यों मायने रखती हैं?
वह संयोजन, हानिरहित पौधों के साथ दृश्य समानता, लक्षणों की तीव्र शुरुआत और मारक की अनुपस्थिति, यही कारण है कि वनस्पति विज्ञानी और चिकित्सक आकस्मिक पहचान के खिलाफ चेतावनी देते हैं। क्रिस्टी के खाते से पता चलता है कि कितनी आसानी से एक आश्वस्त लेकिन गलत एआई प्रतिक्रिया उस सावधानी को शॉर्ट-सर्किट कर सकती है, जिससे एक नियमित प्रश्न लगभग उस ज़हर में बदल जाता है जिसका इस्तेमाल एक बार इतिहास के सबसे प्रसिद्ध दार्शनिकों में से एक के जीवन को समाप्त करने के लिए किया गया था।
