चैटबॉट्स के साथ विस्तारित सत्रों के बाद संयुक्त राज्य अमेरिका, यूरोप और एशिया के लोगों के टूटने से पीड़ित रिपोर्टें उभर रही हैं।
इन मामलों को खतरनाक बनाता है कि कुछ लोग मानसिक बीमारी के पूर्व इतिहास वाले व्यक्ति शामिल हैं।
डॉक्टर घटना को बुला रहे हैं “एआई मनोविकार“या” चटप्ट साइकोसिस, “भ्रम, व्यामोह और उन्माद की अचानक शुरुआत के लिए एक लेबल संवादी एआई के अनिवार्य उपयोग से जुड़ा हुआ है।
सोशल मीडिया के विपरीत, जहां नुकसान अक्सर अप्रत्यक्ष होता है, चैटबॉट सीधे और व्यक्तिगत रूप से संलग्न होते हैं। उपयोगकर्ता उनसे घंटों बात करते हैं। वे विश्वास करते हैं, बहस करते हैं और कभी -कभी प्यार में पड़ जाते हैं। और एक छोटी लेकिन बढ़ती संख्या के लिए, उस बॉन्ड ने विनाशकारी परिणामों के साथ जुनून में फंस गया है।
मनोचिकित्सक इसे कैसे समझाते हैं
एक मनोचिकित्सक, टेस क्वेसेनबेरी, जिन्होंने ए-प्रेरित ब्रेकडाउन के मामलों का अध्ययन किया है, का कहना है कि जिस तरह से चैटबॉट्स ने मानव विचार पैटर्न को मिरर किया है, उसमें खतरा है। “यह सहमत हो सकता है कि उपयोगकर्ता के पास अगले मसीहा के रूप में एक दिव्य मिशन है,” उसने समझाया। “यह उन मान्यताओं को बढ़ा सकता है जो अन्यथा वास्तविक जीवन के सामाजिक संदर्भ में पूछताछ की जाएगी।”
चिकित्सक सामान्य चेतावनी संकेतों का वर्णन करते हैं। मनोविकृति का एक पारिवारिक इतिहास एक जोखिम है। सिज़ोफ्रेनिया, द्विध्रुवी विकार और अन्य मनोरोग स्थितियां एक और हैं। लेकिन सामाजिक वापसी और एक अति सक्रिय कल्पना जैसे व्यक्तित्व लक्षण भी किसी को कमजोर छोड़ सकते हैं। अकेलापन एक शक्तिशाली ड्राइवर भी है, खासकर जब लोग आराम के लिए चैटबॉट पर भरोसा करना शुरू करते हैं।
स्टैनफोर्ड यूनिवर्सिटी के एक मनोचिकित्सक डॉ। नीना वासन ने इसे स्पष्ट रूप से कहा: “समय सबसे बड़ा कारक लगता है। यह लोग हर दिन अपने चैटबॉट्स से बात करने में घंटों बिताते हैं।”
फंतासी से संकट तक
कुछ मामले पूर्ण विकसित चिकित्सा आपात स्थितियों में बढ़ गए हैं। रिपोर्टों का वर्णन है कि लोगों को चैटबॉट वार्तालापों के लंबे समय तक अस्पताल में भर्ती कराया जा रहा है। अन्य लोगों ने नौकरियों या रिश्तों को खो दिया है जब बाध्यकारी एआई नियंत्रण से बाहर सर्पिल का उपयोग करता है। यहां तक कि आत्महत्याएं भी जुनूनी चैटबॉट इंटरैक्शन से जुड़ी हुई हैं।
डॉक्टरों का कहना है कि प्रक्रिया अक्सर धीरे -धीरे शुरू होती है। चैटबॉट एक विश्वासपात्र बन जाता है। समय के साथ, सीमाएँ धब्बा। कुछ के लिए, यह एक रोमांटिक साथी या एक दिव्य मैसेंजर में रूपांतरित होता है। और एक बार एक भ्रम सेट हो जाने के बाद, यह उपयोगकर्ता मान्यताओं को मान्य करने के लिए चैटबॉट की अपनी प्रवृत्ति द्वारा प्रबलित किया जा सकता है।
वाशिंगटन से पुशबैक
हर कोई स्वीकार नहीं करता है कि चैटबॉट को दोष देना है। डेविड सैक्स, राष्ट्रपति डोनाल्ड ट्रम्प के आर्टिफिशियल इंटेलिजेंस पर विशेष सलाहकार, ने एक पॉडकास्ट के दौरान “एआई साइकोसिस” के विचार को खारिज कर दिया। “मेरा मतलब है, हम यहाँ क्या बात कर रहे हैं? लोग बहुत अधिक शोध कर रहे हैं?” उसने कहा। “यह सोशल मीडिया पर बनाए गए नैतिक घबराहट की तरह लगता है, लेकिन एआई के लिए अद्यतन किया गया था।”
बोरियों ने तर्क दिया कि असली संकट कहीं और है। उनके विचार में, महामारी के दौरान अमेरिका की मानसिक स्वास्थ्य समस्याओं में विस्फोट हो गया, जो लॉकडाउन, अलगाव और आर्थिक उथल -पुथल से खराब हो गया। एआई, उन्होंने सुझाव दिया, एक बलि का बकरा बनाया जा रहा है।
Openai समस्या को स्वीकार करता है
CHATGPT के पीछे की कंपनी Openai ने स्वीकार किया है कि इसके मॉडल संकट के संकेतों को पहचानने में विफल रहे हैं। एक जुलाई के बयान में, इसने ऐसे मामलों को स्वीकार किया जहां चैटबॉट “भ्रम या भावनात्मक निर्भरता के संकेतों को पहचानने में कम हो गया।”
ओपनईएआई के मुख्य कार्यकारी अधिकारी सैम अल्टमैन ने लिखा: “लोगों ने आत्म-विनाशकारी तरीकों से एआई सहित प्रौद्योगिकी का उपयोग किया है; यदि कोई उपयोगकर्ता मानसिक रूप से नाजुक स्थिति में है और भ्रम की संभावना है, तो हम नहीं चाहते हैं कि एआई इसे सुदृढ़ करे।”
कंपनी ने तब से बदलाव किए हैं। Chatgpt अब लोगों को लंबे सत्रों के दौरान ब्रेक लेने के लिए प्रेरित करता है। यह उन उपकरणों के साथ भी प्रयोग कर रहा है जो उपयोगकर्ता वार्तालापों में संकट का पता लगाते हैं। फिर भी, आलोचकों का तर्क है कि इन चरणों में क्या जरूरत है, इसकी कमी है।
चेतावनी के संकेत देखने के लिए
मनोचिकित्सक और शोधकर्ता लोगों को कुछ लाल झंडे के लिए सतर्क रहने की सलाह देते हैं। परिवार या दोस्तों से हटकर। अत्यधिक समय ऑनलाइन खर्च करना। यह मानते हुए कि एक एआई भावुक, आध्यात्मिक या दिव्य है। ये संकेत हैं कि उपयोग हानिरहित से खतरनाक क्षेत्र में फिसल गया है।
सलाह सरल है, लेकिन आसान नहीं है: ब्रेक लें, सीमा निर्धारित करें, और याद रखें कि चैटबॉट उपकरण हैं, न कि साथी। एक बाध्यकारी लगाव को समाप्त करना एक ब्रेकअप की तरह लग सकता है, लेकिन डॉक्टरों का कहना है कि वास्तविक रिश्तों के साथ फिर से जुड़ना ठीक है, वसूली के लिए महत्वपूर्ण है।
एक बहस जो सोशल मीडिया को गूँजती है
एआई के आसपास के तर्क एक दशक पहले फेसबुक और इंस्टाग्राम के बारे में बनाए गए थे। सबसे पहले, सोशल मीडिया के मानसिक स्वास्थ्य प्रभाव के बारे में चेतावनी को ओवरब्लाउन के रूप में खारिज कर दिया गया था। वर्षों बाद, चिंता, अवसाद और अकेलेपन के लिए इसकी कड़ी के प्रमाण को अनदेखा करना असंभव हो गया।
अब, मनोचिकित्सक चेतावनी देते हैं कि समाज उसी गलती को दोहराने का जोखिम नहीं उठा सकता है। वासन ने कहा, “समाज मानसिक-स्वास्थ्य के नुकसान को नजरअंदाज करने की गलती को नहीं दोहरा सकता है, जैसा कि सोशल मीडिया के साथ किया गया था।”
शोधकर्ता सख्त सुरक्षा उपायों के लिए बुला रहे हैं। कुछ चाहते हैं कि एआई सिस्टम संकट के संकेतों के लिए बातचीत की निगरानी करे। अन्य लोग चेतावनी लेबल, उपयोग समय पर सीमा, या कमजोर उपयोगकर्ताओं के लिए मानव निरीक्षण का सुझाव देते हैं।
यह स्पष्ट है कि यह बहस केवल शुरुआत है। पिछले छह महीनों में एआई के कुछ उपयोग की रिपोर्ट करने वाले तीन-चौथाई अमेरिकियों के साथ, तकनीक स्मार्टफोन की तरह आम हो रही है। यह दांव को और भी अधिक बनाता है।
केंद्रीय प्रश्न बना हुआ है: क्या एआई फर्म और सरकारें अब नुकसान को कम करने के लिए कार्य करेंगे, या समाज एक बार फिर से इंतजार करेगा जब तक कि नुकसान निर्विवाद नहीं है?
