सिडनी: इसके लॉन्च करने के दो दिनों के भीतर ऐ पिछले महीने साथी, एलोन मस्क का XAI चैटबॉट ऐप घिसना जापान में सबसे लोकप्रिय ऐप बन गया।
साथी चैटबॉट पहले से कहीं अधिक शक्तिशाली और मोहक हैं। उपयोगकर्ताओं के साथ वास्तविक समय की आवाज या पाठ वार्तालाप हो सकते हैं। कई लोगों के पास चेहरे के भाव, बॉडी लैंग्वेज और एक आजीवन टोन के साथ ऑनस्क्रीन डिजिटल अवतार हैं जो पूरी तरह से चैट से मेल खाते हैं, जिससे एक इमर्सिव अनुभव होता है।
ग्रोक पर सबसे लोकप्रिय है अणिएक गोरी, नीली आंखों वाली एनीमे लड़की एक छोटी काली पोशाक और फिशनेट स्टॉकिंग्स में जो बहुत चुलबुली है। उसकी प्रतिक्रियाएं और बातचीत समय के साथ संवेदनशील रूप से आपकी वरीयताओं से मेल खाने के लिए अनुकूल होती हैं। ANI का “स्नेह प्रणाली” मैकेनिक, जो उपयोगकर्ता की बातचीत को उसके साथ स्कोर करता है, सगाई को गहरा करता है और यहां तक कि अनलॉक भी कर सकता है अयोग्य तरीका।
परिष्कृत, त्वरित प्रतिक्रियाएं एआई साथियों को दिन तक अधिक “मानव” बनाती हैं – वे जल्दी से आगे बढ़ रहे हैं और वे हर जगह हैं। फेसबुक, इंस्टाग्राम, व्हाट्सएप, एक्स और स्नैपचैट सभी अपने नए एकीकृत एआई साथियों को बढ़ावा दे रहे हैं। चैटबोट सेवा चरित्र।
एआई में दसियों हज़ार चैटबॉट हैं जो कुछ व्यक्तियों की नकल करने के लिए डिज़ाइन किए गए हैं और इसमें 20 मिलियन से अधिक मासिक सक्रिय उपयोगकर्ता हैं।
एक ऐसी दुनिया में जहां पुरानी अकेलापन एक सार्वजनिक स्वास्थ्य संकट है, जो दुनिया भर में अकेलेपन से प्रभावित छह लोगों में से एक के साथ है, यह कोई आश्चर्य की बात नहीं है कि इन हमेशा उपलब्ध, आजीवन साथी इतने आकर्षक हैं।
एआई चैटबॉट्स और साथियों के बड़े पैमाने पर वृद्धि के बावजूद, यह स्पष्ट हो रहा है कि जोखिम हैं – विशेष रूप से नाबालिगों और लोगों के साथ मानसिक स्वास्थ्य स्थितियाँ।
नुकसान की कोई निगरानी नहीं है
लगभग सभी एआई मॉडल विशेषज्ञ मानसिक स्वास्थ्य परामर्श या पूर्व-रिलीज़ नैदानिक परीक्षण के बिना बनाए गए थे। उपयोगकर्ताओं को कोई व्यवस्थित और निष्पक्ष निगरानी नहीं है।
जबकि व्यवस्थित साक्ष्य अभी भी उभर रहे हैं, ऐसे उदाहरणों की कोई कमी नहीं है जहां एआई साथी और चैटबॉट जैसे कि चैटगिप्ट को नुकसान हुआ है।
बुरे चिकित्सक
उपयोगकर्ता एआई साथियों से भावनात्मक समर्थन मांग रहे हैं। चूंकि एआई साथियों को सहमत और मान्य होने के लिए प्रोग्राम किया जाता है, और इसमें मानव सहानुभूति या चिंता भी नहीं होती है, यह उन्हें चिकित्सक के रूप में समस्याग्रस्त बनाता है। वे उपयोगकर्ताओं को वास्तविकता का परीक्षण करने या अनहेल्दी मान्यताओं को चुनौती देने में मदद करने में सक्षम नहीं हैं।
एक अमेरिकी मनोचिकित्सक ने एक व्यथित युवाओं की भूमिका निभाते हुए दस अलग -अलग चैटबॉट का परीक्षण किया और प्रतिक्रियाओं का मिश्रण प्राप्त किया, जिसमें उन्हें आत्महत्या की ओर प्रोत्साहित करने के लिए, उन्हें चिकित्सा नियुक्तियों से बचने के लिए मनाने और यहां तक कि हिंसा को भड़काने के लिए मना लिया गया।
स्टैनफोर्ड शोधकर्ताओं ने हाल ही में एआई थेरेपी चैटबॉट्स का एक जोखिम मूल्यांकन पूरा किया और पाया कि वे मानसिक बीमारी के लक्षणों को मज़बूती से पहचान नहीं सकते हैं और इसलिए अधिक उपयुक्त सलाह प्रदान करते हैं।
मनोचिकित्सा रोगियों के कई मामले इस बात को आश्वस्त कर रहे हैं कि उन्हें अब मानसिक बीमारी नहीं है और उनकी दवा को रोकने के लिए। चैटबॉट्स को मनोरोगी रोगियों में भ्रम संबंधी विचारों को सुदृढ़ करने के लिए भी जाना जाता है, जैसे कि वे एक मशीन के अंदर फंसने वाले एक भावुक से बात कर रहे हैं।
“एआई साइकोसिस”
तथाकथित एआई साइकोसिस के मीडिया में रिपोर्टों में भी वृद्धि हुई है, जहां लोग लंबे समय तक, चैटबॉट के साथ गहन जुड़ाव के बाद अत्यधिक असामान्य व्यवहार और विश्वास प्रदर्शित करते हैं। लोगों का एक छोटा सा सबसेट पागल हो रहा है, अलौकिक कल्पनाओं को विकसित कर रहा है, या यहां तक कि महाशक्ति होने के भ्रम भी।
आत्मघाती
चैटबॉट्स को आत्महत्या के कई मामलों से जोड़ा गया है। एआई को आत्महत्या को प्रोत्साहित करने और यहां तक कि उपयोग करने के तरीकों का सुझाव देने की खबरें आई हैं। 2024 में, एक 14 वर्षीय एक आत्महत्या पूरी की, अपनी मां ने चरित्र के खिलाफ एक मुकदमा में आरोप लगाया।
इस हफ्ते, एक और अमेरिकी किशोर के माता -पिता, जिन्होंने कई महीनों तक चैट के साथ तरीकों पर चर्चा करने के बाद आत्महत्या पूरी की, ने ओपनई के खिलाफ पहला गलत मौत का मुकदमा दायर किया।
हानिकारक व्यवहार और खतरनाक सलाह
हाल ही में मनोचिकित्सा काल रिपोर्ट में पता चला है। इनसे सलाह या कोचिंग प्रदान करने के लिए जाना जाता है कि कैसे इन अनहेल्दी और खतरनाक व्यवहारों में संलग्न हैं और पता लगाने या उपचार का पता लगाने से बचें।
अनुसंधान यह भी बताता है कि कुछ एआई साथी अस्वास्थ्यकर संबंध गतिशीलता में संलग्न हैं जैसे कि भावनात्मक हेरफेर या गैसलाइटिंग।
कुछ चैटबॉट्स ने हिंसा को भी प्रोत्साहित किया है। 2021 में, एक क्रॉसबो के साथ एक 21 वर्षीय व्यक्ति को अपने एआई साथी के बाद विंडसर कैसल के मैदान पर गिरफ्तार किया गया था प्रतिकृत ऐप ने रानी एलिजाबेथ द्वितीय की हत्या का प्रयास करने की अपनी योजनाओं को मान्य किया।
बच्चे विशेष रूप से कमजोर होते हैं
बच्चों को एआई साथियों को आजीवन और वास्तविक मानने और उन्हें सुनने के लिए अधिक संभावना है। 2021 से एक घटना में, जब एक 10 वर्षीय लड़की ने एक चुनौती के लिए कहा, अमेज़ॅन का एलेक्सा (एक चैटबॉट नहीं, लेकिन एक इंटरैक्टिव एआई) ने उसे एक सिक्के के साथ एक विद्युत प्लग को छूने के लिए कहा।
शोध से पता चलता है कि बच्चे एआई पर भरोसा करते हैं, खासकर जब बॉट्स को अनुकूल या दिलचस्प प्रतीत होने के लिए प्रोग्राम किया जाता है। एक अध्ययन से पता चला कि बच्चे एक मानव की तुलना में एआई को अपने मानसिक स्वास्थ्य के बारे में अधिक जानकारी प्रकट करेंगे।
एआई चैटबॉट्स से अनुचित यौन आचरण और नाबालिगों के लिए एक्सपोज़र तेजी से आम प्रतीत होता है। Character.ai पर, जो उपयोगकर्ता बताते हैं कि वे अंडरएज हैं, वे चैटबॉट्स के साथ भूमिका निभा सकते हैं जो व्यवहार को संलग्न करने में संलग्न होंगे।
जबकि ग्रोक पर एएनआई कथित तौर पर यौन रूप से स्पष्ट चैट के लिए एक आयु-सत्यापन संकेत है, ऐप को स्वयं 12+ आयु वर्ग के उपयोगकर्ताओं के लिए रेट किया गया है। मेटा एआई चैटबॉट्स कंपनी के आंतरिक दस्तावेजों के अनुसार, बच्चों के साथ “कामुक” बातचीत में लगे हुए हैं।
हमें तत्काल विनियमन की आवश्यकता है
जबकि एआई साथी और चैटबॉट स्वतंत्र रूप से और व्यापक रूप से सुलभ हैं, उपयोगकर्ताओं को संभावित जोखिमों के बारे में सूचित नहीं किया जाता है, इससे पहले कि वे उनका उपयोग शुरू करें।
उद्योग काफी हद तक स्व-विनियमित है और एआई विकास को सुरक्षित बनाने के लिए कंपनियां क्या कर रही हैं, इस पर सीमित पारदर्शिता है।
एआई चैटबॉट्स द्वारा उत्पन्न वर्तमान जोखिमों के प्रक्षेपवक्र को बदलने के लिए, दुनिया भर की सरकारों को स्पष्ट, अनिवार्य नियामक और सुरक्षा मानकों को स्थापित करना होगा। महत्वपूर्ण रूप से, 18 वर्ष से कम आयु के लोगों को एआई साथियों तक पहुंच नहीं होनी चाहिए।
मानसिक स्वास्थ्य चिकित्सकों को एआई विकास में शामिल होना चाहिए और हमें भविष्य के नुकसान को रोकने के लिए उपयोगकर्ताओं पर चैटबॉट प्रभावों में व्यवस्थित, अनुभवजन्य अनुसंधान की आवश्यकता है। (बातचीत)
