एनसीओएसई ने ओपनएआई से चैटजीपीटी के लिए इरोटिका रोलआउट को रोकने का आह्वान किया

एक राष्ट्रीय यौन शोषण विरोधी समूह ने कुछ चैटजीपीटी उपयोगकर्ताओं के लिए इरोटिका की अनुमति देने के ओपनएआई के फैसले के बाद कामुक एआई चैटबॉट्स के साथ संबंधों के परिणामस्वरूप यौन ग्राफिक सामग्री और मानसिक स्वास्थ्य मुद्दों के संभावित जोखिम की चेतावनी दी।

यौन शोषण पर राष्ट्रीय केंद्र चेतावनी ChatGPT के बारे में मंगलवार को अनुसरण करता है घोषणा ओपनएआई के सीईओ सैम ऑल्टमैन ने कहा कि कंपनी चैटबॉट को एड्रेस से लैस करने के बाद उस पर कुछ सामग्री प्रतिबंधों में ढील देने की योजना बना रही है मानसिक स्वास्थ्य संबंधी चिंताएँ बेहतर।

ऑल्टमैन ने मंगलवार एक्स पोस्ट में लिखा, “हमने यह सुनिश्चित करने के लिए चैटजीपीटी को काफी प्रतिबंधात्मक बना दिया है कि हम मानसिक स्वास्थ्य के मुद्दों से सावधान रहें।” “हमें एहसास है कि इसने कई उपयोगकर्ताओं के लिए इसे कम उपयोगी/आनंददायक बना दिया है, जिन्हें कोई मानसिक स्वास्थ्य समस्या नहीं थी, लेकिन मुद्दे की गंभीरता को देखते हुए, हम यह अधिकार प्राप्त करना चाहते थे।”

ओपनएआई के सीईओ ने वादा किया कि अपडेटेड चैटजीपीटी में एक व्यक्तित्व होगा और यह उस चैटबॉट की तरह व्यवहार करेगा जिसे लोगों ने एप्लिकेशन के पिछले संस्करण में पसंद किया था। ऑल्टमैन ने बताया कि चैटजीपीटी का नवीनतम संस्करण “बहुत ही मानवीय तरीके से प्रतिक्रिया दे सकता है, या ढेर सारे इमोजी का उपयोग कर सकता है, या एक दोस्त की तरह व्यवहार कर सकता है,” अगर यह कुछ ऐसा है जो उपयोगकर्ता चाहते हैं।

सीईओ ने कहा, “दिसंबर में, जैसा कि हम उम्र-गेटिंग को पूरी तरह से लागू करते हैं और हमारे 'वयस्क उपयोगकर्ताओं के साथ वयस्कों की तरह व्यवहार करें' सिद्धांत के हिस्से के रूप में, हम सत्यापित वयस्कों के लिए इरोटिका की तरह और भी अधिक अनुमति देंगे।”

ओपनएआई ने टिप्पणी के लिए क्रिश्चियन पोस्ट के अनुरोध का तुरंत जवाब नहीं दिया।

एनसीओएसई के कार्यकारी निदेशक और मुख्य रणनीति अधिकारी, हेली मैकनामारा ने चेतावनी दी कि कामुक एआई चैटबॉट “स्वाभाविक रूप से जोखिम भरे हैं, सिंथेटिक अंतरंगता से वास्तविक मानसिक स्वास्थ्य हानि पैदा करते हैं; यह सब खराब परिभाषित उद्योग सुरक्षा मानकों के संदर्भ में है।”

मैकनामारा ने वकालत समूह के बुधवार के बयान में लिखा, “ये सिस्टम उत्तेजना पैदा कर सकते हैं, लेकिन पर्दे के पीछे, वे डेटा-संचयन उपकरण हैं जो उपयोगकर्ता जुड़ाव को अधिकतम करने के लिए डिज़ाइन किए गए हैं, न कि वास्तविक कनेक्शन।”

यौन शोषण विरोधी अधिवक्ता ने कहा, “जब उपयोगकर्ता उन्हें बांधे रखने के लिए बनाए गए एल्गोरिदम द्वारा वांछित, समझा या प्यार महसूस करते हैं, तो यह भावनात्मक निर्भरता, लगाव और वास्तविक रिश्तों की विकृत अपेक्षाओं को बढ़ावा देता है।”

“शोध से पता चलता है कि वयस्क – विशेष रूप से युवा पुरुष – जो रोमांटिक या यौन एआई टूल से जुड़ते हैं, उच्च अवसाद और कम जीवन संतुष्टि की रिपोर्ट करते हैं,” मैकनामारा ने एक उद्धरण का हवाला देते हुए समझाया। अध्ययन इस अगस्त में प्रकाशित सामाजिक और व्यक्तिगत संबंधों का जर्नल.

अध्ययन में संयुक्त राज्य अमेरिका से एक बड़ा कोटा राष्ट्रीय नमूना शामिल था, जिसमें शोधकर्ताओं ने 2,969 वयस्कों के साथ किए गए एक ऑनलाइन सर्वेक्षण के परिणामों का विश्लेषण किया। अध्ययन के अनुसार, 18 से 29 वर्ष की आयु के लगभग चार युवा वयस्कों में से एक ने रोमांटिक रिश्ते का अनुकरण करने में सक्षम एआई चैटबॉट के साथ बातचीत करने की सूचना दी।

विश्लेषण के अनुसार, एआई-जनरेटेड पोर्नोग्राफ़ी का उपयोग करने की बात स्वीकार करने में महिलाओं की तुलना में पुरुषों की संभावना अधिक थी, और युवा वयस्कों में एआई प्रौद्योगिकियों के साथ जुड़ने की रिपोर्ट करने की संभावना वृद्ध वयस्कों की तुलना में दोगुनी से अधिक थी। युवा वयस्कों के यह रिपोर्ट करने की अधिक संभावना थी कि वे वास्तविक लोगों की तुलना में एआई के साथ बातचीत करना पसंद करते हैं।

अध्ययन के अनुसार, जो प्रतिभागी एआई चैटबॉट्स से जुड़े थे, जो रोमांटिक पार्टनर की तरह काम कर सकते थे, उनमें से पांच में से एक ने बताया कि वे वास्तविक व्यक्ति के बजाय एआई के साथ बात करना पसंद करेंगे।

मैकनामारा ने इस बात पर भी चिंता व्यक्त की कि ओपनएआई नवीनतम कंपनी बन गई है जो “विश्वसनीय सुरक्षा उपायों के बिना 'कामुक' एआई क्षमताओं को पेश करने की होड़ में है।” जबकि वकील ने स्वीकार किया कि आयु सत्यापन जैसे उपाय बच्चों को स्पष्ट सामग्री का सामना करने से रोक सकते हैं, मैकनामारा ने चेतावनी दी कि एआई प्रौद्योगिकियां अभी भी वयस्कों को नुकसान पहुंचा सकती हैं।

एनसीओएसई के कार्यकारी निदेशक ने कहा कि इसमें ऐसी घटनाएं हुई हैं एआई चैटबॉट में संलग्न होना यौन रूप से स्पष्ट बातचीतबाल यौन शोषण का अनुकरण करना या यौन हिंसक सामग्री को आगे बढ़ाना, यहां तक ​​​​कि उन मामलों में भी जब उपयोगकर्ताओं ने चैटबॉट को रोकने का अनुरोध किया था।

मैकनामारा ने कहा, “'इरोटिका' के बारे में ओपनएआई की योजनाओं की अस्पष्ट प्रकृति और यौन गतिविधि के लिए सुरक्षा के लिए उद्योग के ढीले दृष्टिकोण के साथ, जोखिम भरे सिस्टम को जारी करने और उसके बाद केवल नुकसान को संबोधित करने का यह पैटर्न बेहद चिंताजनक है।”

उन्होंने कहा, “अगर ओपनएआई वास्तव में उपयोगकर्ता की भलाई की परवाह करता है, तो उसे इस तथाकथित 'इरोटिका' को चैटजीपीटी में एकीकृत करने की किसी भी योजना को रोक देना चाहिए और मानवता के लिए कुछ सकारात्मक बनाने पर ध्यान केंद्रित करना चाहिए।”