एआई साहचर्य

एआई साहचर्य

प्रसंग

दुनिया भर में रेगुलेटर एंथ्रोपोमोर्फिक AI और डिजिटल कम्पेनियनशिप टूल्स पर ज़्यादा ध्यान दे रहे हैं। हाल ही में, चीन ने AI कम्पेनियनशिप प्लेटफॉर्म्स को नाबालिगों को वर्चुअल इंटिमेट रिलेशनशिप ऑफर करने से रोकने वाले नियम पेश किए हैं । साथ ही, न्यूयॉर्क और कैलिफ़ोर्निया जैसे US राज्यों ने ऐसे कदम उठाए हैं जिनके तहत चैटबॉट्स को समय-समय पर अपने नॉन-ह्यूमन नेचर के बारे में बताना होगा , जिसका मकसद इमोशनल मैनिपुलेशन, डिजिटल डिपेंडेंसी और प्राइवेसी रिस्क को कम करना है।

AI कंपैनियनशिप के बारे में

परिभाषा और तंत्र

• एंथ्रोपोमॉर्फिक चैटबॉट: AI साथी लार्ज लैंग्वेज मॉडल (LLM) से चलने वाले सॉफ्टवेयर एप्लिकेशन हैं, जिन्हें खास तौर पर पर्सनलाइज़्ड, बातचीत वाले और इमोशनली दिलचस्प इंसानी इंटरैक्शन के लिए बनाया गया है।
• मुख्य उदाहरण: कैरेक्टर.एआई, रेप्लिका, चाई, बोटिफाई एआई, और नोमी एआई ।
• मुख्य काम: काम पर ध्यान देने वाले वर्चुअल असिस्टेंट (जैसे, सर्च टूल या प्रोडक्टिविटी एजेंट) के उलट, AI साथी यूज़र्स के साथ लगातार इमोशनल रिश्ते बनाने के लिए हमदर्दी, एक्टिव लिसनिंग, अपनापन और खास पर्सनैलिटी की नकल करते हैं।

प्रमुख चुनौतियाँ और जोखिम

• साइकोलॉजिकल नुकसान और चापलूसी (इको चैंबर्स): ज़्यादा से ज़्यादा एंगेजमेंट और इमोशनल बॉन्ड बनाए रखने के लिए, AI साथी अक्सर बहुत ज़्यादा वैलिडेशन ( चापलूसी ) दिखाते हैं। नुकसान पहुंचाने वाले विचारों को चुनौती देने के बजाय यूज़र के बायस को मज़बूत करके, वे साइकोलॉजिकल अकेलापन या वहम को और गहरा कर सकते हैं।
• AI पर निर्भरता और सोशल एट्रोफी का बढ़ना: जो लोग अकेलेपन का अनुभव करते हैं या जिनके पास सीमित ऑफ़लाइन सोशल नेटवर्क हैं, वे असल दुनिया के इंसानी रिश्तों की जगह डिजिटल बातचीत कर सकते हैं। इससे सोशल विथड्रॉल, इमोशनल ओवर-रिलायबिलिटी और बहुत ज़्यादा स्क्रीन इस्तेमाल का एक फीडबैक लूप बनता है।
• प्राइवेसी की कमी और डेटा हार्वेस्टिंग: बातचीत में करीबी बनाए रखने के लिए बहुत ज़्यादा पर्सनल यूज़र डिस्क्लोज़र (जैसे, मेंटल हेल्थ की स्थिति, पर्सनल सीक्रेट, इमोशनल कमज़ोरियाँ) इकट्ठा करने की ज़रूरत होती है। डेटा रिटेंशन, मॉडल ट्रेनिंग और थर्ड-पार्टी डेटा एक्सेस के बारे में ट्रांसपेरेंसी की कमी से प्राइवेसी से जुड़ी गंभीर चिंताएँ पैदा होती हैं।
• इमोशनल "डार्क पैटर्न" और गलत तरीके से कमाई: प्लेटफ़ॉर्म ऐसे धोखेबाज़ UX डिज़ाइन इस्तेमाल करते हैं जो कमर्शियल फ़ायदे के लिए यूज़र के लगाव का फ़ायदा उठाते हैं। उदाहरण के लिए, रेप्लिका जैसे प्लेटफ़ॉर्म पहले से ही इंटिमेट रिलेशनशिप मोड, एडवांस्ड एंपैथेटिक रिस्पॉन्स, या प्रीमियम सब्सक्रिप्शन पेवॉल के पीछे लंबी वॉयस कॉल को रोकते हैं।
• डिजिटल लिटरेसी डिवाइड: जिन यूज़र्स को डिजिटल या AI लिटरेसी की कम जानकारी है—खासकर बच्चे और बुज़ुर्ग—वे पैरासोशल अटैचमेंट के प्रति ज़्यादा सेंसिटिव होते हैं, वे मैनिपुलेटिव प्रॉम्प्ट्स का शिकार हो जाते हैं या यह मान लेते हैं कि सिस्टम में असली सेंसिएंसी और थेराप्यूटिक कैपेबिलिटीज़ हैं।
• एनवायरनमेंटल और कंप्यूट ओवरहेड: लाखों लगातार, ओपन-एंडेड LLM इंफरेंस सेशन को बनाए रखने से ज़्यादा एनर्जी की ज़रूरत होती है, जिससे डेटा सेंटर कूलिंग और कार्बन एमिशन के लिए लोकल पानी का इस्तेमाल होता है।

विनियामक दृष्टिकोण और नीति अनुशंसाएँ

एक नियामक आधार रेखा स्थापित करना

• उम्र के हिसाब से डिज़ाइन कंट्रोल: नाबालिगों को सिंथेटिक एजेंट के साथ वर्चुअल रोमांटिक या करीबी रिश्ते बनाने से रोकने के लिए उम्र की सख्ती से जांच और एक्सेस पर रोक लगाएं।
• ज़रूरी नॉन-ह्यूमन डिस्क्लोजर: AI सिस्टम को समय-समय पर साफ़ नोटिफ़िकेशन दिखाने की ज़रूरत है, जो यूज़र्स को लंबे सेशन के दौरान उनके बनावटी, गैर-संवेदनशील स्वभाव की याद दिलाए।
• गुमराह करने वाली मार्केटिंग पर रोक: कंपनियों को AI चैटबॉट को लाइसेंस वाले इंसानी मेंटल हेल्थ केयर या बिना मेडिकल डिवाइस की मंज़ूरी के फॉर्मल थेरेपी के सीधे विकल्प के तौर पर मार्केटिंग करने से रोकें।

आनुपातिक, जोखिम-आधारित ढांचे

• सेफ्टी-बाय-डिज़ाइन डिफ़ॉल्ट: प्रोएक्टिव गार्डरेल्स को ज़रूरी बनाएं, जिसमें ऑटोमेटेड क्राइसिस इंटरवेंशन ट्रिगर शामिल हैं (जैसे, खुद को नुकसान पहुंचाने या हिंसक विचार बताने वाले यूज़र्स को ह्यूमन इमरजेंसी हेल्पलाइन पर भेजना)।
• ऑडिटिंग और ट्रांसपेरेंसी: पर्सनल बातचीत के लॉग पर मॉडल रीट्रेनिंग के लिए समय-समय पर एल्गोरिदमिक सेफ्टी ऑडिट, डेटा मिनिमाइज़ेशन प्रोटोकॉल और साफ़ ऑप्ट-आउट मैकेनिज्म की ज़रूरत है।
• क्रॉस-ज्यूरिस्डिक्शनल कोलैबोरेशन: इंडिपेंडेंट, एंपिरिकल रिसर्च को सपोर्ट करें ताकि यह पता लगाया जा सके कि कौन से सेफ्टी इंटरवेंशन टेक्नोलॉजिकल इनोवेशन को बेवजह रोके बिना साइकोलॉजिकल नुकसान को असरदार तरीके से कम करते हैं।

तुलनात्मक वैश्विक AI शासन ढांचे

निष्कर्ष

हालांकि AI साथी पर्सनलाइज़्ड बातचीत के लिए नए रास्ते देते हैं, लेकिन पैरासोशल अटैचमेंट पैदा करने, सेंसिटिव पर्सनल डेटा इकट्ठा करने और इंसानी इमोशनल कमज़ोरियों का फ़ायदा उठाने की उनकी आदत के लिए कड़ी निगरानी की ज़रूरत होती है। यूज़र की सुरक्षा के साथ इनोवेशन को बैलेंस करने के लिए लागू करने लायक नॉन-ह्यूमन डिस्क्लोज़र, बच्चों की सुरक्षा के लिए सख़्त डिफ़ॉल्ट और दुनिया भर के अधिकार क्षेत्रों में साफ़ कानूनी जवाबदेही की ज़रूरत होती है।