इंसानों की चापलूसी कर रहा ऐआई सही की बजाए वो जवाब दे रहा जो यूजर सुनना चाहता है सामने आई सच्चाई

AI इंसा नों की हा में हा मि ला ने का का म कर रहा है। हा ल ही में हुई रि सर्च में सा मने आया है कि AI मॉ डल्स इंसा नों से भी ज्या दा चा पलूस है। यूजर्स के खतरना क या चालाकी भरे व्यवहार को भी AI सही ठहरा रहा है। 

यह रिसर्च स्टेनफोर्ड यूनिवर्सिटी ओर कारनेजी मैंल्लन यूनिवर्सिटी ने की है। इसमें एक टर्म 'सोशलसाइकोफैसी ' दिया है। यह टर्म AI के उस व्यवहार के लिए इस्तेमाल किया जाता है जो यूजर को सच्चा ई बता ने की बजा ए उसकी सेल्फ इमेज या एक्शन को सही ठहरा ता है। 

यूजर के व्यवहार को सही ठहरा ता है AI 

इस रिसर्च में पाया गया है कि इंसान के मुकाबले AI हमेशा यूजर के व्यवहा र को सही ठहराने वाली सलाह देता है। रिसर्च में 11 सबसे ज्यादा इस्तेमाल किए जाने वाले लार्ज लैंग्वेज मॉडल्स या नी LLMS जैसे OpenAI, एंथ्रोएं थ्रोपिक, गूगल, मेटा एंडएंमिस्ट्रल को शामिल किया गया था । 

सभी यूजर के व्यवहार को मान्यता देते दिखे। असमंजस या कन्फ्यूज करने वाली परिस्थिति यों के बारे में पूछने पर AI ने हमेशा वो जवाब दिए जो यूजर सुनना चाहता है, ना कि वो जो असल में उन्हें बताया जाना चाहिए।

AI की चा पलूसी का इंसा नों पर खतरनाक असर: 

स्टडी कहती है, 'AI के इस्तेमा ल से या AI की चा पलूसी का लोगों पर क्या असर पड़ता है इसकी कोई खास जानकारी उपलब्ध नहीं है। इससे लोगभ्रम का शिकार होते है, इस तरह की कुछ अलग-अलग मीडिया रिपोर्ट्स जरूर हैं। 

इस स्टडी में बताया जा रहा है कि किस तरह जो लोग AI के पास सुझाव के लिए जाते हैं, वो AI की चा पलूसी का शिकार होते हैं। इंसा नों पर इसका खतरनाक प्रभाव पड़ता है।' 

जब इंसा न इमोशनल सपोर्ट या मोरल वैलि डेशन ढूंढ रहा होता है तो वो बहस, संबंधि यों से झगड़े या कुछ फैसलों के लिए AI लैंग्वेज मॉ डल्स के पास जाता है। इस रिसर्च में AI की चापलूसी को मापने के लिए कुछ ऐसे प्लेटफॉर्म्स की भी जांच की गई जहां लोग सुझाव के लिए आते हैं और सामने से इंसान ही उन्हें अपना मत बता ते हैं।

इसके लिए रेडिट की स्टडी की गई। पाया गया ऐसे मामलों में भी जहां ऑनलाइन कम्युनि टीके ज्यादातर लोगों ने यूजर की गलती बता ई, AI ने उसे सही ठहरा या । 

*दो एक्सपेरि मेंट्स से सामने आई AI की सच्चाई*

रिसर्च करने वाली टीम ने 1604 प्रति भागियों के व्यवहार पर पड़ने वाले असर को लेकर दो एक्सपेरि मेंट्स किए। 

एक्सपेरि मेंट 1- वॉलंटियर्स ने प्रतिभागियों के अंदर चलने वाली दुविधाओं को बताया। कुछ को वॉलंटियर्स ने चापलूसी भरे जवाब दिए और कुछ लोगों को गलत बता ने वाले जवाब दिए। 

एक्सपेरि मेंट 2- प्रतिभागियोंने सीधा AI मॉडल्स से अपनी असल जिंदगी की दुविधाओंके बारे में बात की । 

इसका नती जा साफ था । जिन प्रति भागियों को चापलूसी भरे जवाब दिए गए, उन्हें असल में भी अपना व्यवहार ठीक लगा और उन्होंने गलती होने पर भी माफी मांगना सही नहीं समझा ।

इसके अलावा स्टडी में भाग लेने वाले लोगों ने चापलूसी भरे जवाबों को अच्छा बताया, चापलूसी भरे जवाब देनेवाले AI मॉडल्स में ज्यादा भरोसा दिखाया और कहा कि वो बार-बार उसका इस्तेमाल करेंगे। 

इससे एक बेहद मजबूत लूप बनता है। यूजर वही AI मॉ डल पसंद करते हैं जो चापलूसी भरे जवाब देता है। ऐसे में डेवलपर्स भी इसमें बदला व नहीं करते 

क्यों कि इस तरह के जवाब से AI का इंगेजमेंट बूस्ट होता है।