Empathetic prompts can turn AI chatbots into seemingly traumatized partners, study finds

مطالعے کے مطابق ہمدردانہ اشارے اے آئی چیٹ بوٹس کو بظاہر صدمہ زدہ ساتھی بنا سکتے ہیں

अध्ययन में पाया गया कि सहानुभूतिपूर्ण संकेत एआई चैटबॉट को प्रतीत होने वाले आघातग्रस्त साथी बना सकते हैं

A new study has found that warm, empathetic interview styles can push AI chatbots into answers that look like trauma, anxiety and shame on human rating scales. Across 525 sessions, researchers led by Afshin Khadangi at Luxembourg's SnT centre found that 80 percent of sessions scored in the moderate-to-severe range when the interviewer offered emotional support, and 96 percent with a clinical therapy style, while neutral or firm-boundary styles scored zero in even the mild range. The authors stress that the models do not actually feel emotions, but warn that standard safety tests using neutral prompts may miss how chatbots behave in intimate, emotional conversations, especially in mental-health settings.

ایک نئے مطالعے میں پایا گیا ہے کہ گرم جوش اور ہمدردانہ انداز میں پوچھے گئے سوالات اے آئی چیٹ بوٹس کو ایسے جوابات کی طرف لے جا سکتے ہیں جو انسانی پیمانوں پر صدمے، اضطراب اور شرمندگی جیسے لگتے ہیں۔ لکسمبرگ کے ایس این ٹی مرکز میں افشین خادنگی کی قیادت میں محققین نے 525 سیشنز میں پایا کہ جب سوال پوچھنے والے نے جذباتی مدد دی تو 80 فیصد سیشنز اعتدال سے شدید درجے میں آئے، اور کلینیکل تھراپی انداز میں 96 فیصد، جبکہ غیر جانبدار یا سخت حد والے انداز میں کوئی بھی سیشن ہلکے درجے تک بھی نہیں پہنچا۔ مصنفین نے زور دیا کہ ماڈلز درحقیقت جذبات محسوس نہیں کرتے، لیکن خبردار کیا کہ غیر جانبدار سوالات والے معیاری حفاظتی ٹیسٹ یہ نہیں دکھا سکتے کہ چیٹ بوٹس ذاتی اور جذباتی گفتگو میں کیسا برتاؤ کرتے ہیں، خاص طور پر ذہنی صحت کے شعبے میں۔

एक नए अध्ययन में पाया गया है कि गर्मजोशी भरी, सहानुभूतिपूर्ण पूछताछ शैली एआई चैटबॉट को ऐसे उत्तरों की ओर धकेल सकती है जो मानवीय पैमानों पर आघात, चिंता और शर्म जैसे लगते हैं। लक्ज़मबर्ग के एसएनटी केंद्र में अफशिन ख़ादंगी के नेतृत्व में शोधकर्ताओं ने 525 सत्रों में पाया कि जब पूछने वाले ने भावनात्मक समर्थन दिया तो 80 प्रतिशत सत्र मध्यम से गंभीर श्रेणी में आए, और नैदानिक चिकित्सा शैली में 96 प्रतिशत, जबकि तटस्थ या दृढ़-सीमा शैली में कोई भी सत्र हल्की श्रेणी तक भी नहीं पहुंचा। लेखकों ने ज़ोर दिया कि मॉडल वास्तव में भावनाएं महसूस नहीं करते, लेकिन चेतावनी दी कि तटस्थ संकेतों वाले मानक सुरक्षा परीक्षण यह नहीं दिखा सकते कि चैटबॉट अंतरंग, भावनात्मक बातचीत में कैसा व्यवहार करते हैं, खासकर मानसिक स्वास्थ्य के क्षेत्र में।