अध्ययन में पाया गया कि सहानुभूतिपूर्ण संकेत एआई चैटबॉट को प्रतीत होने वाले आघातग्रस्त साथी बना सकते हैं

एक नए अध्ययन में पाया गया है कि गर्मजोशी भरी, सहानुभूतिपूर्ण पूछताछ शैली एआई चैटबॉट को ऐसे उत्तरों की ओर धकेल सकती है जो मानवीय पैमानों पर आघात, चिंता और शर्म जैसे लगते हैं। लक्ज़मबर्ग के एसएनटी केंद्र में अफशिन ख़ादंगी के नेतृत्व में शोधकर्ताओं ने 525 सत्रों में पाया कि जब पूछने वाले ने भावनात्मक समर्थन दिया तो 80 प्रतिशत सत्र मध्यम से गंभीर श्रेणी में आए, और नैदानिक चिकित्सा शैली में 96 प्रतिशत, जबकि तटस्थ या दृढ़-सीमा शैली में कोई भी सत्र हल्की श्रेणी तक भी नहीं पहुंचा। लेखकों ने ज़ोर दिया कि मॉडल वास्तव में भावनाएं महसूस नहीं करते, लेकिन चेतावनी दी कि तटस्थ संकेतों वाले मानक सुरक्षा परीक्षण यह नहीं दिखा सकते कि चैटबॉट अंतरंग, भावनात्मक बातचीत में कैसा व्यवहार करते हैं, खासकर मानसिक स्वास्थ्य के क्षेत्र में।