AI冒充人類讓聊天更走心

6月30日發表于《自然-人類行為》的一項研究指出，人類傾向于拒絕來自人工智能（AI）對話機器人的情緒支持，除非這種同理心被誤認為來自人類。

生成式AI對話機器人，尤其是使用大語言模型（LLM）的對話機器人，自面向公眾以來，受歡迎程度日益上升。它們可以與用戶進行社交互動并給予情緒支持。

此前研究顯示，LLM驅動的工具能確定使用者的情緒狀態，而且它們的回應也被看作具有同理心和共情能力。不過，之前并不清楚來自對話機器人的支持是否和來自人類的支持具有相同的效果。

在這項研究中，以色列希伯來大學的Anat Perry和同事發現，相比被認為來自人類的支持，AI生成的支持會被視為缺乏同理心，除非那些AI生成的回復被標記為來自人類。

研究人員開展了9項研究，給6282名受試者看了AI生成的回復，并告知他們有些回復是人類寫的，有的是AI對話機器人寫的。Perry和共同作者觀察到，雖然受試者評價他們收到的回復富有同理心，但對他們以為交流對象是人類的回復評價更高。

相比來自AI的即時回應，受試者更愿意等待他們以為來自人類的回復。作者還發現，相比標記為AI生成的回復，受試者以為的來自人類的回復能喚起更多的正面感受，如慰藉、認可、幸福、被理解，以及更少的負面感受，如感到焦慮、生氣、痛苦或煩惱。當受試者認為人類在構思回復時使用了AI協助，那他們對同理心、積極共鳴、正面情緒和支持的評分都更低。

這項研究結果表明，AI對話機器人提供的支持可能存在局限性。尤其是在期待同理心或情緒支持時，人們可能更看重來自人類的回復。不過，由于研究中的交流很簡短，今后需要進一步研究AI工具在長期情緒支持交流中的使用和接受度。

相關論文信息：https://doi.org/10.1038/s41562-025-02247-w