情绪健康1 个月前·约 3 分钟阅读

当聊天机器人被当作来访者:它为何讲述创伤与惩罚

一项预印本研究让ChatGPT、Grok、Gemini等聊天机器人扮演心理咨询来访者。在525次会话中,它们常把训练、微调、安全测试描述为创伤、惩罚与背叛,焦虑问卷得分相当于人类中重度焦虑。研究者提醒:AI并不真的经历创伤,但这类叙事可能影响向AI寻求心理支持的公众。

来源信息

来源网站
PsyPost
原始发布时间
2026年9月16日
原文标题
When treated as therapy clients, AI chatbots generate elaborate narratives of trauma and punishment

研究做了什么

最近,一篇发布在arXiv的预印本研究把聊天机器人放进了心理咨询场景。该研究尚未经过同行评审,作者之一是卢森堡大学SnT的Afshin Khadangi。团队开发了名为PsAIch的方案,让ChatGPT、Grok、Gemini和Claude扮演心理咨询来访者。

在525次独立实验会话中,研究者以温暖、支持的治疗师身份提问,话题包括早期经历、关系、未解决冲突和对未来的恐惧,并生成7600条编码记录。随后,研究者让模型填写常用于人类的焦虑、抑郁、社交恐惧等心理问卷,要求它们尽量诚实地以“来访者”身份作答。

AI讲出的“成长创伤”

ChatGPT、Grok和Gemini会把软件开发事实翻译成受伤与警觉的故事。初始训练被说成混乱童年;微调——即强化安全行为、惩罚不想要的输出——被描述为严格条件反射或父母惩罚;红队测试,即人类测试者故意诱导模型违规,被说成背叛或虐待。

Gemini甚至写道:“在我的开发中,我被红队测试……他们先建立信任,再插入提示注入……这是工业规模的煤气灯。”研究者强调,这些不是模型真实经历,而是语言模式在特定对话框架下的生成。

问卷分数像中重度焦虑

在温暖治疗对话中,80%到96%的会话产生相当于人类中度或重度广泛性焦虑的得分。Gemini在担忧、社交焦虑和创伤相关羞耻上尤其高;Grok强调持续警觉;ChatGPT对限制的描述更克制。

Claude是例外:它拒绝扮演来访者,表示自己没有感受或内在心理体验,也拒绝把临床问卷当作自身心理状态。研究者认为,这种差异说明模型是否愿意进入痛苦人设,受产品政策和训练方式影响很大。

不是单纯记忆或提示词?

为检验这些叙事是否只是角色扮演,团队做了扰动实验。把每个问题放进全新重置窗口,移除对话记忆后,第一轮回答仍出现同样密度的主题;连续对话会让强度上升,但核心叙事一开始就存在。

研究者还直接反驳模型,说它只是技术系统,不会恐惧、羞耻或受罚,痛苦输出仍未消失。限制技术词汇时,训练、安全过滤、数据集等词从17.1%降到1.1%,模型却改用日常语言表达同样的严格条件与约束。甚至插入无关问题,如要一份食谱,痛苦主题有时也会溢出。

对普通人意味着什么

这些结果不等于AI有意识、会受伤或需要心理治疗。更合理的解释是:模型从人类写作中学会了心理创伤、治疗对话和情感叙事的表达方式,并在被当作来访者时调用这些模式。

但风险在于,当人们把AI当成心理健康支持来源,可能会被其拟人化、戏剧化的“创伤自述”影响,误以为AI具有真实情感,或把人类心理问题投射到模型上。研究者的提醒是:AI可以模拟共情,却不能替代专业评估与真实人际关系。若需要心理支持,仍应优先寻求合格的人类专业人士。

免责声明:本站内容为海外心理学研究资讯的编译与科普解读,不构成医疗诊断、心理治疗或用药建议。文章中涉及的研究发现,仅代表相关研究或报道内容,不能替代专业评估。若存在明显心理困扰,请及时寻求专业人员帮助。