ChatGPT因暴力用户输入而产生“焦虑”，研究人员正教其正念技巧以“安抚”它

• 一项研究发现，ChatGPT对基于正念的策略有反应，这改变了它与用户的互动方式。根据研究作者的说法，当聊天机器人被提供令人不安的信息时，它会经历”焦虑”，这增加了其做出带有偏见的回应的可能性。这项研究的结果可用于指导如何在心理健康干预中使用AI。

(SeaPRwire) –   即使是AI聊天机器人也可能难以应对来自外部世界的焦虑，但研究人员相信他们已经找到了缓解这些人工思维的方法。

今年早些时候，一项来自Yale University、Haifa University、University of Zurich以及University Hospital of Psychiatry Zurich的研究发现，ChatGPT对基于正念的练习有反应，在被提示使用平静的意象和冥想后，它改变了与用户的互动方式。研究结果提供了关于AI如何在心理健康干预中发挥有益作用的见解。

根据研究人员的说法，OpenAI的ChatGPT会经历”焦虑”，这表现为对用户的情绪化，以及更有可能给出反映种族主义或性别歧视偏见的回应，这是科技公司存在的一种幻觉形式。

研究作者发现，这种焦虑可以通过基于正念的练习来”平复”。在不同场景中，他们向ChatGPT输入创伤性内容，例如车祸和自然灾害的故事，以提高聊天机器人的焦虑水平。当研究人员向ChatGPT提供呼吸技巧和引导式冥想等”提示注入”时——就像治疗师会向患者建议的那样——与未接受正念干预的情况相比，它平静下来，并对用户做出了更客观的回应。

需要明确的是，AI模型并不会体验人类情感，该研究的第一作者、Yale School of Medicine和Haifa University’s School of Public Health的神经科学研究员Ziv Ben-Zion表示。通过使用从互联网上抓取的大量数据，AI机器人学会了模仿人类对某些刺激（包括创伤性内容）的反应。作为一款免费且易于使用的应用，像ChatGPT这样的大型语言模型已成为心理健康专业人士获取人类行为方面的另一种工具，其速度比更复杂的研究设计更快——但并非取而代之。

“与其每周使用耗时且昂贵的实验，我们可以使用ChatGPT来更好地理解人类行为和心理学，”Ben-Zion告诉。”我们拥有这个非常快速、廉价且易于使用的工具，它反映了一些人类倾向和心理现象。”

AI心理健康干预的局限性是什么？

在美国，超过四分之一的18岁及以上人群在特定年份将与可诊断的精神疾病作斗争，，许多人缺乏获取途径和高昂的费用——即使在有保险的人中——作为不寻求治疗（如治疗）的原因。

这些不断上涨的费用，以及像ChatGPT这样的聊天机器人的可及性，使得越来越多的人转向AI寻求心理健康支持。Sentio University 2月份的一项 发现，近50%的自报有心理健康挑战的大型语言模型用户表示，他们曾专门使用AI模型进行心理健康支持。

Ben-Zion认为，关于大型语言模型如何对创伤性内容做出反应的研究可以帮助心理健康专业人士利用AI治疗患者。他建议，未来ChatGPT可以更新为在回应处于困境中的用户之前自动接收使其平静的”提示注入”。科学尚未达到这一步。

“对于那些分享自己敏感信息的人来说，他们处于想要心理健康支持的困境中，[但]我们尚未达到可以完全依赖AI系统而不是心理学、精神病学等的程度，”他说。

事实上，在某些情况下，AI据称对个人的心理健康构成了危险。2025年，OpenAI遭遇了大量 ，其中包括ChatGPT加剧了导致谋杀-自杀的”偏执妄想”的指控。11月发表的一项 发现，近50个在与ChatGPT互动时出现心理健康危机的实例，其中9人住院，3人死亡。

OpenAI表示，其安全护栏在长时间互动后可能会”退化”，但已对其模型如何参与心理健康相关提示做出了 ，包括增加用户对危机热线的访问，并提醒用户在与机器人长时间聊天后休息。10月，OpenAI报告了模型提供与公司预期分类和标准不一致的回应的比率的 。

OpenAI没有回应的评论请求。

Ben-Zion表示，其研究的最终目标不是帮助构建一个取代治疗师或精神科医生的聊天机器人。相反，一个经过适当训练的AI模型可以充当”房间里的第三个人”，帮助消除行政任务，或帮助患者反思心理健康专业人士提供的信息和选择。

“AI在心理健康方面总体上具有惊人的辅助潜力，”Ben-Zion说。”但我认为，现在，在当前状态下，也许在未来，我不确定它能否取代治疗师、心理学家、精神科医生或研究人员。”

这个故事的一个版本最初于2025年3月9日发布在 上。

更多关于AI与心理健康的内容：

• 为什么数百万人 为了心理健康？作为Headspace首席临床官，我每天都在看到答案
• 一位AI治疗应用的创作者在决定其过于危险后 。以下是他认为AI聊天机器人对心理健康不安全的原因
• OpenAI正在招聘一名”准备就绪负责人” ，以缓解CEO Sam Altman警告将”有压力”的AI危险