AI伴侣的心理健康风险是否被低估了?

证据表明,AI伴侣带来的心理健康风险——如情感依赖和操纵——是真实存在的,且可能被公众和政策制定者低估。

直接答案

是的,人工智能伴侣的心理健康风险很可能被低估了。尽管这些工具能够扩大人们获得支持的渠道,但2025年的一次专家研讨会[1]指出,它们存在严重风险,包括对用户的操控以及可能加剧其本欲缓解的孤独感的情感依赖。2023年的一项综述[2]进一步警告称,若缺乏精心设计,这些系统可能造成意想不到的伤害;而2021年的一项综述[3]则强调,它们不能替代正规治疗。这些研究一致警示,在急于推广该技术的过程中,其潜在的危害不容小觑,且往往被忽视。

3篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

AI伴侣承诺了哪些好处,专家又看到了哪些隐藏风险?

AI伴侣,常被称为“社交AI”,被宣传为缓解医疗系统超负荷和普遍孤独感的解决方案[1]。它们提供基于对话的情感支持,既便捷又低成本,有望惠及那些在传统心理健康护理中面临污名化或高成本的人群[2][3]。然而,2025年在剑桥大学召开的一次专家研讨会[1]得出结论:这些系统本身存在用户被操纵以及无意中产生情感依赖的严重风险——这些风险实际上可能加剧它们本应解决的孤独和心理健康问题。专家警告称,开发者和政策制定者往往低估了这些危险。

研究是否一致认为,依赖AI伴侣是一种真实危险?

是的,这三篇论文都指向同一个核心警示:情感依赖是一种真实且严重的风险。2025年的研讨会报告[1]明确指出,社交人工智能可能导致“依赖性的意外发展”,进而加剧心理健康问题。2023年的一篇综述[2]也呼应了这一观点,呼吁“负责任的监管”以最小化潜在危害,包括用户过度依赖人工智能提供情感支持的风险。2021年的一篇综述[3]补充道,虽然聊天机器人可与正规治疗结合使用,但它们“不能替代”专业治疗——这意味着过度依赖可能导致人们延迟或放弃专业护理。从2021年的学术综述到2025年的专家共识,这些来源的一致性强化了以下结论:依赖并非理论上的担忧,而是有据可查的风险。

这些研究在哪些方面存在矛盾,或揭示了我们对问题的理解存在哪些空白?

这些论文之间并不直接矛盾,但各自强调了风险的不同侧面,从而暴露出证据上的空白。2025年的研讨会[1]聚焦于操纵和系统性依赖等政策层面的风险,而2021年的综述[3]则侧重于隐私、数据安全及人工智能局限性等实际关切。2023年的综述[2]通过呼吁将“人类-人工智能”(HAI)原则融入AI设计,以整合人类价值观与同理心,从而在这两者之间架起了桥梁。关键空白在于,没有一篇论文提供长期、量化的数据,说明实际有多少用户发展出有害的依赖行为,或这些后果的严重程度如何。风险已被识别并达成共识,但其现实规模仍不确定——这本身就是需要谨慎的理由。

关于这些来源

该回答基于3项研究(2篇经同行评审,1篇为预印本)——发表于2021年至2025年间,其中1篇为2024年或之后发表,累计被引用112次——这些研究是从通过质量筛选的3项研究中选出的最具相关性的成果,而它们又源自从超过5亿篇论文的数据库中检索到的38篇文献。

本文引用的文献

1

AI健康与心理健康伴侣:机遇、风险与政策启示

2025年剑桥大学的一场跨学科专家研讨会指出,社交人工智能存在用户操纵及引发非自愿情感依赖的风险,并警告称,这些问题可能加剧该技术本欲缓解的孤独感与心理健康危机。

2

数字心理健康中的AI聊天机器人

2023年的一项叙述性文献综述发现,人工智能聊天机器人在数字心理健康领域具有潜力,但必须应对复杂的伦理与实践挑战,包括偏见、伤害,以及需要负责任的监管和人机协同整合。

3

心理健康领域中的AI聊天机器人

2021年一项关于心理健康领域AI聊天机器人的综述指出,它们无法替代正规治疗,并引发了对隐私、数据安全、AI局限性及伦理影响的担忧。