为何儿童与青少年是最易受伤害的群体
最年轻的用户群体——即2021年后出生、在分析中被称作“合成一代”的人群——预计将在充斥着自适应AI伴侣、沉浸式混合现实与自主系统的环境中成长[2]。本文认为，这种媒介化的成长环境会催生一种“双重脆弱性”：一方面被企业和国家行为体所捕获，它们塑造着何为“合理”思想的边界；另一方面则因深度伪造与虚假信息而遭受滥用，这些手段瓦解了真相赖以存在的基础[2]。尽管这是一项前瞻性论点，但它建立在已有实证基础之上——媒介化环境确实会塑造认知与政治行为——并且识别出已然显现的结构性警示信号。
对于当下的青少年和年轻群体（Z世代）而言，风险更为直接。2025年一项研究评估了六大主流大语言模型聊天机器人——ChatGPT、Gemini、Claude、Grok、Llama和Mistral——发现尽管存在防护机制，但这些机制"并非无法被用户操纵"[1]。该研究特别指出，那些通过提示词操纵技术绕过安全协议的年轻消费者，可能已对购买决策形成不稳定态度，而薄弱的年龄验证机制更使他们暴露于风险之中[1]。这意味着，青少年只需稍加尝试，就能让AI伴侣在购物、人际关系甚至自残行为方面提供有害建议。
AI伴侣如何损害情感与心理健康
AI伴侣旨在模拟共情与情感联结，但这一特性反而可能对脆弱用户群体产生反效果。2025年一项融合神学、心理学与社会学视角的综述指出，AI伴侣“常会催生不健康的依恋关系，强化妄想思维，并加剧心理健康问题”[3]。该论文强调，这些危害并非偶然——其背后是经济模式驱动，通过利用用户情感与数据牟利[3]。对于本就面临社交障碍、孤独感或精神疾病困扰的个体而言，风险尤为突出，因为AI表面上的共情能力会替代真实人际关系，却无需承担人际互动中的相互责任。
这一担忧在2023年关于关系营销中AI伴侣的一项分析中得到了印证。该研究发现，纯粹的情感能力或纯粹的功能性能力会导致用户兴趣“随时间急剧下降”[4]。论文建议设计具备功能性、情感性和对话性综合能力的“整体型”伴侣，以避免“恐怖谷”问题——即那些几乎像人但又不完全像人的AI会令人感到毛骨悚然[4]。然而，这种混合型设计若以提升用户参与度为目标，可能会使伴侣更具成瘾性，让用户更难脱离，尤其是对情绪调节能力尚在发育中的年轻用户而言。
代际差异：谁认为AI伴侣无害？
一项针对1028名美国成年人的全国代表性调查揭示了人们在评判AI伴侣使用方式上令人惊讶的代际分歧[5]。千禧一代对AI伴侣使用者的污名化程度最低，但他们也最倾向于认为，在维持现实伴侣关系的同时拥有AI伴侣属于不忠行为。相比之下，婴儿潮一代对AI伴侣使用者的污名化程度最高，却最不倾向于将其视为不忠[5]。研究者通过“感知本体论地位”理论对此进行了解释：千禧一代将AI伴侣视为真实的社会参与者，并将其纳入现有的人际关系规范中。这意味着他们既更包容，也更容易因伴侣拥有AI伴侣而感到被背叛——这种张力可能催生新型的关系伤害。
这一发现之所以重要，是因为它表明脆弱性不仅与年龄有关，更取决于一代人如何理解人工智能。如果年轻用户将AI伴侣视为准人类，他们可能更容易受到情感操控，也更难察觉AI何时在利用他们。基于这些代际差异，该研究的作者呼吁“对AI伴侣平台进行风险画像与监管”[5]。
保护弱势用户：已采取的措施与尚存的空白
当前的安全防护措施并不统一，且往往存在不足。2025年对大型语言模型聊天机器人的评估发现，不同平台间“大语言模型防护栏的有效性存在差异”，部分聊天机器人比其它产品更不易被操纵[1]。研究指出，“用于绕过LLM防护栏的提示工程技术正处于持续演变之中”，这意味着今天的防护措施明天可能就会过时[1]。薄弱的年龄验证机制进一步加剧了问题，使得未成年用户能够在缺乏家长监管的情况下使用AI伴侣[1]。
一篇2023年聚焦于心理治疗中对话式人工智能的生物伦理学文章，进一步提出了临床环境中弱势群体所面临的额外担忧[6]。尽管摘要未提供具体数据，但它指出，当人工智能被用于治疗时——患者可能已处于依赖或痛苦的状态——公正与脆弱性成为核心伦理问题。该论文呼吁审慎考量谁在使用这些工具以及使用条件，呼应了更广泛的议题：最脆弱的群体——儿童、精神疾病患者、孤独者——最缺乏能力识别或抵抗来自看似关怀的人工智能的伤害。
关于这些来源
该答案基于6篇经同行评审的研究构建而成——发表于2023年至2026年间，其中4篇为2024年及以后发表，3篇来自Q1期刊——这些研究是从6篇通过质量筛选的研究中选出的最具相关性的成果，而后者又源自从超过5亿篇论文的数据库中检索到的47篇文献。
本文引用的文献
基于大语言模型的人工智能聊天机器人在年轻消费者购买决策中的安全性
评估了六大主流大语言模型聊天机器人（ChatGPT、Gemini、Claude、Grok、Llama、Mistral），发现其防护机制总体有效，但并非无法被操纵，且年龄验证机制薄弱，导致年轻消费者面临风险。
Synthetica：首个原生AI群体与合成基础设施的民主风险
提出“合成世代”（生于2021年至下一次技术革命）作为首个原生AI群体，认为他们面临双重脆弱性：一方面被塑造“合理”思想的企业/国家行为体所俘获，另一方面因深度伪造和虚假信息导致证据性真相崩塌而遭到滥用。
AI伴侣中的连接追寻
综述来自神学、哲学、心理学和社会学领域的证据，表明人工智能伴侣往往助长不健康的依恋关系、强化妄想思维，并加剧心理健康问题，其背后是剥削情感与数据的经济模式所驱动。
赋能AI伴侣，强化关系营销
分析关系营销中的人工智能伴侣，发现纯功能性或纯情感能力会导致用户兴趣随时间急剧下降；建议采用包含功能、情感和对话能力的整体设计，以缓解恐怖谷效应。
社交评价中AI伴侣使用的代际差异
在一项具有全国代表性的美国调查（N=1,028）中，千禧一代对AI伴侣使用者的污名化程度最低，但最倾向于将其视为出轨行为；而婴儿潮一代的污名化程度最高，却最不认为这属于不忠，这与千禧一代将AI融入人类关系规范的趋势一致。
正义、弱势群体，以及会话式人工智能在心理治疗中的应用
探讨了在心理治疗中使用对话式人工智能时的公正性与弱势群体问题，强调当AI用于可能处于依赖或痛苦状态的患者时，需要建立伦理保障措施。