机器人与算法助推身份驱动型内容
自动化账户（即机器人）是放大身份驱动型虚假信息的主要推手。2021年一项针对已知机器人数据集的分析发现，高达66%的机器人账号在讨论COVID-19，这意味着大多数自动化账户正积极参与疫情信息疫情[3]。机器人被设计为利用情感和身份触发机制——它们发布煽动性、两极分化或阴谋论内容以获取高互动量，而社交媒体算法会优先推送这些内容[3]。这便形成了一种反馈循环：机器人制造身份诱导内容，算法因内容引发反应而将其推高，人类用户则出于身份表演动机进一步扩散这些内容[3][4]。
算法本身并非中立。正如2025年的一篇综述所指出的，社交媒体平台的设计旨在最大化用户参与度，而虚假信息——尤其是那些激发强烈身份认同情绪的内容——往往比准确信息获得更多浏览量、点赞和分享[1]。这并非偶然，而是平台经济结构性的特征。同一篇综述呼吁进行系统层面的变革，包括国际监管，以解决这些根本机制[1]。2024年一项关于癌症虚假信息的研究证实了这一模式：不准确的健康帖文在参与度指标上始终优于准确内容，这意味着社交媒体的设计本身就在奖励误导性信息[2]。
下游危害真实存在，但多层面解决方案可应对
身份驱动的虚假信息不仅停留在网络上，还会产生实际后果。例如，接触健康类虚假信息会影响个人的决策，比如选择不接种疫苗，并削弱对公共卫生机构等权威机构的信任[1]。2022年《美国医学会杂志》的一篇观点文章强调，应对这一问题需要多管齐下的策略：算法调整、虚假信息研究与监测，以及对医疗专业人员进行培训，使其能够与在线社区互动[5]。
2025年的审查报告提出了一个包含三级预防的公共卫生框架。三级预防包括监测、辟谣以及对高风险帖子添加警示标签。二级预防涉及助推干预措施——例如当用户试图分享可能虚假的内容时弹出的提示——以及通过教育提升媒体素养。一级预防（作者认为这是最迫切需要的）则要求进行系统层面的变革，并制定国际法规来监管社交媒体行业[1]。若无此类结构性变革，身份驱动的分享、机器人账号以及算法放大效应将持续传播虚假信息，并加剧其对社会造成的危害。
关于这些来源
该回答基于5篇经同行评审的研究——发表于2021年至2025年间，其中2篇为2024年及以后发表，4篇发表于Q1期刊，累计被引用358次——这些研究是从5篇通过质量筛选的研究中选出的最相关成果，而后者又源自一个包含超过5亿篇论文的数据库中所检索到的41篇文献。
本文引用的文献
社交媒体与错误信息的传播：具有传染性且威胁公共健康
2025年的一项综述指出，社交媒体上健康虚假信息的传播存在多种相互关联的成因，包括非专业人士发帖、机器人账号、算法推荐以及平台问责机制不足，并提出了一个三级预防（三级、二级、一级）的公共卫生框架来应对这一问题[1]。
社交媒体上的癌症错误信息
一项2024年关于癌症错误信息的综述发现，社交媒体上不准确的健康帖子在浏览量及互动量（点赞、分享）上始终高于准确信息，且接触此类内容可能损害与健康相关的态度和行为[2]。
社交媒体上的机器人账号与虚假信息传播：对COVID-19的影响
2021年一项对已知机器人数据集的分析发现，高达66%的机器人曾讨论过COVID-19，并综述了机器人利用人类易轻信和传播虚假内容的心理倾向来散布错误信息的策略[3]。
社交媒体上夸大与虚假新闻的放大效应：平台使用、动机、情感及意识形态的作用
一项2022年英国全国代表性调查（样本量=2,005）发现，十分之一的用户经常传播夸大或虚假新闻，而身份表演性分享动机、右翼意识形态以及通过Instagram获取政治新闻是主要预测因素[4]。
社交媒体与医疗虚假信息
一篇2022年《美国医学会杂志》的观点文章概述了ABIM基金会2022年论坛提出的减少医疗错误信息的建议，包括算法调整、研究与监测、医疗专业人员培训以及社区参与[5]。