为什么人们自己就分辨不出来呢？
坦诚地说，大多数人其实无法可靠地区分AI生成的内容和人类撰写的内容，即便他们自认为可以。在一项涉及4600名参与者的六组实验中，研究人员发现，人们无法识别出由最先进的AI语言模型在职业、酒店服务和约会等场景下生成的自我介绍内容[2]。研究表明，人类依赖的是直觉性但存在缺陷的判断依据——例如，认为使用“我”或“我们”这类第一人称代词、“别”这样的缩写，或者谈论家庭话题，就表明作者是人类。这些特征AI很容易模仿，而且研究人员证明，AI系统可以被刻意调整，生成人们认为“比人类更像人类”的文本[2]。这意味着，依赖用户自身的判断力对平台来说并非可行之策。
平台是否需要为AI内容制定全新政策？
与直觉相反，平台能采取的最有效措施并非为AI生成内容单独制定规则，而是严格执行现有规则。2024年的一项分析指出，AI生成内容造成的危害——虚假信息、宣传、非自愿深度伪造——与普通有害内容造成的危害在本质上并无不同[5]。生成式AI虽大幅加剧了问题的规模和速度，但并未创造出全新类型的威胁。因此，平台应"加倍改进并执行现有规则，无论所处理的内容是由人类还是机器生成"[5]。这一策略避免了试图监管技术本身的陷阱，转而聚焦于实际危害，是一种更易操作且法律上更稳妥的方案。
平台现在可以使用的实用工具有哪些？
目前有两种基于实证证据的具体工具可供使用：一是“人在回路”的质量检查机制，二是技术标记（如水印或“AI口音”）。2024年的一项研究提出了HEAT启发式评估法（即人类经验、专业知识、准确性和信任度），作为评估AI生成内容的评级机制[3]。在对初级技术传播学生进行测试时，HEAT方法表现出良好的可靠性：试点测试中的组内相关系数为0.743，后续场景中为0.825——这意味着不同评估者使用该工具给出的评分具有一致性[3]。这种结构化的人工审查能够捕捉错误并提升内容质量，尤其适用于AI表现欠佳的复杂任务，例如分步操作指南[3]。在技术层面，研究人员提出了“AI口音”——即嵌入AI输出中的细微、可检测标记——以减少合成语言可能带来的欺骗性[2]。同样，2023年一项关于ChatGPT及AI生成内容的调查，综述了最先进的水印技术方案，这些方案可为AI生成的文本或图像添加标签，使其可追溯且不影响用户体验[4]。这些工具的最佳效果来自协同使用：技术标记用于检测，人工审查则负责质量与伦理判断。
关于这些来源
该回答基于5篇经同行评审的研究——发表于2023年至2025年间，其中3篇为2024年及以后发表，2篇发表于Q1期刊，累计被引用499次——这些研究是从5篇通过质量筛选的文献中选出的最具相关性的成果，而该筛选结果又源自对超过5亿条文献数据库中检索到的44篇论文的进一步筛选。
本文引用的文献
邪恶无法创造：J.R.R.托尔金的哲学与AI生成内容的滥用
借鉴托尔金的哲学思想，本研究认为人工智能无法创造真正的意义——只会扭曲人类现有的创造力——并得出结论：人工智能应增强而非取代人类的创造性工作，这需要伦理意识与相关政策来保护作者身份。
人类对AI生成语言的直觉判断存在缺陷
在六项涉及4600名参与者的实验中，人类无法识别人工智能生成的自我呈现内容，反而依赖存在缺陷的启发式判断（例如第一人称代词、缩略形式、家庭话题），而这些特征人工智能可以轻易模仿，使其生成的文本被感知为“比人类更有人情味”；该研究提出“人工智能口音”作为解决方案。
在人工智能辅助内容开发中融入人类判断：HEAT启发式方法
在一项针对技术传播初学者的探索性案例研究中，HEAT启发式（人类体验、专业知识、准确性、信任）在评估AI生成内容时表现出良好的可靠性（组内相关系数：试点阶段为0.743，场景阶段为0.825），且专家人工输入有助于优化提示词，从而提升AI输出质量。
关于ChatGPT的综述：AI生成内容、挑战与解决方案
本综述探讨了ChatGPT及AI生成内容在安全、隐私、伦理及法律层面面临的挑战，并讨论了当前最先进的水印技术，旨在使AI生成内容具备可监管性与可追溯性。
审核合成内容：生成式人工智能的挑战
本分析认为，人工智能生成内容所带来的威胁，在本质上与普通有害内容并无不同。因此，平台应执行现有规则，而非针对合成内容制定全新的专门政策。