在社会模拟中使用 LLM 有哪些陷阱？

流畅的智能体不等于经过验证的智能体

论文的核心警告是：语言流畅并不能可靠地代表社会效度。LLM 智能体会生成连贯的叙事轨迹，而人类评估者往往把这种连贯性读成真实决策机制的证据。作者把这种评估者失误称为“流畅性谬误”：评判者把表层语言上的可信度误认为因果意义上的社会能动性。在他们看来，表达清晰的轨迹常常掩盖了幻觉断言、缺乏依据的启发式规则以及潜在的群体分布偏差。

这一点之所以重要，是因为这篇综述讨论的不是用 LLM 编写模拟代码。它只关注把 LLM 用作模拟智能体的内部决策引擎——即处理感知、维持记忆并形成目标导向行动的计算机制，这一角色传统上由 BDI 或 SOAR 等符号架构承担。一旦模型占据这个位置，它的行为和认识论局限就成为模拟社会的属性，而不再是文本生成中的偶发问题。

微观错误如何变成宏观假象

“微观到宏观效度缺口”是论文用来追踪个体层面局限如何放大的框架。作者描述了四个层级。第 1 层是模型层面的偏差：随机生成、事实幻觉、训练数据不平衡、对齐与安全调优，以及上下文窗口漂移。第 2 层是智能体表现，这些偏差表现为“平均人格”偏差、不受控的变异、迎合与顺从、人格随时间漂移，以及生成式刻板化。

第 3 层是互动传播：智能体之间的对话、记忆污染、从众与同伴效应、迭代反馈回路，以及内生的规范漂移。第 4 层是宏观后果：人为共识、方差同质化、虚假极化、路径依赖漂移，以及不稳定的宏观均衡。该框架允许两个方向的演化。放大通过级联和阈值效应发生；收缩则通过向主导模型先验的吸引子坍缩发生。无论哪种方向，聚合结果都可能表现出表面上的真实感，却在因果上与目标社会系统脱节。

人格提示词不能保证行为多样性

第 2 层内部有一个具体机制。平台通常试图通过给智能体初始化人口属性、社会经济特征、信念、职业、文化背景或人格描述来制造行为多样性，这些属性从调查分布或人类信念网络中采样，有时还会加入角色专属的记忆结构和提示模板。这些技术增加了智能体输入在描述层面的差异。

论文指出，这些做法本身并不能保证持续的行为异质性。综述引用的实证评估表明，即使人格提示词各不相同，模型仍可能回落到通用或符合社会规范的回应模式。反过来，更强力地强制塑造独特角色，可能产生夸张、刻板或有毒的漫画式形象，而不是经过校准的行为差异。因此，设计问题不仅在于初始化多样化的画像，还在于在整个模拟运行过程中维持并验证具有理论意义的行为差异。

共享记忆让局部错误变成系统性问题

互动是缺口扩大的地方。编排层按顺序安排感知、记忆检索、反思、规划和行动，智能体可以通过直接消息、模拟调查、公开广播、共享记忆或黑板式流程交换信息。这些渠道支持灵活的社会互动，但也开辟了路径，让幻觉、误导性或对抗性内容进入后续智能体的上下文，并影响之后的决策。

在相互连接的人群中，这类内容可能被检索、转发或并入共享状态，使局部错误难以隔离和评估。综述在对抗与滥用条目中指出，系统容易受到提示注入和涌现性规范漂移的影响，被污染的行为会通过共享记忆扩散，扭曲集体推理。它提出的防护措施是受约束的互动协议：类型化、有权限、受监控且可审计的沟通渠道，阻止不受约束的自然语言提示注入进入共享的智能体记忆。

环境接地修正可行性而非认知

在纯文本架构中，语言模型可能既提出行动，又隐式地表示该行动在空间、物理、制度或经济上是否可行。如果没有外部机制验证前提条件并更新世界状态，智能体可能提出与可用资源、网络拓扑、环境条件或情景规则不相容的行动。

若干框架通过把生成式决策与显式环境耦合来解决这个问题：在出行和疏散研究中，交通网络、空间可达性、灾害和资源约束会决定哪些计划可以执行；土地利用模型中的环境和经济动态会约束政策行动的后果；Concordia 等架构则把智能体经由语言提出的行动，与环境组件分开，由后者检查可行性并施加后果。环境接地提高了状态转移的内部一致性，也让可行性假设变得明确。但它不能证明产生可行行动的认知或社会推理在心理上是有效的——正是这一区分促成了论文提出的混合架构。

聚合层面吻合无法识别机制

验证是综述指出的核心方法论瓶颈。一些平台将模拟输出与观察到的社会指标进行比较，例如调查得出的态度分布、经济行为、投票率或网络层面的扩散模式；例如，AgentSociety 被描述为使用综合社会调查和世界价值观调查等工具来评估模拟。其他研究则复现公共品博弈或谣言传播等实验范式。

聚合层面的一致并不能表明模型是通过有效的个体层面机制产生这些模式的。经典 ABM 早已把这个问题称为等效性：多组不同的微观规则集可以产生在统计上无法区分的宏观模式。面向模式的建模通过要求架构同时复现跨组织层级和时空尺度的多个观察模式来缓解这一问题。综述认为，LLM 改变了问题的性质。在传统 ABM 中，候选机制是显式方程或规则集，其参数可以通过敏感性分析和参数空间剔除来约束。在 LLM 智能体中，决策机制位于不透明的基础模型权重中，由自然语言提示词调节，因此等效性变成了一种认识论障碍：结构上有缺陷的认知模型可以生成看似合理的聚合分布，同时免受直接的机制证伪。

混合架构限制风险但不消除风险

论文的建设性提议是理论驱动的混合化：把 LLM 嵌入显式、机制化、可复现的 ABM 框架，采用 LLM 作为子程序、LLM 作为策略等耦合模式，并结合行为理论和小型语言模型。混合化可以改善环境接地、计算控制以及行为假设的显式程度。但它本身不能确立认知或社会效度，作者表示，它把认识论不确定性限制并容纳在显式状态空间内，而不是消除这些不确定性。

由此还有两点提醒。第一，效度需要多层次评估，覆盖环境动态、个体行为、跨层互动和聚合结果。第二，混合系统仍然容易受到“物理洗白”的影响：经过验证的生物物理引擎所具有的形式严谨性，可能给验证不足的行为层带来不应有的可信度。综述提供了一个具体检验：如果在考虑随机方差的事先等价边界下，聚合社会-环境轨迹在双单侧检验（TOST）中仍统计等价，那么生成式智能体层没有提供可识别的解释增益，只是装饰性复杂度。当引擎的严谨性被用来为未经验证的生成层主张科学效度时，这就成了物理洗白的一个实例。

LLM 智能体在哪些场景中站得住

这篇综述并非全盘否定。它指出了基于 LLM 的智能体具有操作价值的场景：严肃游戏、参与式环境和探索性建模。它把这些用途与使用无约束模型的验证性研究以及精确社会预测区分开来。分界线在于模拟被要求确立什么，而不在于智能体架构看起来有多复杂。

论文自身的优先判断也来自这一区分。在信任一个由 LLM 驱动的社会之前，要检查生成层相对于在同一实证源数据上做零模型消融，是否改变了聚合轨迹，并分别评估环境、个体行为、跨层互动和聚合结果。如果生成层没有增加可识别的解释增益，那么技术栈其他部分的形式严谨性不应被解读为对行为层的验证。

本文引用的文献