粒度轴：揭秘大模型社交角色的微观与宏观表征

TL;DR

当我们要求 LLM 扮演“忧虑的父母”或“世界银行行长”时，模型是在简单模仿文本风格，还是在其内部空间中真正理解了这些角色的社会尺度差别？近日来自港大与哈工大的研究发现，LLM 内部存在一条极其稳定的粒度轴（Granularity Axis）。这条轴线像一把尺子，将社交角色从个体（Micro）到全球机构（Macro）有序排列。更重要的是，通过干预这条轴线，我们可以直接调节模型说话的“格局”。

1. 痛点：社交模拟中的“视角塌缩”

当前的 LLM 被广泛用于社会模拟、政策评估和多智能体辩论。然而，一个严重的问题是粒度混淆（Granularity Confusion）：如果“央行行长”的决策逻辑和“普通职员”完全共享一套底层模板，那么所谓的视角多样性就只是文字游戏，其内部表征实际上已经塌缩。

作者认为，真正的社交角色区分不仅仅是话题不同，更在于代理权（Agency）、时间范围和结构性约束。微观角色关注即时体验，而宏观角色则受制于制度程序和长远战略。

2. 核心发现：它是主导性的几何结构

研究者通过定义五个粒度等级（L1 个人 -> L5 宏观机构），从 Qwen3-8B 等模型中提取了数万个角色的隐藏状态。

• 主导性对齐：在 Qwen3-8B 中，定义的“粒度轴”几乎等同于角色表征空间的第一主成分（PC1），其余弦相似度高达 0.972，解释了超过一半（52.6%）的变异。
• 单调单调递增：虽然轴线仅通过微观和宏观的两端点对比定义，但原本未参与定义的中间层级（L2, L3, L4）在轴线上的投影呈现完美的单调递增序列。

这意味着 LLM 并非离散地存储每个角色，而是建立了一个连续的社交尺度流形。

3. 方法论详解：从表征到干预

作者采用了 Contrast-and-Project（对比与投影） 流程：

1. 构造：基于 $U_{macro}$ 和 $U_{micro}$ 的差值向量定义轴线 $g$。
2. 验证：通过 PCA 确认 $g$ 与 PC1 的关系。
3. 干预（Steering）：在生成过程中，将该向量与推理状态 $h_t$ 相加：${\hat{h}}_t=h_t+\alpha g$。

通过调节系数 $\alpha$，研究者观察到了惊人的行为转变：

• 正向干预：即使模型原本正在回答一个生活化问题，也会开始使用“机构性框架”、“系统性改革”和“跨国协作”等宏观术语。
• 负向干预：迫使模型从“国家领导人”的高调姿态转向关注“个人预算”、“家庭支持”和“具体困难”。

4. 深度洞察：不同模型的“性格”差异

有趣的是，研究发现不同模型的默认“出厂设置”不同：

• Qwen3-8B：默认状态更偏向宏观逻辑（L3 水平）。在处理通用问题时，它天生就像个“官员”，往微观调容易，往宏观调则容易饱和。
• Llama-3.1：默认状态更为中立，但在强力干预下稳定性较弱，容易出现输出崩溃（Degeneration）。

这种差异表明，**控制力（Controllability）**不仅取决于轴线是否存在，还取决于模型默认的“运行机制”。

5. 总结与展望

这篇论文将社交粒度从一种“文风现象”提升到了“表征原语”的高度。其行业价值在于：

1. 模拟审计：未来可以通过监测代理在粒度轴上的分布，来判断社会模拟系统是否真的具有多视角。
2. 动态可调 LLM：在需要情感支持的对话中抑制“机构腔”，在政策建议中放大“系统视角”。

局限性：目前的轴线仍无法完全剥离“时间跨度”、“权力感”和“正式度”等相关维度。未来的研究需要进一步探索社交特征的正交分解。

---

Takeaway: 社交尺度是 LLM 理解世界的基本坐标之一，我们现在不仅找到了这把尺子，还学会了如何拨动它的刻度。