群体规律不等于个体预测
用于训练人类选择语言模型的大型行为数据集,大多只记录每名参与者在单一任务上的表现。模型在这类数据上能学到人们在许多任务中的平均行为,却从未看到同一个人在不同情境下的表现,因此无法学到个体之间的差异从何而来。论文明确指出:现有大规模行为数据集没有把同一参与者跨任务关联起来,所以这些模型学到的是群体层面的规律,并未被训练去建模跨任务的个体层面规律。
这一区别对标题中的问题很关键。预测“典型参与者会偏好延迟奖励”与预测“这位在老虎机任务中大量探索的特定参与者,会在时间折扣试次中作出某个具体选择”是两个不同的问题。后者需要把行为与具体个人而非具体任务联系起来的证据。
同一批人被追踪完成多个任务
Cross-Psych-101 正是为补上这一缺失环节而构建。它包含 591 名参与者和 261,551 个有效决策,覆盖 12 个任务,分为 Bandit、Tradeoff、Structure 和 Social 四类。同一批参与者完成多个任务,这才使模型能够在一个人的某个任务行为上训练,并在同一个人的另一个任务行为上评估。
作者贡献部分描述了采集流程:参与者被随机分配到任务类别,并保持配额均衡,同时采用基于表现的奖金,以及理解检查、注意力检查和反应时记录等质量控制。因此,该数据集是专门设计的跨任务面板,而不是对现有单任务数据的重新标注。
源任务行为作输入,目标任务选择作输出
Cross-Centaur 的微调提示由三部分组成:源任务描述、同一参与者在源任务中逐试次的行为,以及目标任务描述。模型随后需要输出目标任务的记录,也就是该参与者被预测的选择。训练目标是一种仅作用于动作的语言建模损失,只计算标记动作片段内的 token,因此模型优化的是选择 token,而不是周围文本。
基础模型是 Qwen3-8B,通过 LoRA 权重(秩 16、alpha 32)在八块 NVIDIA GH200 GPU 上训练一个 epoch,学习率为 2×10⁻⁶。由于只训练适配器权重,与 Centaur 和现成 Qwen3-8B 的比较隔离出的是跨任务训练数据和目标函数的作用,而不是基础模型能力的差异。
Cross-Centaur 对两个基线的预测误差都更低
性能以参与者实际选择的负对数似然(NLL)报告,数值越低越好。在种子波动表中,Centaur 的总体 NLL 为 0.652±0.002,Cross-Centaur 为 0.646±0.002。跨任务设置下差距扩大:当目标任务与源任务属于同一类别时,Centaur 为 0.861±0.003,Cross-Centaur 为 0.812±0.002;当源任务来自另一类别时,Centaur 为 1.069±0.019,Cross-Centaur 为 0.987±0.029。
表 11 的自助法比较报告 ΔNLL = NLL_基线 − NLL_Cross-Centaur,并给出基于 10,000 次参与者层面重采样的 95% 置信区间,正值有利于 Cross-Centaur。相对 Qwen3-8B 基线,提升分别为 Psych-101 上的 1.350 [1.232, 1.473]、同任务设置下的 1.254 [1.051, 1.478] 和跨任务设置下的 0.899 [0.666, 1.199]。相对 Centaur,相应提升小得多但仍为正:0.008 [0.003, 0.014]、0.110 [0.070, 0.170] 和 0.150 [0.084, 0.241]。所有区间都不包含零。
提升取决于展示的是谁的行为
表 9 的消融实验把参与者特定源行为的作用与提示其余部分分开。当源记录被打乱时,Cross-Centaur 的 NLL 上升:例如在同类别跨任务 Bandit 设置中,从原始源的 0.802 升至打乱源的 0.877;在另一类别 Social 设置中,从 1.094 升至 1.130。完全移除源、只给目标任务描述时,数值居中,例如同类别跨任务 Bandit 为 0.913。
这一排序对解读很重要。如果模型只是在读目标任务描述,打乱源不应造成损害。原始且正确配对的源行为给出最低误差,这支持论文的主张:提升来自使用该参与者自己此前的选择,而不只是看到更多文本。
目标任务本身未见时优势收窄
论文明确指出,在任务留出设置下提升更为有限。跨任务结果还按源任务是否与目标任务属于同一心理类别分开:如上文 NLL 所示,同类别迁移始终比跨类别迁移更容易。跨骨干模型的稳健性检验(Llama-3.2-1B、Llama-1.1-8B、Qwen3-1.7B、Qwen3-8B)发现,每个骨干上 Cross-Centaur 在同任务和跨任务设置中都优于 Centaur,且同一模型家族内更大的模型表现更好,说明该目标函数并非只适用于某一模型家族。
适用范围进一步限制了结论。Cross-Psych-101 覆盖四类受控心理任务,并未涵盖人们在日常、制度或社会嵌入情境中作出的全部决策。数据以英语从英语流利的参与者中采集,这可能限制其推广到其他语言和文化背景,因为同样的任务描述在那里可能有不同理解。
总体拟合可能掩盖更窄的个体分布
有一项结果说明,仅凭一个相关系数不足以判断个体层面的保真度。在双臂老虎机任务中,人类与 Cross-Centaur 预测的参与者层面后悔值相关系数为 r = 0.840,看起来很强。然而配套的分布图显示,人类后悔值的分布比 Cross-Centaur 的后悔值更宽。
把两者放在一起看,它们说明的是不同的事:模型对参与者的排序与人类相似,但压缩了结果的分布范围,产生的极端后悔值比人更少。对于想用这类模型模拟个体而非平均行为的人,这种压缩是更值得关注的信号,也是只看头条相关系数会漏掉的检查。
可复用的资产是数据集而非分数
这篇论文中最具决策相关性的比较不是 Cross-Centaur 对 Qwen3-8B(NLL 差距很大),而是 Cross-Centaur 对 Centaur(差距小但一致):总体 0.008、同任务 0.110、跨任务 0.150,且每种情况下置信区间都不含零。这一小而可靠的差距,正是跨任务个体层面目标相对于在同类任务上训练的群体层面模型所带来的收益。
因此持久的贡献是这种关联设计:591 名参与者和 261,551 个有效决策,追踪同一批人完成 12 个任务。论文把 Cross-Psych-101 和 Cross-Centaur 定位为通向个体人类决策统一模型的未来工作基础。由此得出的实际优先级是:在留出参与者和向未见任务、未见类别的迁移上评估这类模型,并检查预测行为的分布范围,而不只是平均拟合。
本文引用的文献
Cross-Centaur: Modeling Individual Decision-Making Across Psychological Tasks with Language Models
在 Cross-Psych-101(591 名参与者、12 个任务、261,551 个有效决策)上训练的 Cross-Centaur,在留出参与者上于任务内和跨任务预测中均优于现成 LLM 和 Centaur,其提升依赖于参与者特定的源行为。
