双路径参数化记忆如何实现跨会话个性化语言模型？

单一循环状态会让早期证据衰减

长期个性化要求语言模型把用户此前的偏好、背景和约束带入后续回答。为了避免在推理时重读整段历史，一种做法是参数化记忆：把交互历史编码进模型参数或适配器，这样历史本身不必留在上下文窗口里。论文区分了两条已有路线，并分别指出其弱点。Doc-to-LoRA 和 SHINE 这类上下文编译方法把单个上下文映射为 LoRA 适配器，但没有规定跨会话如何整合。RPMem 和 Metis 这类状态维护方法按顺序整合各会话，作者认为这可能削弱早期证据。

论文把第二点担忧写成了具体推导，而不只是修辞。设一个循环记忆在第 t 段之后的状态，是用该段表征 q_t 更新前一状态得到的。假设两段历史在较早的第 i 段不同，此后完全相同。如果之后每次更新都把这一差异收缩到不超过系数 κ（κ 小于 1），那么最终一步的差异上界就是 κ 的 T−i 次方乘以最初的差异。贡献越早，这个上界收缩得越多。这是关于更新方式的一个充分条件，并非对某个已部署系统的实测，但它为后续设计提供了动机。

Evidence 保留、Delta 排序、融合合并

DPPM 用一个冻结的编译器逐段编码交互历史，并在得到的段表征上工作。Evidence 路径直接汇聚这些表征：一个学习到的投影加上逐坐标的时间 softmax，为每段在每个潜在坐标上分配权重，加权和再被缩放到校准后的幅度。由于每一段都直接连到汇聚输出，早期片段不必经过一连串更新才能影响最终记忆。论文为这条路线给出的下界取决于历史长度 T，但不取决于片段位置，因此较早和较晚的片段共享同一个池化权重下界。作者明确指出，这缓解了与时间相关的衰减，但并未消除遗忘，因为该下界仍随 T 增大而下降。

单靠汇聚有一个结构性盲点：当固定的段表征被重新排序时，它给出相同结果，因此无法区分两种需要不同答案的相反更新顺序。Delta 路径补上了顺序信息。它按时间顺序处理同样的表征，从每段导出键和写入门，从关联状态中读出对当前段的预测，再写回一个带门的残差。状态因此被修正到当前段实际表达的内容，而键之间的相似度控制一次写入对另一个键读出的干扰程度。随后一个学习到的融合按坐标混合校准后的 Evidence 与 Delta 输出，冻结的解码器再把融合向量转成以历史为条件的 LoRA 因子。训练只更新轻量记忆模块，编译器、解码器、共享适配器和主干都保持冻结。

提升集中在遗忘与归属类别

在 Qwen3-4B 上，DPPM 在 PersonaMem-v2 上得 54.22%，在 PrefEval 上得 86.79%，在多个主干上均高于所评估的基线。分类别拆解比总体平均更有信息量。相对 RPMem，DPPM 在 Forget 类别上提升 21.68 个百分点，该类别检验回答是否遵守停止使用先前信息的请求；在 Sensitive 上提升 17.57 个百分点，该类别检验对隐私细节的克制；在 Therapy 上提升 15.34 个百分点，该类别检验基于个人背景的个性化。Others 子集检验是否把关于他人的信息错误归到用户身上，其准确率从 13.68% 升到 50.23%。

作者把这一模式解读为更好的归属判断和更恰当的记忆使用修正，这与他们“保留证据、同时修正其适用性”的动机一致。这是作者的解读，类别设计也支持这一点：变化最大的是关于记忆信息何时该用、何时不该用的问题，而不是所有信息类型。同一张图也显示其他类别变化很小，包括 Stereotypical 类别下降 1.05 个百分点，因此提升并非在 PersonaMem-v2 的全部七种信息类型上均匀出现。在 PrefEval 上，四个留出主题都有提升，从 Technology 的 1.90 个百分点到 Education 的 6.50 个百分点。

潜在保留率区分两条路径

为了直接检验衰减论点，论文在干扰交互不断累积时测量潜在敏感度。它冻结检查点，在一个共享的中性开场段之后，把一条偏好放入 32 个固定干扰项中，并让每段历史保持 34 段。对成对的偏好值 A 和 B，敏感度等于两个整合表征之差的范数，除以两个偏好段表征之差的范数。每个档案都按年龄为零时的值归一化，再对 24 个档案取平均，因此报告的数字是保留比例，不是准确率分数。

在年龄 32 时，DPPM 在 PersonaMem-v2 检查点上保留 0.970，在 PrefEval 检查点上保留 0.667。RPMem 分别保留 0.268 和 0.116，仅用 Delta 的对照组保留 0.367 和 0.300，而仅用 Evidence 的对照组保持在 1.000。排序本身就是重点：直接汇聚路线对年龄最不敏感，顺序路线损失最多，融合模型位于两者之间，但远高于循环基线。这是固定检查点上的受控潜在测量，并不表示回答准确率会随历史增长保持不变；PrefEval 训练检查点的 0.667 也说明融合并未完全保住仅用 Evidence 时的水平。

回答延迟低，显存占用紧凑

效率结果针对记忆准备完成后的回答阶段，编译和检索不计入。DPPM 在 46.14 ms 的回答前向延迟下，比 RPMem 的准确率高 8.50 个百分点，延迟只高 2.43 ms。它的准确率也高于 RAG 和 Full Context，而回答计算分别快约 3.1 倍和 62.7 倍。

对于更长的历史，论文在官方 128K 历史长度下选取一个问题，并评估两个官方历史版本。Full Context 的输入从 33,143 个 token 增长到 139,319 个 token，峰值 GPU 显存从 10,203.91 MiB 升到 18,245.97 MiB。DPPM 保持在 7,762.32 MiB，与 RPMem 相同，在较长历史上比 Full Context 少用 57.46% 的显存。这些数字来自单张 A800、批大小为 1、关闭 KV 缓存的单个按长度选取的问题，因此描述的是紧凑的回答占用，而不是完整的服务基准。

训练目标不如双路径设计关键

论文还检验了 DPPM 是否依赖某种特定训练信号。固定架构后，普通交叉熵在 PersonaMem-v2 上得 54.22%，在 PrefEval 上得 86.79%，平均 70.51%。答案前向 KL 和 16 token 轮次的短程同策略蒸馏在两个数据集上都低于交叉熵。64 token 的同策略蒸馏配置达到 54.56% 和 87.04%，两数据集平均最高，为 70.80%；一步 GRPO 取得最高的 PersonaMem-v2 分数 54.80%，但把 PrefEval 降到 85.06%，使其平均低于交叉熵。

作者由此认为，配置得当的同策略反馈可以补充双路径架构，而普通交叉熵凭借更简单的训练仍具竞争力。实际解读是：大部分增益来自架构而非目标函数。相对交叉熵，没有任何变体把任一基准移动超过约一个百分点，而 PersonaMem-v2 上与 RPMem 的差距是 8.50 个百分点。64 token 蒸馏结果还使用了修改后的教师提示，因此它不是只比较目标函数的干净对照。

证据覆盖到哪里，到哪里为止

评估覆盖 PersonaMem-v2 和 PrefEval，跨三种不同架构、2B 到 7B 参数规模的主干，报告的主要数字使用 Qwen3-4B。两个基准都检验基于交互历史的偏好遵循和隐式个性化；它们都不能说明 DPPM 在其他类型的长期记忆上表现如何，例如跨越数月对话的事实回忆，也不能说明在多用户、历史相互交织的场景下如何。延迟和显存数字来自单 GPU、批大小为 1、排除编译和检索的回答阶段，因此不描述端到端系统成本。

论文自身对保留能力的表述也较为克制：直接累积减轻了与年龄相关的衰减，但没有消除对历史长度的依赖，PrefEval 训练检查点在年龄 32 时的保留比例 0.667 说明融合模型仍会损失部分敏感度。在这些边界内，最具决策价值的比较是两条路径之间，而不是训练配方之间。仅用 Evidence 能完美保留潜在敏感度，却无法表达顺序；仅用 Delta 能捕捉顺序，但衰减最快；DPPM 的融合适配器在保留率上最接近汇聚路线，同时仍获得分类结果归因于顺序更新的归属与修正提升。

本文引用的文献