语言模型问卷评分反映的是人还是措辞?

语言得出的症状几何更贴近条目措辞而非自评,仅凭一致性无法证明测的是谁。

直接答案

在这项研究中,由临床访谈构建的语言模型评分,比参与者的自评更贴近问卷的措辞结构,而预注册检验未发现措辞之外的人群结构。与自评的一致性在把参与者的答案随机分配给他人后依然存在,因此它本身无法证明模型追踪的是正确的人。配对到个人的评分确实追踪到总体痛苦程度,但对具体症状的追踪很微弱。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

仅凭措辞就能产生可信的一致性

问卷是一串句子,只有通过一个人的回答才成为心智的地图。基于语言的评估把这一关系颠倒过来:句子嵌入、蕴含模型和大语言模型给访谈、治疗对话或网络帖子与条目文本的匹配程度打分,研究者再把这些分数加总成量表、相关成网络,仿佛它们就是问卷答案。

这篇论文的核心警告是:措辞相似的条目会吸引相同的言语,无论说话者感受如何。当余弦评分器把言语单元和条目文本嵌入同一空间并取内积时,条目活动剖面的协方差为 A⊤ΣA;如果言语不携带条目特异信号,几何就退化为条目文本相似度矩阵 M。因此,模型可能在还没有定位到任何一个人之前,就已经继承了一张连贯、可复现的症状地图。

每个来源一种几何使比较成为可能

心理测量表征相似性分析把每一种心理测量信息来源放进同一格式。25 个 PHQ-8 和 PCL-C 条目成为条件,每个来源提供一份条目对条目的几何:自评是跨人的共同认可,语言是言语的共同激活,条目措辞是含义相关,理论是共享的量表聚类。每个来源都得到一份表征相异矩阵,Djk = 1 − rjk 定义在条目对上,把一份矩阵的条目与另一份相关即可比较来源。

该框架与 COMPASS 2.0 中的个人层面构念评分一起实现。言语被切分为单元,每个单元都与每个条目打分,同一批条目活动剖面被两种方式读取:作为几何,以及作为按量表计分键加权的构念分数。这两种读取回答不同的问题,论文自始至终把它们分开。

语言几何比自评更贴近措辞

对于 25 个 PHQ-8 和 PCL-C 条目,嵌入评分的言语几何在两个访谈样本间几乎相同(ρ = 0.92),且更贴近措辞(0.74、0.72)而非自评(0.43、0.32)。自评在样本间一致(0.56),并与措辞部分一致(0.50、0.35)。蕴含几何与措辞的贴近程度较低(0.29),但在样本间一致(0.78),并与自身的探针混淆部分一致(0.34、0.36)。症状聚类理论模型与所有来源的关系都很弱(ρ ≤ 0.31)。

分半信度界定了这些数字的背景。嵌入评分言语的信度为 0.95,自评为 0.68 和 0.46,因此语言与自评达到其可达一致性的一半左右(校正后 0.53),与措辞达到四分之三(0.75)。论文指出,高可复现性使语言几何的来源格外关键:一种结构之所以能跨人群稳定,可能是因为测量程序把它从一个人群带到了另一个人群。

预注册检验未发现措辞之外的结构

预注册的发现与确认分析共使用 275 名参与者的临床访谈:189 份带转录的 DAIC-WOZ 访谈和 86 份带自动转录的 E-DAIC 访谈。在两个访谈样本和两个嵌入模型中,几何都更贴近措辞而非自评,且没有任何评分器显示出措辞之外人群结构的预注册证据。

一个小的探索性蕴含效应在换用另一种参照后消失。把人群几何按合并的说话者内协方差而非 M 白化的敏感性分析,得到的与自评的偏相关很小且大多不显著;论文指出,只有当说话者内变异是与说话者间干扰形状相同的干扰时,这一参照作为个人结构的检验才有效。白化被用作偏离参照的诊断,而不是个人结构的恢复。

几何一致性不区分谁说了什么

在参与者之间重新分配自评后,几何一致性完全不变——发现样本的蕴含保持在打乱前后的 0.33——而配对指标则降到其零值。一般因子一致性从 0.49 降到打乱后的 −0.15 至 0.14 区间,COMPASS PHQ-8 与自评总分的相关性从 0.54 降到同一区间;确认样本打乱前的数值为 0.60 和 0.57。

这种不变性来自比较本身。重新排列人不会改变问卷条目之间的相关,因此人群表征相异矩阵不保留哪份报告属于哪次访谈的记录。几何可以确立语言像自评那样组织条目;要确立它测量的是正确的人,则需要配对读取。

配对评分追踪痛苦多于具体症状

探索性分析比较了跨参与者的语言得出条目与自评条目的第一主成分,然后在移除自评一般因子后考察条目特异对应。对于蕴含,这些成分在发现样本中相关 r = 0.49(95% CI 0.38 至 0.59),在确认样本中为 0.60(0.44 至 0.72)。语言得出的条目均分与 PHQ-8 总分的相关为 0.53 和 0.58。余弦评分器携带的一般因子信息较少(bge 0.26、0.52;MiniLM 0.07、0.33)。

蕴含的关联在言语长度和问卷主题激活之外依然存在:在偏出回答窗口数、词数和主题激活后,COMPASS PHQ-8 分数与自评 PHQ-8 总分的相关为 0.52(95% CI 0.43 至 0.61)和 0.49(0.33 至 0.63),而余弦评分的相关则缩小。条目特异收敛要小得多,同条目减不同条目的相关为 0.005 至 0.073。论文把这些成分描述为样本特异的汇总,而非独立验证的一般因子,并指出这些量纲不同的统计量并不划分症状信息。

联盟评分表现得像关系话题

补充分析超出了症状范围。早先的计分键 Bond 分数追踪关系话题:在 784 次会谈中,计分键的来访者 Bond 分数与关系话题激活相关 R² = 0.91,治疗师减来访者的计分键 Bond 与治疗师减来访者的话题差距在 783 次会谈中相关 r = 0.94。立场评分在第二个语料中区分了咨询质量,但话题测量在发现样本中表现更好,立场评分的优势并不稳健。

措辞结构还在 34 种工具和研究领域标准框架中考察,措辞按构念领域聚类。论文的解读是:只要条目文本探测语言,这些控制就相关;除非评分器能区分立场,否则计分键余弦和应被解释为话题测量。

这对基于语言的评估意味着什么

论文的实践优先项是为任何语言得出的条目结构提供措辞基线。症状网络、因子结构和剖面日益取代总分,它们需要报告与条目文本的几何一致性、把活动以引出问题为中心,并针对声明的参照检验残差结构。说话者内协方差等替代方案应在其声明的假设下考察,个人层面的读取应与人员打乱配对。

这项研究中最具决策意义的分野是两层之间,而非模型之间。人群几何回答的是工具如何组织其主题,并有意丢弃个人身份;配对评分回答的是是否测量了正确的人,而在这里它们追踪到总体痛苦,条目特异收敛则停留在 0.005 至 0.073 之间。限制很具体:样本不大(189 和 86 名参与者),每人一次访谈且回答简短(每个窗口中位数 12 和 8 个词),自动确认转录增加误差,预注册检验的效力只对强结构较高(189 名模拟者时 g = 0.4 为 94%,g = 0.2 为 15%),约五分之一的窗口只含一两个词且未带其问题评分。联盟分析使用的是示范会谈质量而非联盟评分。论文自己提出的下一步检验最为尖锐:在固定一个人的语言时改变探针措辞,再在固定探针时改变说话者,以看清哪些特征随工具走、哪些随人走。

本文引用的文献

1

COMPASS 2.0: psychometric representational similarity analysis distinguishes symptom structure from personal signal

在对 275 名参与者临床访谈的预注册分析中,语言得出的症状几何比自评更贴近条目措辞,预注册检验未发现措辞之外的结构;几何一致性在参与者之间打乱自评后依然存在,而配对到个人的评分追踪总体痛苦多于具体症状。