多模态大语言模型如何实现免训练的人-物交互检测?

HarnessHOI 把冻结 MLLM 推理变为主动闭环,在免训练 HOI 方法中于 HICO-DET 达到 33.20 mAP。

直接答案

HarnessHOI 的答案是:把被动的 MLLM 推理变成以交互为中心的主动闭环——将新出现的交互假设投射回图像,以发现被忽略的参与者并重新检查模糊区域,同时由与关系无关的几何裁定模块把多来源证据统一为共享的实例定位。它只用一个冻结的 Qwen3.5-9B,不使用辅助模型或检索式视觉支持集,在 HICO-DET Default Full 上报告 33.20 mAP,在 V-COCO S1 / S2 上报告 44.65 / 49.70 角色 AP,作者称其在免训练方法中达到当前最优。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

免训练 HOI 检测仍需可靠的参与者定位

人-物交互检测要定位人-物配对并识别二者之间的交互,通常写成“人-动作-物”三元组。有监督检测器从 HOI 标注中学习这一能力,论文认为这限制了它对真实场景中组合式、长尾交互空间的扩展性。免训练范式则直接利用冻结的预训练模型,在不做任务特定优化的情况下使用其视觉-语义知识。

论文的诊断不是冻结 MLLM 缺少知识,而是现有免训练流程通过松散协调的推理阶段来调用这些知识。由于交互假设没有引导视觉探索,关键参与者被忽略,局部歧义也未被解决。作者还指出第二种失效模式:早期语义假设在后续视觉定位和关系预测中传播,会形成自我强化的语义循环。HarnessHOI 被提出用于同时解决这两个问题,而不是提出新的骨干网络。

交互假设决定模型下一步看哪里

交互引导感知机制把新出现的交互假设投射回视觉空间。它不是只做一次全局处理,而是用动作和角色假设去发现相关参与者,并选择区域进行更近距离的观察,从而找到缺失的参与者,并通过有针对性的观察修正模糊证据。

论文把这一机制内的贡献分为两部分。参与者发现补充全局定位遗漏的身份;针对性观察则按交互假设选择局部裁剪区域。二者都与对照条件比较,对照条件保持相同的图像、初始参与者、生成预算,以及后续的观察、几何裁定和关系验证步骤。重复定位对照改为直接请求与指定人物相关的更多可见参与者,非定向对照则用固定随机种子在有效图像位置均匀采样裁剪中心。论文把所报告的增益归因于交互语义引导搜索和区域选择,而不是单纯增加计算量。

几何裁定为不同角色建立同一套定位

与关系无关的几何裁定模块调和多来源证据,为跨多个动作和语义角色的有依据交互推理建立统一的空间基础。实际含义是:在验证不同动作和角色时复用同一套裁定后的实例定位,而不是为每个关系重新推导一套空间基础。

这一设计正是论文与关系条件裁定、提议条件验证的对比之处,后两者在特定关系或提议下对候选打分。论文报告完整 harness 在 HICO-DET Full 以及 V-COCO S1 和 S2 上均优于这两种受控替代方案,其中单阶段增益最大的是参与者发现和关系验证。论文给出的解释是:共享空间基础可以避免让早期关系猜测决定后续哪些证据可被采纳。

同一冻结骨干下的 HICO-DET 与 V-COCO 结果

在 HICO-DET Default 评估下,HarnessHOI 报告 Full 33.20 mAP、Rare 41.63、Non-Rare 30.68;在 Known Object 评估下报告 Full 36.85、Rare 44.20、Non-Rare 34.65。在 V-COCO 上,它在 25 个角色上平均报告 S1 角色 AP 44.65、S2 角色 AP 49.70。这些比较中的所有变体都使用同一冻结骨干和同一评估器。

论文还报告了与已发布 AgentHOI 预测结果的共同评估器比较:AgentHOI 使用 GPT-4o 和 GroundingDINO,而 HarnessHOI 使用 Qwen3.5-9B。在相同匹配和 AP 计算下,HarnessHOI 在 Default Full 上领先 3.52 个点,Default Rare 上领先 1.14 个点,Default Non-Rare 上领先 4.23 个点;在 Known Object 评估下分别领先 3.14、0.81 和 3.83 个点。该发布版本覆盖 9,546 张测试图像,其中 23 张没有框,其余 112 张官方测试图像得到空预测;两种方法都在完整测试集上以相同的 inclusive-IoU、匹配和排序约定评分。

未见类增益在四种开放词表划分下成立

类别划分分析在四种标准划分下评估同一批 HarnessHOI 预测。在 Unseen 类上,它报告 RF-UC 40.15、NF-UC 33.64、UO 35.45、UV 33.87,而 AgentHOI 共同评估器的 Unseen 值分别为 39.11、28.56、33.97 和 30.13。论文指出增益在全部四种开放词表设置下都延伸到 Unseen 类。

同一张表还显示 HarnessHOI 的 Seen 值为 31.46、33.09、32.75 和 33.09,各划分的 Full 值均为 33.20。这一模式对理解头条数字很重要:Full 是单一汇总值,而 Unseen 和 Seen 列描述的是不同类别子集,因此不应把 Unseen 优势读成所有类别的一致提升。论文还报告正交互类和无交互类通过不同的视觉问题评估,520 个正交互类的 Default mAP 为 36.84%,80 个无交互类为 9.55%,由此得到按类别加权的 Full mAP 33.20%。

消融显示发现与验证贡献了主要增益

harness 消融逐一分离各阶段。去掉已发现参与者后,HICO-DET Default Full 降至 32.55,V-COCO 降至 44.02 S1 / 48.93 S2;去掉针对性观察后为 32.80 和 44.33 / 49.21;把几何裁定换成首候选几何后为 32.95 和 44.38 / 49.48。直接 HOI 生成在 HICO-DET 上降至 15.62,在 V-COCO 上为 16.41 / 21.20;不含 harness 的初始实例基线为 31.45 和 42.90 / 47.20。

论文的分阶段增益图报告完整 harness 相对各受控替代方案的提升:HICO-DET Full 上参与者发现 +0.75、针对性观察 +0.50、几何裁定 +0.41、关系验证 +0.70,V-COCO S1 和 S2 上的数值相当或更大。覆盖度统计显示,发现为 HICO-DET 交互新增 571 个匹配定位,为 V-COCO 角色新增 217 个;局部观察又分别把覆盖度扩展 12 和 23 个标注;最终选定的定位覆盖 22,895 个 HICO-DET 交互和 14,473 个 V-COCO 角色。这些是标注覆盖计数,不是 mAP,不能替代检测指标。

推理成本与免训练主张的边界

harness 在推理时并非零成本。在 HICO-DET 上,每张图像平均产生 2.51 次生成响应和 563.29 个输出 token,平均 119.81 次打分请求,第 95 百分位为 470 次,每张图像消耗 13.26 GPU-worker 秒;V-COCO 平均为 2.78 次响应、615.26 个输出 token、311.27 次打分请求(P95 为 1,011 次),每张图像 22.07 GPU-worker 秒。打分输入的缓存命中率分别为 88.43% 和 89.93%。论文的测量条件是每块 GPU 一个模型副本、每个副本四张活动图像、每块 GPU 最多 32 个并发请求,共四块 GPU。

免训练主张针对的是优化,而不是资源:HarnessHOI 用一个冻结的 Qwen3.5-9B 完成参与者获取、几何裁定和关系验证,不使用辅助模型或检索式视觉支持集;而对比的 Lei 等人 AgentHOI 使用 GPT-4o 或 Qwen2.5-VL-72B 加 GroundingDINO,DA-HOI (TF) 使用 R50 DETR 提议。证据仅限于 HICO-DET 和 V-COCO 这两个标准公开基准,且论文仍在审稿中,因此所报告的免训练方法当前最优排名反映的是所比较的方法集合和作者的评估协议,而非穷尽式调研。

比较免训练方法要固定评估器与划分

这篇论文最具决策价值的经验是程序性的。HarnessHOI 相对 AgentHOI 的优势既以来源报告数值呈现,也以共同评估器比较呈现,后者在完整测试集上使用相同的 inclusive-IoU、匹配和排序约定,而两者并不一致:AgentHOI 报告的 Unseen RF-UC 值为 38.64,其共同评估器值为 39.11。因此,比较任何免训练 HOI 方法之前,都应先固定评估器、类别划分以及无框图像的处理方式,再解读差距。

在这一受控设定内,论文自身的优先级排序很清楚:参与者发现和关系验证贡献的单阶段增益最大,几何裁定贡献最小,而共享定位设计让一个冻结模型无需辅助检测器即可同时承担探索和验证。读者在权衡这一方法时,应把 Unseen 与 Seen 的划分以及每张图像的 GPU-worker 成本与头条 mAP 一并查看,因为 33.20 的 Full 汇总值同时掩盖了开放词表优势和产生该优势的推理预算。

本文引用的文献

1

Harnessing Multimodal Large Language Models for Training-Free Human-Object Interaction Detection

HarnessHOI 把被动的 MLLM 推理转变为以交互为中心的主动 harness,包含交互引导感知和与关系无关的几何裁定,在 HICO-DET Default Full 上报告 33.20 mAP,在 V-COCO S1 / S2 上报告 44.65 / 49.70 角色 AP,被称为免训练方法中的当前最优。