仿生注意力与状态空间能改进点云表征学习吗？

论文要解决的取舍

点云表征学习长期面临一个矛盾。局部注意力网络只在局部邻居或窗口内计算注意力，这使计算成本与输入点数保持线性关系，但缩小了感知范围，削弱了场景中物体之间的长程建模。S6 这类选择性状态空间模型能以线性复杂度完成长程建模，已有工作也把它引入点云，但论文认为，双向 S6 仍把所有上下文压缩进历史隐藏状态，因此局部性学习依然不足。

PointLearner 的做法是不再把两者视为二选一。每个 PointLearner 模块先做点聚焦注意力以建模局部几何，再做上下文扫描状态空间以处理长程依赖。论文把这一设计称为先聚焦、后上下文，其后的证据都围绕这个顺序和这两个组件是否真的带来收益展开。

中央凹视觉拆成两个竞争分支

点聚焦注意力采用双分支设计。局部邻居分支在每个查询点的 K 个最近邻上运行标准注意力，提供焦点附近的细粒度感知；空间下采样分支让查询点对一组空间下采样特征做注意力，提供对全局语义的粗粒度感知。论文的类比很直接：焦点处 acuity 高，周边 acuity 低。

这些下采样特征并非由最远点采样产生。论文提出诱导点池化：固定数量的可训练诱导点向量对点特征做注意力，生成 M 个下采样 token。由于诱导点数量可控，且它们直接与点云交互，这种池化能适应点云的非均匀分布；论文称，正是这种非均匀性使简单平均池化无法像在二维图像上那样奏效。

两个分支随后以竞争方式融合，而不是相加。模型不把分支输出相加，而是把两个分支的 query-key 分数拼接进同一次 softmax，再拆分得到的权重，分别作用于对应的 value。论文报告，这种竞争归一化在不增加计算开销的前提下增强了细粒度与粗粒度特征之间的深层交互，其复杂度分析显示计算量随点数线性增长。

眼跳变成希尔伯特曲线引导的扫描

上下文扫描状态空间是模块的另一半。它使用双向 S6：前向 S6 按顺序扫描点序列，后向 S6 反向扫描，因此序列中每个点都获得全局感受野。论文把这种来回扫描比作眼睛在辨认模糊物体时推断信息的方式。

扫描路径并非任意。点沿希尔伯特曲线序列化，论文选择它是因为其保持空间局部性，使序列中相邻位置对应空间上相邻的区域。消融结果支持这一选择：在 ModelNet40 上，不做序列化时总体准确率为 91.34%，希尔伯特曲线为 94.17%，Z-order 曲线为 93.06%，希尔伯特加反希尔伯特为 93.78%，希尔伯特加 Z-order 为 93.52%，可学习序列化为 92.78%。除可学习序列化使用 8.04M 参数和 0.723G FLOPs 外，其余配置均为 7.36M 参数和 0.610G FLOPs。吞吐量不同：无序列化 219 FPS，希尔伯特 163 FPS，Z-order 209 FPS，可学习序列化 168 FPS。

论文的解释是，组合多种序列化策略可能引入相互冲突的空间关系，干扰空间一致性学习；而希尔伯特曲线比 Z-order 曲线或自适应可学习排序提供了更强的几何特定归纳偏置。这是作者对消融结果的解释，并非另行测量的机制。

准确率提升落在哪些任务上

在 ModelNet40 分类任务上，PointLearner 报告 94.2% 的总体准确率，是其表格中的最高值。最接近的注意力类方法包括 GAD 的 93.8%、LFT-Net 的 93.2% 和 OctFormer 的 92.7%；状态空间模型中，PointMamba 达到 93.6%，PCM 和 Mamba3D 为 93.4%，NIMBA 为 92.1%。其中若干基线标注使用了预训练，而 PointLearner 所在行没有。

在 ShapeNet 部件分割任务上，PointLearner 报告 86.9 的实例 mIoU，对比 ReCon 的 86.4、Point2Vec 和 MaskFeat3D 的 86.3、PointGPT 和 PointMamba 的 86.2、PoinTramba 的 85.7。这些是 16 个类别、50 个部件、14,005 个训练样本和 2,873 个测试样本上的实例 mIoU，因此不能与论文其他地方使用的场景级 mIoU 互换。

论文还在 S3DIS 上评估，以 area 5 为测试集，指标是 13 个语义标签上的平均 IoU；也在 ScanObjectNN 的 PB T50 RS 变体上评估，该变体含 15 个类别且仅以坐标作为输入。摘要把这些概括为在多个点云任务上达到当前最优；上面列出的具体数字是证据包允许读者核对的部分。

高稀疏度下诱导点池化为何重要

与决策最相关的消融针对下采样分支。论文在不同采样率下比较诱导点池化与最远点采样，采样率以相对于输入点数的比例表示，并加入一个完全不含空间下采样分支的基线。

在低采样率下两种方法表现相当，论文将其归因于保留足够多点时最远点采样能获得良好的空间覆盖。随着下采样率提高，最远点采样急剧退化，在 1/256 的采样率下其准确率接近无下采样基线，说明它无法在高稀疏度下从非均匀点云中捕捉关键语义。诱导点池化下降更平缓，在 1/256 时仍达到 93.39%。论文据此认为，可训练诱导点能自适应学习点分布并更稳健地整合全局语义。

这一结果最能改变读者比较两种池化方式的方式：排序并非在所有采样预算下一致，诱导点池化的优势集中在降采样 token 集合很小时。

鲁棒性结论覆盖到哪里

论文的讨论部分称 PointLearner 对噪声和变化的采样密度表现出强鲁棒性，摘要则称其鲁棒性显著。证据包最直接支持采样密度这一部分的是诱导点池化在低至 1/256 采样率下的消融，以及仅以坐标作为输入的 ScanObjectNN 变体。

读者应把范围收紧。报告的比较都在 ModelNet40、ShapeNet、S3DIS 和 ScanObjectNN 上，使用识别头和分割头；证据包没有报告其他任务族或部署条件下的结果。架构沿用标准的 Point Transformer 式编码器-解码器，下采样用最远点采样，上采样用线性插值，因此仿生组件位于常规骨干网络之内，而不是取代它。

论文确立的优先级

论文的独特主张是一个顺序，而不是单个模块。点聚焦注意力提供双向 S6 在把上下文压缩进隐藏状态时丢失的细粒度局部结构，希尔伯特曲线引导的扫描提供局部注意力无法触及的长程结构。消融模式支持把序列化选择视为首要决策：在参数和 FLOPs 完全相同的情况下，仅改用希尔伯特排序就把 ModelNet40 准确率从 91.34% 提升到 94.17%，这一幅度大于对比表中多数架构层面的差异。

因此，对想从这项工作中取用的读者来说，实际优先级是把保持局部性的扫描顺序与在 token 预算很小时仍站得住的降采样分支配对。1/256 下的诱导点池化结果——最远点采样已回落到无下采样基线，而诱导点池化仍保持 93.39%——是论文中说明第二个选择何时开始起作用的最清晰阈值。

本文引用的文献