把接线图放到其演化之外的任务上检验
这篇论文要问的是:一张生物接线图,对于动物从未面对过的问题,是否仍然是有用的计算基底。作者取用公开的 MaleCNS v1.0 连接组——它重建自一只成年雄性果蝇标本——把它冻结为人工网络的循环拓扑,然后在同一张图上分别训练两个模型:一个做有限加法,一个做受控的具身关系语言任务,后者基于固定的 100 词词表。
这一设计把拓扑与学习分开。两个模型中唯一可训练的张量是一个向量,每条保留的解剖边对应一个标量;输入映射、读出映射和词元码本都保持固定。突触接触数只决定哪些边存在,边的标量独立初始化。因此,解剖图表现出的任何优势都不可能来自预训练权重或更充裕的参数预算,只能来自边的排布方式。
处理后的图有 166,700 个节点和 25,582,938 条有向神经元到神经元边,代表 124,177,617 个突触接触。由于对照是保持每个节点入度和出度的重连图,这项研究实际上是在问:互惠、模体、路径、社区、谱等高阶结构,是否在定向度之外还带来了额外作用。
重连保留度却抹去几乎所有原边
对照图由有向双边交换生成:保持每个节点未加权的入度和出度,保留原有的自环,且不引入重复边。每条原边完成五次被接受的交换后,20 张重连图组成的集合中只剩 0.588–0.594% 的原始边。也就是说,重连几乎完全改变了邻接关系,同时固定了节点数、边数、定向度、任务接口、参数数量、初始化分布、优化器和训练预算。
这一对照刻意保守,论文自己的结构诊断说明了它固定了什么、没固定什么。重连把互惠有向边的比例从 29.893% 降到约 0.517%,把感觉输入到输出的最短距离从 2.552 缩短到 1.378,而最大强连通分量仍接近 99.17%,每个输出节点依然可达。因此,这一比较检验的是多种高阶属性的集体贡献,而不是某一个孤立模体;单靠可达性也很难解释这一差距。
加法准确率把解剖图与重连图分开
加法任务包含所有满足 a + b ≤ 100 的非负整数有序对,用 47 个固定通道编码,0 到 100 共 101 个答案的 logits 在 64 次循环更新中的最后四步取平均。5,151 个表达式分为 3,584 个训练、775 个验证和 792 个测试样本;拆分前先把可交换的表达式归组,因此任何无序操作数对都不会同时出现在两个拆分中。测试准确率衡量的是对未见操作数对的精确作答。
在完成的各次运行中,解剖图在 792 个表达式的测试集上平均为 92.77%,重连图为 67.93%。单次运行之间的差异值得注意:解剖图各次运行在 78.79% 到 99.12% 之间,重连图各次运行在 63.64% 到 72.47% 之间。该设计并不平衡——解剖图四次运行,第一张重连图四次,另外两张重连图各两次——因此作者同时报告单次运行和描述性汇总,而不是平衡的析因估计。
误差指标指向同一方向。解剖图平均绝对误差为 0.124 个答案值单位,重连图平均为 0.404;在恰好等于 100 的 20 个表达式上,解剖图得分 93.75%,重连图为 61.25%。即使最弱的解剖图运行(78.79%)也高于每一次重连运行。
严格配对端点奖励对顺序敏感的具身映射
语言任务把受控英语与任务定义的感觉事件配对。每个事件由六个腿部位置之一和四种信号类型之一组合而成,并带有二值化的强度、持续时间和速度属性;24 个位置–类型通道驱动解剖标注的 MaleCNS 腿部传入神经元中互不重叠的若干组,共 2,837 个神经元。模型必须回答关于留出通道对和反转事件序列的问题,而正交词元编码不携带任何预训练的词义,因此从感觉流到词语的映射只能从生成的语料中习得。
主评分刻意设得很严。对每条留出的双事件记录,模型必须把正确描述排在顺序反转的描述之上,同时把反转场景的正确描述排在原场景描述之上,并且还要满足两条跨场景不等式;出现平局即判错。四个可交换的分数只有 24 种排序中的 4 种能通过,因此解析机会参考值为 1/6。报告分数是 192 个留出组中答对的比例。
在这一端点上,解剖图在四个固定接口上平均达到 61.59%,匹配重连图平均为 44.17%,相差 17.42 个百分点。每个接口都出现分离:规范接口 I1 为 71.35% 对 44.92%,I2 为 57.29% 对 41.02%,I3 为 61.46% 对 46.09%,I4 为 56.25% 对 44.66%。在 I1 上,解剖图还在固定的 21 图比较中排名第一,有限集合排名分数为 1/21;该处 20 张重连图的分数在 36.98% 到 58.85% 之间,均低于解剖图的 71.35%。
打乱感觉特征后语言分数骤降
高分原则上也可能来自语言先验,而不是来自读取感觉场景。感觉干预直接检验这一点。在匹配的 48 组子集上,完整的感觉幅度张量被替换为按确定循环取到的下一组的张量,而提示和候选答案保持不变,因此两个分数都在同一批记录上计算。
在这种打乱下,解剖图模型的分数从 60.94% 降到 19.27%,重连图平均从 41.80% 降到 13.02%。这一下降说明分数依赖具体的感觉输入,而不只是答案统计。论文还报告,两个无感觉检查点在主端点、反事实端点和感觉打乱条件下得分均为 0%。
不同属性上的具身映射并不均衡
属性层面的反事实结果显示,从感觉到文本的映射并不均匀。对每个因素在 48 组上做保持配对的替换,解剖图模型在强度变化上的双偏好准确率为 46.35%,持续时间变化为 59.38%,而速度变化只有 4.17%;顺序变化为 26.56%。宏观平均为解剖图 34.11%,重连图为 8.66%。
在更严格的四不等式标准下,同一模式在更低的水平上依然成立:强度 17.19%,持续时间 22.40%,速度 0.00%,顺序 26.04%,宏观平均为 16.41%,重连图为 4.69%。作者据此认为,解剖图模型区分强度和持续时间比区分速度更可靠。位置和信号类型的替换被排除在这一分析之外,因为它们可能把记录移到另一个留出通道对家族。
可复用的是架构而非训练权重
由于加法和语言是独立拟合的,一个任务中学到的东西不会迁移到另一个任务。真正跨任务保留下来的是循环架构本身。作者把这一点表述为:MaleCNS 的高阶接线为有限加法和具身关系语言提供了可复用的归纳偏置;他们还指出,在感觉传入神经元保持解剖分组的前提下,语言差距在词元输入与输出的不同放置方式之间、在不同图抽样之间都持续存在。
论文还报告了一个稠密对照,其结果远低于连接组模型:在四次优化运行中,严格配对准确率平均为 8.72%,正常条件为 9.38%,打乱条件为 1.56%,反事实为 3.39%。该对照匹配的是循环参数数量,而不是状态维度或稀疏性——作者自己也指出了这一区别——因此不应把它读作同等的架构比较。
一张图、两个合成任务与一个小词表
证据建立在一张解剖图和两个合成任务之上。加法比较是不平衡的图×初始化设计,20 图语言集合把排名分辨率限制在 1/21。四个接口只采样了可能放置空间的一小部分。紧凑的词表、人工编写的语义和受控语法让关系泛化变得可测量,但结果能否扩展到自然语言仍是未决问题。
该网络还省略了突触符号、神经递质身份、延迟、细胞动力学和生物可塑性,因此它是拓扑抽象,而不是对果蝇神经系统的建模。在这些边界之内,论文中最具决策价值的比较不是头条准确率,而是与保度重连图的差距:解剖图在两个任务上都胜出,在每个测试过的语言接口上都胜出,而且它的语言分数依赖真实的感觉输入而非答案统计。证据支持的优先事项是检验那些保留互惠、社区结构或感觉到输出路径统计的零模型能否解释这一差距,因为这些正是重连改变得最强烈的属性。
本文引用的文献
果蝇全连接组网络能学会人类设计的认知任务
把 MaleCNS v1.0 连接组作为固定循环拓扑、每条边只学习一个标量时,解剖图在有限加法留出集上平均准确率为 92.77%,保度重连图为 67.93%;在严格配对语言端点上为 61.59%,匹配重连图为 44.17%。
