认知约束会通过瓶颈搜索驱动数学抽象吗?

论文认为,认知限制会让瓶颈代价高到迫使数学家创造新形式化,从而驱动数学抽象。

直接答案

这篇论文提出,人的认知限制不只是障碍,还可能推动数学家放弃在既有工具库内代价高昂的搜索,转而构建新的形式化。作者用对数、矩阵、傅里叶表示、特征向量和群等历史片段支持这一观点,并把这种转向形式化为资源理性比较:继续搜索,还是付出代价去发现新的抽象。该论述是理论性的:历史案例用于说明这一模式,但论文明确指出,无聊情绪与重构之间的因果关系尚未建立。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

限制如何变成重构知识的压力

论文对标题问题的回答是肯定的,但有一个特定条件:当认知限制使在当前表示内继续工作变得足够昂贵,以至于寻找新表示成为更好的计算资源用法时,这一限制才起作用。作者称之为对瓶颈的资源理性搜索。这里的资源理性,是指把有限的工作记忆、脆弱的记忆提取、奖励折扣、无聊和挫败感,看作对有限代谢资源和有限生物信息处理速度的适应,而不是纯粹的缺陷。

论文提出的模式分为两个阶段。在方法性转变之间,数学家探索既有工具库的新组合,直到撞上瓶颈。瓶颈有两种:问题本身提法不当,或者问题提法恰当但人的认知限制使其难以解决。论文认为,在后一种情况下,数学家会生成新的形式化,使问题对人类变得可处理;而未解决的问题则作为开放问题留给领域数十年。

这是一篇理论论文,不是实验。它的证据是一组数学史片段,加上一个关于表示变化何时值得其成本的形式化论述。这决定了如何阅读下文每一项结果:这些案例用来展示一种机制,而不是估计该机制出现的频率。

工作记忆限制推动层级压缩

最清晰的定量论证与工作记忆有关。假设一个问题需要在 N 个原始概念中搜索。在扁平表示中,每个概念都必须单独考虑,搜索复杂度随概念数量线性增长,为 O(N)。如果工作记忆一次只能容纳 C 个概念,就可以把这些概念组织成有 d 层的层级,其中 d 至少为以 C 为底的 N 的对数。先在各层之间搜索,最后在至多 C 个概念中搜索,得到的复杂度为 O(C log_C N)。

论文指出,当 C 有限且较小时,O(C log_C N) 包含于 O(N),因此层级结构可以大幅降低计算成本。作者用这一点解释,为什么自然的认知限制会推动人把概念组织成计算上高效的层级。同一节还把这一点与大脑约 20 W 的功率预算对照,论文称这远低于大规模计算的资源。

从复杂度比较跳到数学史,是作者的解释。形式化结果说明,施加容量约束并鼓励层级抽象可以降低搜索复杂度;它并不说明工作记忆限制导致了某个具体的历史形式化。

枯燥、挫败与规划失败提示低回报

论文形式化了三类瓶颈。枯燥出现在长串重复操作不断累积执行成本、却几乎没有额外进展时。挫败出现在反复尝试失败、不断累积搜索成本却没有达到预期进展时。规划失败出现在可用规划范围内找不到解,表明进一步搜索需要投入更多计算资源。

这三类瓶颈通过一个局部计算回报统一起来。如果第 t 步花费 c_t,并向目标推进 ΔV_t,那么回报为 η_t = ΔV_t / c_t。瓶颈就是这一回报的持续下降:计算消耗资源,却没有相称的进展。论文把三种信号描述为关于同一个潜在量的不同证据来源,这个潜在量就是在当前表示下继续求解的预期成本,而不是各自独立决定行为。

论文为每种信号配上历史材料。它引用纳皮尔序言中对冗长乘法、除法和开方之枯燥的抱怨,作为对数的动机;并引用 George Temple 对数学进展的描述:先因问题不可解而挫败,随后发明更一般的概念和方法。这些引文记录了作者提出的联系,并不是对情绪或其因果作用的测量。

切换表示是一场成本比较

改变表示的决策被写成一个不等式。智能体可以继续在当前工具库 R 下搜索,预期剩余成本为 E[C_solve | X, R];也可以投入资源发现新抽象 r,把工具库扩展为 R ∪ {r}。当发现新抽象的预期成本加上扩展工具库后求解的预期成本,小于在当前工具库下继续搜索的预期成本时,改变表示就值得:E[C_discover(r) + C*(X; R ∪ {r})] < E[C_solve | X, R]。

论文明确指出,瓶颈本身不会生成抽象。瓶颈提供的是证据,表明在当前表示下继续计算的预期价值很低,从而提高寻找新表示的相对价值。一个成功的抽象会改变原问题的计算结构,因此 C*(X; R ∪ {r}) < C*(X; R)。

更广泛的价值取决于复用。如果同一个抽象能降低从 p(X) 分布中抽取的一系列问题的求解成本,那么在这一分布上的预期成本下降为正。这就是论文对以下问题的解释:抽象为什么能在最初促使它出现的问题之外收回发现成本,以及为什么具有广泛组合效用的抽象对资源有限的智能体尤其有价值。

压缩、新空间与关系抽象的实际形态

论文把历史突破归为三种形式。第一种是符号压缩:七个 2 相加可以写成 2 × 7;含 n 个未知数的 m 个线性方程组成的方程组,可以压缩成矩阵方程 Ax = b。矩阵形式把整个方程组看作 A、x 和 b 三个对象之间的一种关系,从而支持求逆、分解和系数矩阵变换等更高层操作。

第二种是把问题提升到新的表示空间。傅里叶研究热方程时,把周期函数表示为正弦波的线性叠加,于是正弦波这类情形可以简单求解,热方程也就能对更广的一类周期函数求解。特征向量对线性变换做了类似的事:满足 Av_i = λ_i v_i 的方向把变换简化为标量乘法;当 A 有完整的特征基时,A = PDP⁻¹ 把耦合的多维变换分解为独立的标量变换,并有 A^k = PD^kP⁻¹。

第三种是关系抽象。二次、三次和四次多项式都有精确求根公式,但一般五次方程的求解长期困扰数学家;对这一问题的探索促成了置换群形式化:群元素描述多项式根的置换,使人能研究哪些置换保持根之间的代数关系,以及这些结构如何与用根式表达解相关。论文把这种对关系的强调追溯到李群、对称群和范畴论。

类人约束作为 AI 的设计选择

论文转向机器数学发现。大语言模型在数百年由人类认知瓶颈塑造的数学上训练,因此继承了其中的表示、符号和逻辑,并能组合出新的解。它们能否产生超出既有抽象新组合的新抽象,论文称仍是开放问题。论文引用了一项测试:在语言上预训练的 GPT-2 模型无法自行创造“零”的抽象,但能从少量例子中很快学会它。

担忧在于成本。论文称,已知大语言模型会生成冗余程序,倾向于过度思考,对简单问题分配过多计算,并且可能不加区分地扩大搜索空间。由于地球的能源资源仍然有限,作者认为低效且不加区分的搜索可能无法扩展。提出的补救办法是在大语言模型中激发类似无聊和挫败的信号,促使元决策转向扩展表示空间,而不是继续枯燥计算。

论文直接限定了这一提议:发现新抽象的能力可能需要现有方法之外的架构进步,也许无法仅靠规模扩展而出现。论文还表示,它对新颖抽象如何被发现的过程有意保持沉默,并将其留作未来研究的活跃课题。

历史案例说明模式而非证明因果

论文自己的局限部分明确指出了最薄弱的一环。认知科学提出,无聊是一种寻求信息的状态;对数等若干抽象可以联系到通过重构表示来避免枯燥计算的压力。论文指出,虽然具体实例的历史叙述似乎支持这一假设,但无聊情绪与重构压力之间的因果关系尚未建立。论文还提到,在多个目标之间做选择时的机会成本,可能是压缩压力的另一个驱动因素。

形式化模型同样没有说明新抽象是如何被找到的。它比较继续计算的预期成本与发现并使用新抽象的预期成本,但发现过程本身仍悬而未决。因此,历史片段最好被理解为:它们表明所提出的模式与数学中的若干重要转变相一致,而不是检验认知限制导致了这些转变。

为何可及且可复用的抽象成为优先

论文的收尾论证来自其成本比较,而不只是历史案例。如果抽象通过在一系列问题上的复用收回发现成本,那么值得追求的抽象就是压缩的、高效的和可组合的。作者进一步主张:应放弃一个问题只有唯一解的想法,转而寻找人类可及的压缩解,理想情况下是受启发的高中生也能理解的解。

正是在这里,论文对认知约束的论述变成了一种关于数学应当重视什么的判断。同样的推理也解释了它对机器的警告:不受人类瓶颈约束的系统可能不加区分地扩大搜索,但论文认为,激发类似瓶颈的信号可以推动它们转向重构。因此,对读者最重要的判断是有条件的:当在既有表示下继续的成本超过发现并复用新表示的预期成本时,认知限制会驱动抽象;论文把这一条件视为人类数学和机器发现共同的设计目标,而不是一条已经确立的因果定律。

本文引用的文献

1

Mathematics for and by human cognition: A resource-rational search for bottlenecks in problem-solving

论文提出,当瓶颈使在既有表示下继续搜索比发现新的可复用形式化更昂贵时,认知约束会驱动数学抽象;论文用历史片段说明这一点,同时把因果过程和发现过程留作开放问题。