人工系统如何模拟内部言语?这些模型能否为人类内部对话理论提供启示?

AI 系统如何把内部言语当作内部协调器使用,以及这对人类内部对话意味着什么。

直接答案

在人工系统中,内部言语通常被建模为一个私密的、以语言为基础的层次,位于感知与行动之间:系统会自言自语地梳理问题、陈述意图,或在行动前对情境进行推理。研究者使用大语言模型或生成的类言语表征来扮演这一协调角色,一些设计明确受到“人类内部言语引导行动选择”这一想法的启发。到目前为止,AI 与人类理论之间的交流大多是单向的:AI 设计借鉴人类认知理论,而关于这些模型证实或解释了人类内部对话的说法,仍只是建议,而非经过检验的发现。

5篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

内部言语在人工系统内部究竟起什么作用?

最常见的设计把内部言语当作协调器,而不是心智本身。一种观点认为,不应把大语言模型当作完整的人工心智来评判,而应将其作为多个组件中的一个来使用,让它执行人类发展和成人解决问题过程中内部言语所承担的、以语言承载的内部角色——一种帮助其他过程协同工作的内部支架 [1]。在这种图景中,聊天机器人不是整个智能体;它是那个把系统其余部分“说通”该做什么的部分。

第二条工作路线把这一点具体化。MIMIC 框架根据智能体观察到的内容生成内部言语,然后基于观察和生成的言语选择行动。设计者表示,他们借鉴了“人类内部言语在行动执行前引导行动选择”的理论,并把这种言语用作行为意图的内部表征 [4]。由于智能体可以以不同的行为特定言语为条件,同一系统可以在运行时被引导向不同行为,而无需新的演示 [4]。

机器人研究把这一想法从行动选择扩展到情绪和社会互动。一个模型让机器人公开地自言自语,以推理情境和自身内部过程,其基础是达马西奥(Damasio)关于情绪是身体感觉与认知加工之间相互作用的论述;据报道,与机器人互动的人能识别出它的情绪体验 [5]。在这里,内部言语承担双重职责——内部推理和向外发出信号,使机器更容易被人类理解。

工程师为什么要借鉴人类内部言语?

吸引力在于功能。人类内部言语被认为是一种以语言承载的内部协调器和支架,服务于多种其他过程,而这正是模块化 AI 架构所需要的那种黏合剂 [1]。如果你已经有感知、记忆和行动的独立部件,那么一种基于语言的内部评论就是一种可行的方式,让它们协同工作,而不必把每一种交互都硬连线。

MIMIC 的工作展示了这种借鉴在实践中的样子:其明确动机是人类认知主张——内部言语在行动执行前引导行动选择,而这一主张塑造了系统表征意图的方式以及控制方式 [4]。这是一种设计类比,而不是证明机器的内部言语与我们的一样运作。人类理论提供蓝图;工程测试检验蓝图是否能产生有用的行为。

这些模型能告诉我们关于人类内部对话的新东西吗?

大多数情况下,影响是从人类理论流向机器。MIMIC 框架以人类认知理论为灵感,并报告在行为多样性、对人类演示的保真度以及在机器人操作和人机协作游戏中的可引导控制方面有所提升 [4]。这些结果说明借来的想法对构建智能体是否有用;它们并不检验人类理论是否正确。

更广泛的提议更有雄心,但仍被表述为一种可能性。巴克纳(Buckner)提出,如果语言模型扮演内部言语在获得认知能力中所扮演的角色,那么把语言模型作为通往 AI 之路的研究就值得重新评估,一个不同的议程也会随之浮现 [1]。这是关于 AI 研究应关注何处的主张,而不是关于人类内部对话实际如何运作的证据。同样,机器人情绪模型报告说,人们能识别机器人的情绪体验,内部言语提高了信任,并使机器人更接近人类认知 [5]——这是关于人类如何感知机器的观察,而不是关于人类内心生活的发现。

还有一个值得留意的概念性警告。关于与语言模型交流的哲学工作认为,这些系统不是具身动物,缺乏塑造人类心智的需求和偏好,因此我们关于交流和心智的概念可能需要先去拟人化,然后再应用 [3]。这并没有解决 AI 内部言语是否阐明人类内部对话的问题,但它警告我们不要假定机器的内部独白与我们的内部独白是同一种东西。

类比在哪里有用,在哪里吃紧

作为设计启发法,这个类比最有用:内部言语作为内部语言通道,协调其他模块、承载意图,并且可以被引导 [1][4]。作为关于人类心理学的主张,它最不牢靠,因为 AI 工作测量的是任务表现、行为多样性以及人类对机器人的感知——而不是人类内部对话的结构或功能 [4][5]。一个自言自语完成操作任务的系统,可能在角色上类似人类内部言语,但在机制、具身性和起源上不同。

机器人研究的一个分支把内部言语视为本身就值得建模的主题,指出以内部言语的冗长形式思考很常见,而且现有的内部言语模型启发了计算工具 [2]。这种框架支持把内部言语模型用作工程资源。但它本身并不表明,构建这样的模型能教给我们关于人类内部对话的新东西——所以诚实的答案是:AI 内部言语是对人类理论的一种富有成效的借鉴,而它对人类理论的回馈贡献在很大程度上仍只是提议,而非已证明 [1][4]。

本文引用的文献

1

机器人与自己的对话:用于内部言语的语言模型

提出把大语言模型用作认知架构的一个组件,执行内部言语在人类发展和问题解决中所承担的协调与支架角色。

2

自我意识机器人的内部言语

探讨自我意识机器人中的内部言语,指出以冗长的内部言语形式思考很常见,而且现有的内部言语模型启发了计算工具。

3

引言

主张语言模型与具身人类有根本差异,在将交流和心智概念应用于它们之前,可能需要先去拟人化。

4

内部言语作为行为指南:面向人机协作的可引导多样行为模仿

介绍 MIMIC,它从观察中生成内部言语以表征行为意图并引导行动选择,在机器人任务和人机任务中提高了行为多样性、保真度和可引导控制。

5

内部言语与达马西奥理论用于机器人情绪建模

提出一种机器人模型,在达马西奥的情绪理论框架内用内部言语推理情境和内部过程,据报道人们能识别机器人的情绪体验。