Lyric 把哪些环节移到数字化之前
传统语音前端先采集 16 kHz 波形,再用 50 ms 窗和 10 ms 跳步计算 40 维 log-Mel 频谱图,每秒产生 100 帧。在任何分类器运行之前,每个重叠帧都需要加窗、FFT、功率谱计算、Mel 滤波、对数压缩和归一化。缩小分类器并不能省掉这些预处理。
Lyric 改为在声学和模拟域、模数转换器之前完成频率选择与包络提取。空气传播的语音驱动五个无源亥姆霍兹谐振器,每个调谐到语音频谱的不同区域。密封在每个腔体内的麦克风测量其压力响应,模拟 AC-RMS 电路以 10 ms 积分区间提取缓慢变化的幅度。随后五个包络以每通道每秒 100 个采样、合计每秒 500 个标量采样被数字化,送入因果时序网络。这条路径不需要数字分帧、FFT、Mel 滤波或对数压缩。
通道身份为何能替代频谱 bin
该设计依赖一种分工。每个谐振器的通道身份编码粗略的频率信息,其包络则捕捉响应幅度随时间的变化。由于 ADC 只采样缓慢包络,无需采样声学载波,这正是 50 Hz 奈奎斯特上限作用于包络调制、而通道目标频率却延伸到 7.5 kHz 的原因。高于 50 Hz 的调制仍必须在数字化前由模拟包络响应衰减。
论文明确指出,只有声学频率选择是无源的。包络信号仍需要适当的滤波和采样。因此该主张针对的是一种紧凑的声学到数字表示及其省去的数字处理,而不是消除模拟电路。
五个通道是如何选出的
通道选择必须在冗余与频谱覆盖之间权衡:响应相似的通道携带重叠信息,而覆盖缺口可能抹掉数字之间的差异。作者在录制任何 AudioMNIST 数据之前,先用一套单独的字母数据集在 COMSOL 仿真中筛选候选通道组。他们仿真了 110、180、300、1800、3500、4500、6000 和 7500 Hz 八个候选谐振器,计算峰值归一化传递能量响应,并用 40 ms 汉宁窗、10 ms 跳步和 2048 点 FFT 从 16 kHz 语音预测响应轨迹。
全部 56 个五谐振器子集都在来自七段录音的 182 个带标签 A–Z 片段上评估,每个子集用 25 个特征描述各通道能量占比及其时间变化,采用类别平衡线性 SVM 和七折留一录音交叉验证。目标频率为 300、1800、3500、4500 和 7500 Hz 的子集以 67.03% 平均平衡准确率排名第一,第二名是 66.48%,折间标准差为 15.23 个百分点。作者指出,差距很小且折间波动大,不能确立唯一最优解,且没有任何数字数据参与该选择。
选中的通道被制成整体式 PLA 亥姆霍兹谐振器,将颈部、腔体、过渡段和麦克风端口打印为一个零件,以消除可能改变腔体响应的装配接缝。在有样机测量值时,用实测峰值在固定颈部的前提下调整腔体体积;对于 1800 Hz 通道,一个峰值在 2150 Hz 的前代样机被从 0.984 mL 修正到 1.404 mL。
准确率与计算成本的权衡
评估使用物理录制的 AudioMNIST 语音,采用说话人不相交划分,36 位训练、12 位验证、12 位测试说话人,覆盖九个分类器家族。音频峰值归一化到 -9 dBFS,在距固定谐振器阵列 15 cm 处回放,每场一位说话人,间隔 150 ms。
核心配对比较是 EdgeSpeechNet-A。使用 Lyric 输入时,它以 6.56 ms 达到 95.70% 准确率,每次推理估计动态处理器能耗 1.97 mJ;其 log-Mel 对应版本则为 99.28%、454.31 ms 和 136.29 mJ。也就是说,计算时间和估计能耗约降至 1/69,代价是准确率下降 3.58 个百分点。在 log-Mel 下超过 95% 的七个家族中,五通道输入达到 91.07–95.70% 准确率。
两个最小的分类器走向相反。MicroCNN 从 43.88% 升到 74.72%,StrideCNN 从 47.52% 升到 80.92%,尽管参数更少。用包络归一化替代数字 log-Mel 提取,把平均前端时间从 8.48 ms 降到 0.28 ms,五通道输入及其适配网络在每一对中所需 MAC 都更少,同时保持 100 Hz 输入帧率。九个家族的总计算延迟下降 69.5–98.6%。
延迟收益最大的位置在哪里
EdgeSpeechNet-A 的配对降幅并非唯一重要的比较。有五种 Lyric 配置在 10 ms 内超过 90% 准确率,而没有任何被评估的 log-Mel 配置同时满足这两个阈值。谐振器 PoolCNN 以 1.81 ms 和 0.54 mJ 达到 91.07%,而 log-Mel 中超过 90% 的最便宜模型 TC-ResNet8 需要 16.87 ms 和 5.06 mJ。
面对这个成本更低的基线,情况有所变化。谐振器 EdgeSpeechNet-A 比 log-Mel TC-ResNet8 低 2.9 个百分点,计算时间和估计能耗降至 1/2.6。因此收益在面对更便宜的 log-Mel 基线时依然存在,但小于 EdgeSpeechNet-A 的配对降幅。能耗估计使用实测的 0.30 W 动态处理器功耗,不含麦克风、包络电路、ADC 和采集时间,因此描述的是处理器计算而非整机能耗。
为什么 100 Hz 包络已经够用
两项消融检验该表示真正需要什么。把谐振器包络速率从 100 Hz 提高到 400 Hz,MAC 增加 3.8–4.0 倍,总延迟增加 2.3–4.6 倍,但七个较强家族的平均准确率仅从 93.37% 变为 93.59%。MicroCNN 和 StrideCNN 反而分别损失 7.45 和 4.57 个百分点。在这些运行中,100 Hz 输入避免了额外计算成本,且没有一致的准确率损失,不过单种子结果无法量化运行间波动。
第二项消融针对频谱选择性。在 400 Hz、相同 10 ms 窗和 2.5 ms 跳步下,五个谐振器通道在被测架构上比单一宽带 RMS 包络高出 21.1–44.9 个百分点。作者提醒,训练预算不同限制了把这一增益归因于频谱选择性,而且该比较并未确立相对等效五通道数字滤波器组的优势。
实测包络保留了哪些信息
每类平均 50 次重复的实测类别模板显示,数字之间既在哪些通道响应上不同,也在响应出现的时间上不同。对于“four”,响应包含一个持续的中段爆发,R300、R1800、R4500 和 R7500 响应强,R3500 响应较弱。对于“eight”,早期爆发在两位说话人中集中在 R3500–R4500,另有一个较晚的高频爆发在说话人 22 上更明显。由于把每个通道在整段语音上池化会丢失这种时间结构,流水线保留时序网络来利用它。
论文也指出了这些模板不能说明什么。谐振器在激励结束后仍会继续响应,10 ms RMS 积分进一步平滑其输出,因此振铃和积分可能模糊区分短语音的起始和过渡。包络积分区间短于基线的 50 ms log-Mel 窗,两者都使用 10 ms 跳步,但作者指出,仅凭这一差异不能确立阵列的时间分辨率,因为并未测量每个制成通道的振铃衰减。分离的爆发在平均包络中仍可区分;它们并未提供瞬态响应的实测界限。
这项比较没有分离出什么
配对模型保留各分类器家族的主要结构,但输入表示和架构不同,因此该比较衡量的是完整流水线的权衡,而不是单独分离物理滤波的效果。通道组是在字母语音上选出的,选择差距很小,因此五通道选择应被理解为所测试的最高分通道组,而非已证明的最优解。
范围还受任务和硬件限制。结果来自说话人不相交 AudioMNIST 划分上的口说数字识别,使用原型谐振器组和单线程、批大小为 1 的树莓派 4。作者把集成传感与推理硬件、测量整机总能耗以及评估连续语音列为未来工作。因此报告的能耗数字只覆盖处理器计算,准确率数字适用于该数字基准,而非泛指语音识别。
最关键的阈值是哪一个
这篇论文中最具决策意义的划分不是头条的 98.6% 降幅,而是“10 ms 内达到 90% 准确率”这一阈值。五种 Lyric 配置通过该阈值,而没有任何被评估的 log-Mel 配置通过,这正是该表示改变小型设备可尝试范围的地方。如果目标是该比较中的最高准确率,相关结果是 EdgeSpeechNet-A 的配对结果:6.56 ms 和 1.97 mJ 下达到 95.70%,比 99.28% 低 3.58 个百分点,换来约 1/69 的计算时间和估计处理器能耗。
如果目标是 90% 以上准确率中最便宜的模型,相关比较是 PoolCNN 的 91.07% 和 1.81 ms,对比 log-Mel TC-ResNet8 的 16.87 ms 和 5.06 mJ。论文自身的表述支持把这些读作一条权衡曲线而非单一结论:在延迟和处理器能耗占主导时收益最大,而当基线本身已是小型 log-Mel 模型时收益收窄。
本文引用的文献
Lyric: Wave-Domain Computing for Efficient Spoken-Digit Recognition
Lyric 用无源声学谐振器在数字化前提取语音特征,采集的标量采样比 16 kHz 波形少 32 倍,并在树莓派 4 上相对 EdgeSpeechNet-A 把预处理加推理延迟和每次推理的估计处理器能耗降低 98.6%,代价是准确率下降 3.58 个百分点至 95.70%。
