针对专业任务，小模型与大模型之间的真正权衡是什么？
传统观点认为模型越大越好，但这并非全貌。大型模型（如GPT-5.2）拥有更多参数和训练数据，具备广泛的知识和强大的推理能力。小型模型（如Qwen3-VL-30B或Llama 3.2 1B）则更经济、更快速、更易部署，但在复杂任务上往往表现不足。关键问题在于：能否通过巧妙的设计——例如让多个小型模型协同工作，或允许它们按需调用大型模型的知识——来缩小性能差距？证据表明答案是肯定的，但这取决于具体任务和所采用的技术。
一群小模型能否击败一个大模型？
是的，多智能体系统——即让多个小型模型扮演不同角色并最终达成共识——能够显著提升小型模型在专业任务上的表现。在一项关于肝癌临床推理的研究中，一个拥有300亿参数的小型模型（Qwen3-VL-30B）被改造成一个“肿瘤委员会”，由分别扮演肝病专家、肿瘤专家和放射科医生的独立智能体组成，并设有一个监督者来整合它们的答案。这使得该模型在一项经过验证的88题测试中，准确率从55.4%提升至64.8%——提高了9.4个百分点[1]。作为对比，一个更大的模型（GPT-5.2）在使用相同系统后，准确率从74.2%提升至80.3%，增幅较小，为6.1个百分点[1]。实际上，小型模型从多智能体架构中获益更多，并且其一致性也有所增强：其运行结果的一致性从55%跃升至73%[1]。这表明，当获得结构化协作时，小型模型拥有更大的提升空间。
如果一个小模型可以向大模型求助呢？
另一种高效的方法是让小型模型仅在必要时查询大型模型，而非每次请求都运行大型模型。研究人员测试了一个拥有10亿参数的Llama 3.2模型，该模型在推理过程中可向更大的30亿或80亿参数的Llama模型发送单个“向量提示”。相比仅使用小型模型，这种方法仅增加了31%的计算量，但效果显著：在事实回忆任务中，小型模型的准确率平均提升了一倍以上（相对提升114.9%）[2]。例如，在TriviaQA上，准确率从35.4%跃升至74.4%；在Freebase Questions上，从14.6%提升至42.5%；在Natural Questions上，从12.6%升至34.9%[2]。这种混合方法优于传统的微调（即用大型模型的输出训练小型模型），同时保持了低成本，使其在实际部署中更具可行性。
小型模型的能力是否存在极限？
是的，小模型仍存在短板。一项涵盖72个小语言模型、涉及17项推理任务的综合基准测试发现，虽然训练方法和数据质量比原始模型规模更重要，但大模型在抵御对抗攻击和维持中间推理步骤方面始终更稳健[5]。例如，剪枝（移除模型部分参数以缩小规模）会显著削弱推理能力，而量化（降低数值精度）则能更好地保留推理性能[5]。在农业领域，一个视觉语言模型仅用8个植物胁迫样本就将F1分数从46.24%提升至73.37%，但不同植物类型间的表现差异极大（变异系数从26%到58%）[3]。而在慢性病管理方面，一项范围综述发现，即便是ChatGPT和Llama这样的大模型，在62%的研究中仍会产生不准确或不一致的响应，尤其在复杂临床决策场景中[4]。因此，尽管小模型具备竞争力，但并非通用替代方案——它们的最佳应用场景是与检索增强、多智能体系统或对大模型的选择性查询相结合。
本文引用的文献
基于肿瘤委员会的多智能体大语言模型，结合指南检索与共识讨论：对肝细胞癌临床推理的启示。
一个多智能体共识系统将小模型在肝癌推理任务上的准确率提升了9.4个百分点（从55.4%提升至64.8%），这一提升幅度超过了更大模型所获得的6.1个百分点的改进。
通过低开销查询机制实现大语言模型向小语言模型的高效知识迁移
一个10亿参数的模型在推理时通过查询更大的模型，将事实回忆准确率提升了一倍以上（例如TriviaQA从35.4%提高到74.4%），而额外计算量仅为31%。
利用视觉语言模型处理专业化农业任务
视觉语言模型在植物胁迫识别任务中，仅凭8个样本便将F1分数从46.24%提升至73.37%，但不同植物类型间的表现差异显著（变异系数为26%–58%）。
使用大型语言模型进行慢性病管理任务：范围综述。
一项涵盖29项研究的范围综述发现，无论模型规模大小，大语言模型在62%的慢性病管理任务中产生了不准确或不一致的回应。
ThinkSLM：迈向小型语言模型的推理能力
一项涵盖72个小模型、涉及17项推理任务的基准测试发现，训练方法与数据质量比模型规模更为关键，但规模较大的模型对对抗性攻击的鲁棒性更强。