小型语言模型究竟在哪些场景下表现出色？
小型语言模型在结构化信息提取和分类任务中已具备可靠性——这类任务要求模型从文本中提取特定的、预定义的事实。在一项针对儿童福利记录的研究中，一个200亿参数的模型对七种物质使用类型（酒精、大麻、阿片类药物等）进行了分类，其中五个类别与人类专家的判断几乎完全一致（Cohen's kappa系数为0.94至1.00），精确度介于92%至100%之间[1]。这意味着，对于这些类别，与受过训练的人工审核员相比，该模型几乎未出现任何错误。
同样在肿瘤学领域，一个拥有120亿参数的模型从病理报告中提取基因组学和组织学发现，F1分数达到92.6%至93.3%——这意味着它几乎能正确识别所有相关细节[2]。即使对于肿瘤分期等更复杂的任务，结构化推理提示也将其在淋巴结和转移分期上的F1分数提升至87%至91%[2]。这些结果表明，在从文本中提取特定、明确的信息方面，小型语言模型已具备投入生产的能力。
小型语言模型在哪些方面仍有不足？
那些证明小语言模型（SLM）取得成功的同一批研究，也揭示了其明显的局限性。在肿瘤学研究中，那个40亿参数的模型在推理任务上表现不稳定，甚至在给出结构化提示时效果反而更差——这表明极小的模型缺乏进行多步推理的能力[2]。在检测幻觉（即模型编造事实的情况）方面，一个使用多个小语言模型的框架将F1分数提升了10%，但依然需要结合多个模型才能可靠运行[4]。
安全性是另一个重要问题。一项针对7种不同小型语言模型（SLM）在9类越狱攻击下的全面测试发现，所有小模型仍然极易受到绕过其安全训练的恶意提示的影响[5]。作者提出了一种防御方法（GUARD-SLM），通过分析模型内部激活来过滤有害输入，但这仍是一个活跃的研究领域，尚未完全解决[5]。在用户可能试图欺骗模型或错误输出可能造成危害的任何部署场景中，SLM都需要额外的安全防护措施。
尽管有局限，小模型为何仍值得部署？
小型语言模型在实际应用中具有显著优势，使其在许多真实场景中颇具吸引力。它们可完全在本地硬件上运行，这意味着敏感数据（如医疗记录或儿童福利档案）永远不会脱离组织的控制范围[1][6]。这解决了隐私与合规问题，而这些问题恰恰是云端大型模型无法回避的。成本是另一大关键因素：在一项比较五种模型从癌症试验记录中提取毒性数据的研究中，最便宜的模型（Gemini 2.0 Flash）仅需0.77美元即可达到具有竞争力的准确度，而最昂贵的大型模型完成相同任务则需花费超过21美元[3]。
资源效率还催生了新的应用场景。一个仅有27亿参数的多模态模型（LLaVA-Phi）成功实现了图文结合的对话处理，为需要快速本地处理的实体机器人等实时系统打开了大门[7]。这些研究的核心启示在于：小语言模型并非大模型的通用替代品，而是针对特定任务的精准工具——在隐私、速度和成本比原始推理能力更重要的场景中发挥作用[6]。
关于这些来源
该回答基于7篇经同行评审的研究——发表于2024年至2026年，其中7篇为2024年或之后发表，1篇发表于Q1–Q2期刊，累计被引用50次——这些研究是从7篇通过质量筛选的文献中选出的最具相关性的成果，而该筛选过程则源于从超过5亿篇论文的数据库中检索到的69篇论文。
本文引用的文献
验证小语言模型在儿童福利记录中对DSM-5物质类别分类的准确性。
一个200亿参数的模型从儿童福利记录中分类DSM-5物质类别，在七个类别中的五个上达到了近乎完美的一致性（kappa值0.94-1.00），精确度为92-100%，且完全在本地硬件上运行。
使用大型语言模型对真实世界肿瘤报告进行临床推理。
一个120亿参数的模型在从病理报告中提取基因组和组织学数据时，F1分数达到92.6%-93.3%；通过结构化提示，其在肿瘤分期任务上的F1分数达到87%-91%；而一个40亿参数的模型在推理任务上表现不稳定。
用于肿瘤试验毒性提取的大型语言模型：前列腺放疗中的真实世界基准。
五种现成的大型语言模型（LLM）从肿瘤试验记录中提取了CTCAE分级毒性信息，二元准确率在84.6%至87.4%之间；成本从0.77美元（Gemini 2.0 Flash）到超过21美元（Gemini 2.5 Pro、GPT-5）不等。
使用小型语言模型进行幻觉检测
一种利用多个小型语言模型检测大语言模型响应中幻觉的框架，在超过100组问答-上下文数据集上，相比单模型基线将F1分数提升了10%。
GUARD-SLM：基于令牌激活的小型语言模型越狱攻击防御方法
在针对7个小语言模型和3个大语言模型进行的9种越狱攻击测试中，所有小语言模型均表现出高度脆弱性；所提出的GUARD-SLM防御机制通过分析隐藏层激活来过滤恶意提示。
小型语言模型的崛起
这篇综述文章概述了开发小型语言模型（SLM）的原则，指出了它们在资源受限部署中在效率、延迟、安全性和隐私性方面的优势，并探讨了SLM与大型语言模型（LLM）之间的协作。
LLaVA-Phi：基于小型语言模型的高效多模态助手
LLaVA-Phi 是一款仅拥有27亿参数的多模态模型，在视觉理解与推理基准测试中表现优异，证明了当使用高质量数据进行训练时，小型模型也能胜任图文对话任务。