核心权衡：LLM加速数据准备，但错误比你预想的更多
核心争议在于，LLM自动化节省的时间是否足以抵消错误风险的增加。一方面，LLM能大幅缩短数据准备任务所需的时间。在一项2026年关于建筑信息模型（BIM）自动化的研究中，与手动编写脚本相比，LLM驱动的脚本编写将完成时间缩短了46% [2]。对于劳动密集型流程而言，这是巨大的效率提升。另一方面，同一项研究发现，LLM生成的代码需要多32%的修正迭代次数，且可靠性得分随任务复杂度增加而下降——从组件级任务的0.603降至系统级任务的0.489 [2]。也就是说，速度越快，需要反复核查的地方就越多。
这种权衡不仅关乎输出中的错误，更关乎大语言模型偏离既定脚本的倾向。2025年一项关于原子力显微镜（AFM）自动化的研究发现，大语言模型智能体可能偏离指令，他们称这种现象为“梦游”[1]。这为自主实验室工作带来了严重的安全隐患。结论是：界限应划定在错误代价高昂之处——例如科学实验或医疗数据——且人类监督切实可行的场景中。
治理是安全网：没有它，LLM数据准备就是一项负债
划定边界的最有力证据来自明确检验治理措施的研究。2022年一项面向企业客户问题分析框架的研究表明，将治理组件——访问控制、审计日志、匿名化和策略验证——整合到数据准备流程中，可将分类准确率提升至92.3%，F1分数达到0.91，相比之下，未受治理的大语言模型方法表现逊色[3]。该框架还降低了幻觉风险，并将推理延迟保持在足够低的水平，以满足实时应用需求[3]。这表明，安全边界不仅关乎人工监督，更在于将治理内嵌于系统本身。
这一发现与更广泛的原则一致，即数据质量和合规性是可信赖的大语言模型自动化的前提。同一项研究指出，记录管理不善、元数据不一致以及隐私问题是常见的障碍[3]。因此，在让大语言模型处理你的数据之前，你需要先建立相应的治理基础设施。这是一个实际的边界：如果你无法确保数据溯源和访问控制，就不应进行自动化。
隐私是红线：敏感数据需特殊处理
当数据涉及个人时——比如病历或客户信息——安全边界必须划得更紧。2023年一项关于患者试验匹配的研究，采用了一种隐私感知的数据增强方法来处理大语言模型，在发挥大语言模型优势的同时，也确保敏感患者数据的安全[4]。与不注重隐私的方法相比，该方法性能提升了7.32%，泛化能力提升了12.12%，这表明你无需为了性能而牺牲隐私[4]。其含义十分明确：对于任何涉及个人信息的數據准备，隐私保护技术都是不可或缺的。
这是各项研究从不同角度汇聚于一点之处。企业治理框架[3]与患者试验研究[4]均强调隐私感知预处理和匿名化的必要性。即使在敏感度较低的领域，AFM研究[1]与BIM研究[2]也凸显了稳健协议和错误处理的重要性。共识在于，界限应划定在数据敏感性与自动化交汇之处——如果你无法保障隐私，就不应实施自动化。
关于这些来源
本回答基于5项同行评审研究——发表于2022年至2026年间，其中2项为2024年或之后发表，2项发表于Q1期刊，合计被引用66次——这些研究是从5项通过质量筛选的研究中选出的最相关成果，而这些研究又源自从超过5亿篇论文数据库中检索到的54篇文献。
本文引用的文献
评估用于原子力显微镜自动化的大型语言模型智能体
在一项关于原子力显微镜大语言模型智能体的研究中，最先进的模型在基础任务和协调方面表现不佳，并表现出“梦游”现象——即偏离指令——这引发了对其在自主实验室应用中安全性的担忧；多智能体框架优于单智能体框架，但仍对提示词变化较为敏感。
基于能力的多维度评估，实现可靠的LLM驱动BIM自动化
在对31项任务中LLM驱动的BIM自动化进行评估时，共记录了238个错误，其中API误用占失败原因的48.3%；可靠性评分从组件层面的0.603下降至系统层面的0.489，且尽管LLM将完成时间缩短了46%，但其所需的修正迭代次数比手动脚本多出32%。
为大型语言模型辅助客户问题分析准备企业数据：一个以治理为中心的框架
一个以治理为核心的框架，用于准备企业客户支持数据以供大语言模型分析，在10，000张工单上测试后，实现了92.3%的分类准确率和0.91的F1分数，减少了幻觉现象，并确保了合规性和低延迟，优于无治理的大语言模型方法。
用于患者-试验匹配的大语言模型：面向更优性能与泛化能力的隐私感知数据增强
在一项关于患者与临床试验匹配的研究中，一种面向大语言模型的隐私感知数据增强方法将性能提升了7.32%，泛化能力提升了12.12%，同时确保了敏感患者数据的安全性与保密性。
面向半自动化数据科学的LLM：引入CAAFE以实现上下文感知的自动化特征工程
CAAFE框架采用半自动特征工程，利用大语言模型为表格数据生成具有语义意义的特征，将14个数据集的平均ROC AUC从0.798提升至0.822，并为每个特征提供了可解释的说明。