原型分析为可解释降维提供了什么？

原型是充当纯形式的混合体

原型分析由 Adele Cutler 和 Leo Breiman 于 1994 年提出，它从高维数据中提取出称为原型的独特侧面，并把每个观测描述为这些原型的混合。这种混合是凸组合：权重非负且总和为一，因此观测被放在原型张成的区域内部，而不是外部。综述还强调了一个决定原型形态的约束：原型本身也被定义为全部数据点的凸组合。因此，原型不是任意方向，也不是从数据外部拉来的合成平均值；它是由观测构建出的理想化纯形式。

正是这双重约束让输出可读。读者可以把一个原型当作可识别的画像来查看，再把某个观测的权重读作它在这些画像之间所做的取舍。综述把 AA 定位为常规聚类和矩阵分解的补充而非替代：聚类把一个观测归入某一组，而 AA 让每个观测都落在所提取极端之间的连续谱上。

手写数字 9 上的三原型三角形

综述最清晰的示例使用 MNIST 手写数字数据集中仅含数字 9 的子集，并拟合三个原型。每张 28×28 像素的图像位于 784 维空间中；AA 拟合三个原型，它们张成一个二维三角形，原型位于三角形顶点，所有 9 都被投影到这个三角形上。提取出的原型被描述为“窄而直”“窄而斜”和“宽而直”。

投影分布本身也携带了顶点画像之外的信息。综述报告，原型本身以及它们之间的边比三角形中部吸引更多投影，而落在“宽而直”与“窄而斜”两个原型之间的边上的点较少。换言之，拟合单纯形的几何本身就是数据分布方式的概括：观测聚集在纯形式附近和特定的两两混合附近，内部相对稀疏。这正是 AA 作为可解释降维的含义：784 个像素维度变成每张图像的三个权重，顶点以及点在其间的落位都可以被读取。

非凸拟合无法保证找到真实极端

综述明确指出核心困难在于计算。AA 背后的优化问题是非凸的，即使纯形式确实作为数据的凸组合存在，也不能保证被正确识别。由于推断可能陷入局部极小，作者强调要量化模型对初始化的稳健性并报告计算可复现性，而不是把单次拟合当作定论。

综述还按每次更新的代价比较了主要估计算法，并排除了形成系数矩阵与原型矩阵乘积所共有的 O(NMK) 项。原始公式采用的非负最小二乘，在系数更新上为 O_S(NK³)，在原型更新上为 O_C(K|A|³)，其中 |A| 是活跃集的大小。若干后续方法，包括主凸包分析、Frank–Wolfe、配合 Adam 的 softmax、块坐标下降和乘法更新规则，代价为 O_S(NMK) 与 O_C(NMK)。当原型必须是实际观测时使用的原型点选择算法，每次交换迭代的代价为 O_C(K(N−K)O_S)。这些是每次更新的代价，不是总运行时间，综述把它们作为选择方法的参考，而不是准确性的排名。

原型与原型点回答不同的问题

读者容易混淆的一处区分是原型与原型点。标准 AA 的原型是数据的凸组合，可能不与任何观测记录重合。当应用要求画像必须是真实观测时，原型点选择算法改为在数据中搜索实际样本，用贪心的构建—交换策略更新系数矩阵，并为每个候选集合重新计算混合权重。综述指出，对二值数据而言，这种观测空间中的方法给出可行解，并避免了概率扩展所需的后验二值化，从而能更准确地恢复原型信息。

这一选择影响解释。凸组合原型可以是更干净的理想化画像，但不是从业者能指认的案例；原型点可以直接作为真实记录查看，代价是搜索受到更多约束。两者不是彼此的更好版本；它们回答的是极端应当作为理想化构造，还是作为已有观测。

扩展拓宽了 AA 能处理的数据类型

AA 最初是为连续数据定义的，综述记录了后续工作如何扩展它。一种概率扩展在参数空间中构造凸包，并在那里得到原型画像，综述具体涉及伯努利、泊松和多项分布；当观测模型是协方差为单位阵的多元正态分布时，这一形式等价于原始 AA 问题。进一步的工作涵盖名义观测、旨在让 AA 不受输入严格单调变换影响的 copula 方法、有序响应以及高维数据。

综述还记录了向其他数据对象的扩展，包括符号数据、区间值和直方图值数据、稠密与稀疏函数型数据、网络、带符号加权关系数据、带地标的形状、开放曲线以及轴对称的方向数据。加权 AA 用加权 Frobenius 范数替换原目标，使观测或残差可以贡献不等权重，这也支持核心集，即可以在更少数据上更快学习模型的加权子集。稳健性变体对残差和观测重新加权，使用 M 估计量、Huber 损失函数和 Tukey 双权族来应对极端离群值。这些扩展之所以重要，是因为综述指出数据偏离假设的地方，恰恰是面向高斯的朴素形式失效之处。

缺失值与离群值改变原型落点

两个实际问题得到了专门处理。对于不完整数据，最早的方案修改了原目标函数，后来的方法对缺失值和非缺失值赋予不同权重；综述指出，在这两种情况下原型都可能落在凸包之外。为避免这一点，后续提出了替代方案：一种先由全部两两相异性计算相异矩阵，把样本嵌入欧氏空间后再运行 AA；另一种称为 AAII，在参数更新过程中进行内部插补。还有一种方法在标准 AA 上增加了基于加权最小二乘的插补步骤。

离群值通过上述稳健变体处理，这些变体降低极端观测的权重，而不是让它们拉动学到的表示。综述把离群值列为核心实际挑战之一，与非凸优化和原型数量难以选择并列。对于要判断拟合结果是否可信的读者，这些是应首先检查的条件：缺失项如何处理、原型是否留在凸包内、是否使用了稳健损失。

可复现性与画像同样重要

综述的讨论部分收束于一个由非凸性而非某个具体应用引出的优先事项：由于推断可能停在局部极小，作者强调要量化模型对初始化的稳健性并报告计算可复现性。因此，一组看起来合理的原型本身并不构成充分证据；在把它的画像解释为数据的独特侧面之前，应证明拟合在不同初始化下是稳定的。

综述还界定了 AA 相对于其他工具的角色。它把 AA 描述为擅长给出易于解释的表示，揭示突出的极端以及观测层面的取舍，并与聚类和矩阵分解互补。由此支持的实际判断是有条件的：当问题是哪些理想化极端刻画了数据、每个观测如何在它们之间取舍时，AA 是更强的选择；当原型数量无法论证、离群值未受控制，或数据偏离所选变体所依据的假设时，它是较弱的选择。综述自述的目标是让 AA 成为标准的、高度可解释的工具，而它列出的开放问题表明，初始化稳健性检查最可能区分可信的拟合与仅仅可读的拟合。

本文引用的文献