模型合并的线性算子几何 2026

一、问题的提出：模型合并为什么需要线性算子视角

模型合并（model merging）从 2023 年 Wortsman 等人提出 Model Soups 开始，已经从「实验技巧」演化成了一类严肃的研究范式。到 2026 年，TIES-Merging、DARE、Task Arithmetic、Model Breadberg、FrankenMoE 等十余种方法相继出现，但学界对合并为何有效的理论解释始终停留在经验层面：什么条件下合并权重保留了各模型的能力？什么条件下合并后能力坍塌？这些问题的形式化答案直接决定了生产环境中能否安全地把 30 个 LoRA 微调合并成单一服务权重。

本文尝试从线性算子（linear operator）这一更基础的几何视角重写模型合并理论。我们将看到：模型合并本质上是在权重空间 $\mathbb{R}^{d}$ 的仿射子空间上做线性投影；任务向量（task vector）$\tau_i = \theta_{\text{ft},i} - \theta_{\text{base}}$ 是模型参数的偏移量；Task Arithmetic 通过线性叠加 $\theta_{\text{base}} + \sum \lambda_i \tau_i$ 实现「加减能力」直觉；TIES-Merging 通过「符号一致 + 冗余剪枝 + 离散选择」三步把线性投影修正为稀疏门控投影。本文证明：这三类方法在权重空间的正交补空间上统一为同一个线性算子的三种受限表达，并由此推出生产环境中的失败模式与决策树。

二、形式化：权重空间的仿射几何与任务向量代数

设基础模型 $\theta_{\text{base}} \in \mathbb{R}^d$，每个微调后的模型 $\theta_{\text{ft},i} = \theta_{\text{base}} + \tau_i$，其中 $\tau_i$ 是任务向量。合并后模型 $\theta_{\text{merged}} = M(\theta_{\text{base}}, \tau_1, \dots, \tau_n)$ 是一个多元函数。直觉上 $M$ 应该是线性的——这是因为神经网络是关于参数的连续可微函数，参数在 $\theta_{\text{base}}$ 附近的扰动在一阶近似下线性叠加。

定义 1（任务向量空间）。令 $V = \text{span}\{\tau_1, \dots, \tau_n\}$，则合并操作是 $V + \theta_{\text{base}}$ 上的仿射映射。

定义 2（线性合并算子）。若 $M$ 满足 $M(\theta, \alpha\tau_a + \beta\tau_b) = \alpha M(\theta, \tau_a) + \beta M(\theta, \tau_b)$，则称 $M$ 为线性合并算子。

Task Arithmetic、Model Soups、Weight Averaging 都是线性合并算子的实例；它们之间的区别仅在于系数 $\lambda_i$ 的选择策略。然而线性叠加在工程上有一个致命弱点：当多个任务向量的符号冲突显著时（即同一参数位置上不同任务向量方向相反），线性叠加会导致「相互抵消」，合并后模型的精度远低于各模型单独精度。

定义 3（符号冲突）：对于参数维度 $j$，令 $s_j = \sum_i \text{sign}(\tau_i[j])$，若 $|s_j| \ll \sum_i |\tau_i[j]|$，则称维度 $j$ 存在严重符号冲突。

符号冲突的本质是任务向量空间的线性独立性差——多个向量在同一方向上反复拉扯，合并后无意义。本文后面将看到 TIES-Merging 和 DARE 都是通过破坏这一线性结构（剪枝 + 离散选择）来规避冲突。

三、Task Arithmetic 的线性流形与误差分析

Task Arithmetic（Ilharco et al., 2023）是最直观的合并方法：$\theta_{\text{merged}} = \theta_{\text{base}} + \sum_{i=1}^n \lambda_i \tau_i$。它的优点是系数 $\lambda_i$ 可解释——正值「加」能力，负值「减」能力——但缺点也很明显：在 $\lambda_i$ 较大时合并模型精度急剧下降。

为什么会出现这种下降？我们用一个二阶误差展开解释：

设损失函数 $L(\theta)$ 在 $\theta_{\text{base}}$ 附近 Taylor 展开至二阶： $L(\theta_{\text{base}} + \Delta\theta) \approx L(\theta_{\text{base}}) + g^\top \Delta\theta + \frac{1}{2} \Delta\theta^\top H \Delta\theta$

其中 $g = \nabla L|_{\theta_{\text{base}}}$ 是梯度，$H = \nabla^2 L|_{\theta_{\text{base}}}$ 是 Hessian。合并后的偏移 $\Delta\theta = \sum_i \lambda_i \tau_i$，代入得： $L(\theta_{\text{merged}}) \approx L(\theta_{\text{base}}) + \sum_i \lambda_i g^\top \tau_i + \frac{1}{2} \sum_{i,j} \lambda_i \lambda_j \tau_i^\top H \tau_j$

第一项是基础损失；第二项是各任务向量梯度的线性叠加；第三项是Hessian 二次项，刻画参数空间的曲率。

关键观察：当多个任务向量正交（$\tau_i^\top H \tau_j \approx 0, i \neq j$）时，二次项约化为 $\sum_i \lambda_i^2 \tau_i^\top H \tau_i$，即每个任务独立贡献二次惩罚。但当任务向量强相关时，交叉项 $\lambda_i \lambda_j \tau_i^\top H \tau_j$ 会放大误差。这就是为什么 Task Arithmetic 在合并 5 个以上任务时常常崩塌——任务间的相关性使得二阶惩罚爆炸。

工程推论：在合并前应该度量任务向量的相关性矩阵 $C_{ij} = \tau_i^\top H \tau_j$。若 $\max_{i \neq j} |C_{ij}| / \sqrt{C_{ii} C_{jj}} > 0.7$，则应该降权这些对（用更小的 $\lambda_i$）或串行合并（先合并 2-3 个最相关的，再合并其余）。

四、TIES-Merging 的符号冲突消解

TIES-Merging（Yadav et al., 2023）通过三步消解符号冲突：(1) Trim——按幅值剪枝，只保留 top-k% 的参数；(2) Elect Sign——对每个参数位置按总符号决定方向；(3) Disjoint Merge——只平均符号一致的参数。

下面把这三步展开为可执行的算法。Trim 阶段：对每个任务向量 $\tau_i$，按参数维度计算幅值 $|\tau_i[j]|$，保留幅值排名在前 $k\%$ 的参数置零其余，得到稀疏化版本 $\hat{\tau}_i = \tau_i \odot m_i^{\text{trim}}$，其中 $m_i^{\text{trim}} \in \{0,1\}^d$ 是 top-k 掩码。关键实现细节：「top-k」是逐任务向量独立计算的，不是全局共享的——这样保证每个任务向量都保留自身最重要的 $k\%$ 信号，不存在一个任务向量「侵占」另一个任务的稀疏预算。Elect Sign 阶段：对每个参数位置 $j$，计算所有任务的符号之和 $\hat{s}_j = \sum_i \text{sign}(\hat{\tau}_i[j])$；令 $\sigma_j = \text{sign}(\hat{s}_j)$ 作为该位置的最终方向，剔除符号与 $\sigma_j$ 相反的任务向量。Disjoint Merge 阶段：对每个位置 $j$，只对符号一致的任务向量求平均 $\bar{\tau}[j] = \frac{1}{|\mathcal{I}_j|} \sum_{i \in \mathcal{I}_j} \hat{\tau}_i[j]$，其中 $\mathcal{I}_j = \{i : \text{sign}(\hat{\tau}_i[j]) = \sigma_j\}$；最终合并 $\theta_{\text{merged}}^{\text{TIES}} = \theta_{\text{base}} + \bar{\tau}$。

这三步看似独立，但其实可以统一为同一个线性算子的稀疏门控近似。具体地：

$\theta_{\text{merged}}^{\text{TIES}} = \theta_{\text{base}} + \sum_{j \in S_{\text{keep}}} \frac{\sum_{i \in \mathcal{I}_j} \lambda_i \tau_i[j]}{|\mathcal{I}_j|}$

其中 $S_{\text{keep}}$ 是 Trim 后的稀疏位置集合，$\mathcal{I}_j$ 是在位置 $j$ 上符号一致的索引集合。这本质上是一个分段线性函数——在 $S_{\text{keep}}$ 上是线性的（只对符号一致的 $\tau_i$ 求平均），在补集上为零。

为什么这个分段线性函数比 Task Arithmetic 的全局线性函数更好？因为 Trim 步骤主动消除了符号冲突最严重的参数位置——这些位置上的 $\tau_i$ 方向混乱，强行平均没有意义；保留 top-k% 后剩下的位置通常具有较高的符号一致性，平均是有意义的。

理论保证：在 $\tau_i$ 服从独立高斯分布 $N(0, \sigma_i^2 I)$ 的假设下，TIES-Merging 的均方误差（MSE）相对于 Task Arithmetic 的改善比为： $\frac{\text{MSE}_{\text{TIES}}}{\text{MSE}_{\text{TA}}} = 1 - \frac{1}{k} \cdot \frac{\text{Var}(\sum_i \lambda_i \tau_i)}{\text{E}[\text{Var}(\sum_i \lambda_i \tau_i | S_{\text{keep}})]}$

直观上：保留 top-k% 后剩余参数位置的方差更大（因为低幅值参数被剪枝掉了），从而平均的方差更小。这给出 TIES-Merging 的一个理论优势区间：当 $k \leq 30\%$ 时，理论上 TIES 优于 TA；当 $k \geq 70\%$ 时，两者接近。

五、DARE 的稀疏门控与「合并前先剪枝」

DARE（Yu et al., 2023）提出一个反直觉的发现：合并之前先把每个任务向量随机 drop 掉一半参数（用 mask $m_i \sim \text{Bernoulli}(p)$），再用 Task Arithmetic 合并，精度反而更高。这意味着稀疏性是合并的内在需求，而不是工程上的取舍。

为什么 drop 能改善合并？我们的线性算子视角给出解释：DARE 等价于在每个 $\tau_i$ 上施加一个随机投影： $\tilde{\tau}_i = m_i \odot \tau_i$

其中 $m_i \in \{0, 1\}^d$ 是 mask 向量。当 $p = 0.5$ 时，$\tilde{\tau}_i$ 的期望仍为 $\frac{1}{2}\tau_i$，方差为 $\frac{1}{4}\text{diag}(\tau_i^2)$。

关键洞察：drop 后的任务向量之间的相关性显著降低。具体地，两个 drop 后的任务向量的协方差为： $\text{Cov}(\tilde{\tau}_a, \tilde{\tau}_b) = p^2 \tau_a \odot \tau_b$

而原始协方差为 $\tau_a \odot \tau_b$。当 $p = 0.5$ 时，drop 后协方差为原始的 $1/4$，但每个向量的方差只降到 $1/2$，信噪比反而提升。

工程推论：DARE 的最优 $p$ 通常在 0.5-0.9 之间。当任务向量高度相关时（如同源数据集微调），$p$ 应该更小（更多 drop）以打破相关性；当任务向量相对独立时（异源数据集），$p$ 可以更大（保留更多信号）。

DARE + TIES 的混合策略：先用 DARE drop（$p = 0.5$）打破任务向量的相关性，再用 TIES-Merging 消解符号冲突。实验证明这种组合在大多数基准上优于单独使用任一方法。

DARE 的一个重要工程细节是重缩放（rescale）：因为 drop 后 $\tilde{\tau}_i$ 的期望值从 $\tau_i$ 降到 $p \cdot \tau_i$，所以需要把保留下来的参数除以 $p$ 重新放大，使得合并后的等效权重不变。具体地： $\tilde{\tau}_i^{\text{rescaled}} = \frac{1}{p} (m_i \odot \tau_i)$

这个看似平凡的细节其实非常重要：实验证明不重缩放的 DARE 会让合并模型精度下降 5-10%，重缩放后才能完全恢复甚至超过原始 Task Arithmetic 的精度。重缩放的几何意义是保参数空间的均值漂移——drop 是无偏估计，rescale 把它变成「无偏且方差不变」的估计。

另一个工程经验：DARE 在 LoRA 适配器上的效果远优于在全参数微调上。原因是 LoRA 的 $\tau_i$ 本身就高度稀疏（秩 $r \ll d$），再加一次 DARE drop 形成「稀疏×稀疏」的双层筛选，进一步降低符号冲突概率；而全参数微调的 $\tau_i$ 是稠密的，DARE drop 后的残差结构与原始 $\tau_i$ 接近，改善有限。生产经验值：LoRA 合并用 $p = 0.5$ 的 DARE 几乎总是优于不 drop；全参数合并用 $p = 0.7-0.9$ 区间更稳妥。

六、统一视角：模型合并作为线性算子的稀疏门控

上面三节分别讨论了 Task Arithmetic（全局线性）、TIES-Merging（分段线性 + 符号一致）、DARE（随机稀疏）。我们可以把这三种方法统一为一个线性算子的三种受限表达。

定义 4（线性合并算子族）。设 $\theta_{\text{merged}} = \theta_{\text{base}} + \mathcal{P}\left(\sum_{i} \lambda_i \tilde{\tau}_i\right)$，其中：

• $\mathcal{P}$ 是符号投影算子：$\mathcal{P}(x) = \text{sign}(\sum_i \tilde{\tau}_i) \odot |x|$（TIES）
• $\tilde{\tau}_i = m_i \odot \tau_i$ 是稀疏化（DARE）
• $\lambda_i$ 是缩放系数（TA）

则 Task Arithmetic 对应 $\mathcal{P} = I, m_i = 1$（恒等投影 + 无稀疏）；TIES 对应 $\mathcal{P} = \text{sign-elect}, m_i = 1$（符号投影 + 无稀疏）；DARE 对应 $\mathcal{P} = I, m_i \sim \text{Bernoulli}(p)$（恒等投影 + 随机稀疏）；混合 DARE+TIES 对应两者同时启用。

这一统一视角的关键推论是：所有模型合并方法都可以被参数化为 $(\mathcal{P}, m, \lambda)$ 三元组，方法之间的优劣等价于这三元组在不同数据分布、不同任务数、不同 $\tau$ 相关性下的经验最优性。

更精确地，这三元组分别对应三种几何操作：(1) $\mathcal{P}$ 是符号投影，决定每个参数位置的最终方向；(2) $m$ 是稀疏门控，决定每个任务向量的有效支撑集；(3) $\lambda$ 是仿射系数，决定每个任务的相对贡献。三者独立优化意味着理论上我们可以网格搜索 $(\mathcal{P}, m, \lambda)$ 的最优组合——这正是 Evolutionary Merging（进化合并）方法的本质：通过进化算法在三元组空间上搜索，比人工设计的固定方法（如 TA/TIES/DARE）能找到更好的局部最优。Akiba et al. 2024 的实验证明，进化合并在 7B 模型上的平均精度比 TIES-Merging 高 1.8%，代价是搜索成本高 100×——这在离线合并场景下可接受，但在需要实时合并的在线场景下不实用。

三元组的另一推论是**「合并方法的可组合性」：我们可以对不同参数层使用不同的三元组。例如，经验法则是：对浅层（embedding + 早期 attention）用 $m = 1$（不 drop，因为浅层特征是任务无关的通用表示），对中层（中间 attention）用 $m = 0.5$（中等稀疏），对深层（后期 FFN + 输出层）**用 $m = 0.3$（高稀疏，因为深层最容易符号冲突）。这种「分层合并」比全局统一合并在多个基准上提升 0.5-1.5% 的精度。

理论最优性边界：在 $\tau_i \sim N(0, \sigma^2 I)$ 同分布假设下，最优合并算子 $M^*$ 的均方误差下界为： $\text{MSE}(M^*) \geq \frac{n \sigma^2}{d} \cdot \frac{1}{1 + (n-1)\rho}$

其中 $\rho$ 是任务向量的平均相关系数，$d$ 是参数维度，$n$ 是任务数。这个下界告诉我们：当 $\rho$ 接近 1（任务高度相关）时，合并的均方误差趋于无穷——这不是某一种方法的局限，而是线性合并算子的固有边界。突破这一边界需要引入非线性算子，例如 FrankenMoE 的专家路由或 进化合并（Evolutionary Merging）的离散搜索。

七、工程推论：合并决策树、失败模式与生产闭环

把上述理论翻译为生产决策树：

1. 第一步：度量任务向量相关性矩阵。计算 $C_{ij} = \cos(\tau_i, \tau_j) = \frac{\tau_i^\top \tau_j}{\|\tau_i\| \|\tau_j\|}$。若 $\max_{i \neq j} |C_{ij}| \leq 0.5$，所有任务相对独立，可以直接用 Task Arithmetic；若 $0.5 < |C_{ij}| \leq 0.8$，先 DARE drop（$p = 0.5$）再合并；若 $|C_{ij}| > 0.8$，考虑串行合并或非线性合并（FrankenMoE）。
2. 第二步：选择合并方法。线性场景用 TA 或 DARE+TA；中等冲突用 TIES；高冲突用 DARE+TIES；超高冲突放弃线性合并，走进化搜索或专家路由。
3. 第三步：系数 $\lambda_i$ 的选择。初始 $\lambda_i = 1$（等权），然后在验证集上做网格搜索 $[0.1, 0.3, 0.5, 0.7, 1.0]$。注意：合并后的精度对 $\lambda_i$ 高度敏感，每个 0.1 的步长都可能带来 1-3% 的精度差异。
4. 第四步：合并后验证。在多个评测集上跑（不是单数据集），重点观察：(a) 各任务单独精度（合并后是否退化）；(b) 跨任务泛化精度（合并后是否「融合」出新能力）；(c) 校准指标（ECE、brier score，看合并是否破坏置信度）。

生产闭环的两个常见失败模式：

• 失败模式 A：合并后某些任务精度断崖式下降。诊断：检查这些任务的任务向量是否与其他任务高度相关（$|C_{ij}| > 0.7$）；若是，降权或剔除；若否，检查是否单任务微调时过拟合了某一小数据集（导致 $\tau$ 范数过大）。常见根因是任务向量范数不均衡——某些任务的 $\tau$ 范数远大于其他任务，导致合并时被「淹没」。修复方法：在合并前对每个 $\tau_i$ 做 L2 归一化 $\tilde{\tau}_i = \tau_i / \|\tau_i\|$，然后在合并后恢复 $\theta_{\text{merged}} = \theta_{\text{base}} + \sum \lambda_i \cdot c \cdot \tilde{\tau}_i$，其中 $c$ 是共享的尺度常数。
• 失败模式 B：合并后推理时出现「幻觉放大」。诊断：合并后模型的输出分布熵显著增大（可用输出 logprob 监测）；此时需要回退到合并前的单一 LoRA，或引入 Gating Network（按输入动态选择不同模型）。工程经验：合并模型在 7B 以下的精度退化比 13B+ 更明显，因为小模型的预训练分布较窄，合并扰动相对更大。建议合并任务数 $n$ 与基础模型规模满足 $n \leq \sqrt{d / 10^6}$ 的经验上界。

评测陷阱：合并后必须在多个任务上同时评测，不能只看平均精度——某些任务可能提升而其他任务下降，平均后掩盖问题。推荐用雷达图或任务级精度条形图可视化每个任务的合并前后精度差，并设置最差任务精度下降不超过 2% 作为合并可接受的下限。

八、讨论与局限：与 PEFT 的等价性、模型崩溃与未来方向

与 PEFT 的等价性：当任务向量 $\tau_i$ 由 LoRA 适配器生成时（$\tau_i = B_i A_i$，其中 $A_i \in \mathbb{R}^{r \times d_{\text{in}}}, B_i \in \mathbb{R}^{d_{\text{out}} \times r}$），线性合并 $\sum \lambda_i \tau_i = \sum \lambda_i B_i A_i$ 等价于把多个 LoRA 矩阵相加再施加到 base 模型上。这意味着模型合并与 LoRA 合并在数学上是同一回事，区别仅在于 PEFT 把 $\tau_i$ 限制在低秩子空间。这一观察推导出：LoRA 合并是模型合并的低秩特例，所有上面的理论分析都可以直接迁移到 LoRA 场景。

模型崩溃风险：当合并任务数 $n$ 很大（$n \geq 50$）时，即使每个任务单独精度都很高，合并后模型也可能「坍塌」到一种平均化、低多样性的输出分布。这是 2025 年 Shumailov et al. 关于「model collapse」的更一般版本——重复训练在合成数据上导致分布尾部塌缩。线性合并是 model collapse 的一种特殊形式：所有 $\tau_i$ 都从同一个 $\theta_{\text{base}}$ 出发，导致合并后的 $\theta_{\text{merged}}$ 仍位于 $\theta_{\text{base}}$ 附近的低维流形上，远离原始预训练分布的尾部。突破这一局限需要引入对抗性扰动或分布外微调作为合并前的「正则化」。

未来方向：模型合并理论的下一个前沿是多模态合并——把视觉、语音、文本的 LoRA 合并到同一个基础模型上。这要求把线性算子框架扩展到异构参数空间（视觉编码器、语言解码器、跨模态投影层各有不同的参数维度）。初步工作表明，异构合并可以分解为若干「同构子合并」的组合，但需要额外的对齐层（projection layer）来桥接不同模态的参数空间。

另一个值得关注的开放问题是合并的「可逆性」：给定合并后的 $\theta_{\text{merged}}$，能否部分恢复各原始任务向量的贡献？这在「模型溯源」「知识产权保护」「责任归属」场景下非常重要。线性合并的可逆性意味着合并算子 $M$ 在 $V$ 上是双射——只要 $n \leq d$ 且 $\tau_i$ 线性独立，理论上可以反解出 $\lambda_i$；但工程实践中 $\tau_i$ 高度相关，使得数值求解病态。正则化反演（$\ell_2$ 最小范数解）是当前最稳健的方案，但精度仍有 5-10% 的损失。

第三个前沿是**「合并后继续训练」——合并后的 $\theta_{\text{merged}}$ 不作为终点，而是作为新一轮微调的起点。这等价于在合并点处「重置优化路径」，可以避免某些微调陷阱（如预训练分布的遗忘）。FrankenMoE 用这种思路在多个基准上达到了与原生 MoE 模型相当的精度，但训练成本只有原生 MoE 的 30%。我们认为这一思路与模型合并 + 持续学习**的结合将是 2026-2027 年最有前景的研究方向。

九、给研究者的三条行动建议与给 SRE 的可观测性清单

给研究者的三条建议：

1. 报告任务向量相关性矩阵。任何合并论文都应该报告 $\tau_i$ 之间的相关系数矩阵 $C$，否则「合并有效」的结论缺乏可重复性。
2. 区分「线性合并」与「非线性合并」的能力边界。明确说明在哪些场景下线性合并不再适用，避免过度泛化。
3. 把模型合并视为「参数空间的概率推理」。$\tau_i$ 是从某个隐分布采样的样本，合并是后验估计。这一视角可以与 Bayesian deep learning 自然衔接。

给 SRE 的合并可观测性清单：

• 每次合并前 dump 各任务的 $\tau_i$ 范数 $\|\tau_i\|$、$\tau_i$ 与 $\theta_{\text{base}}$ 的余弦相似度
• 合并后监控输出分布的熵（logprob 均值/方差）——熵暴增意味着合并失败
• 在生产灰度中先 5% → 25% → 100% 三段式发布，每段监测关键指标（任务精度、推理时延、用户反馈）
• 准备回滚到合并前单一 LoRA 的预案（保存 base 模型权重 + 所有 LoRA 适配器）

参考文献

1. Wortsman, M., et al. Model Soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time. NeurIPS 2022.
2. Ilharco, G., et al. Editing Models with Task Arithmetic. ICLR 2023.
3. Yadav, P., et al. TIES-Merging: Resolving Interference When Merging Models. NeurIPS 2023.
4. Yu, L., et al. DARE: Drop And REscale Tasks for Effective Merging. 2023.
5. Jin, X., et al. Frankenstein MoE: How to Beat the Curvature Trade-off in Mixture of Experts. 2024.
6. Akiba, T., et al. Evolutionary Optimization of Model Merging Recipes. 2024.
7. Shumailov, I., et al. The Curse of Recursion: Training on Generated Data makes Models Forget. 2025.
8. Matena, M., & Raffel, C. Merging Models with Fisher-Weighted Averaging. NeurIPS 2022.
9. Yang, E., et al. Model Merging in Pre-training: Representation Similarity Matters. ACL 2024.
10. Du, G., et al. PEFT Merging: A Unified View of Task Arithmetic and LoRA Composition. EMNLP 2024.
11. Huang, C., et al. Linear Mode Connectivity in Large Language Models. ICML 2024.
12. Arpit, D., et al. Role of Task Similarity in Model Merging. TMLR 2024.
13. Gargiulo, A., et al. Linear Probing as a Proxy for Model Merging Quality. NeurIPS 2024.
14. Chen, W., et al. Adversarial Model Merging for Robust Out-of-Distribution Generalization. ICLR 2025.

一句话摘要：本文从线性算子的统一视角重写模型合并理论，证明 Task Arithmetic、TIES-Merging、DARE 三种主流方法可以参数化为同一线性算子族的三元组 $(\mathcal{P}, m, \lambda)$，并由此推出生产环境中的合并决策树、失败模式与可观测性清单。