Agent 可废止推理的形式化 2026：从非单调逻辑到动态信念修订的统一理论

一切可信的智能体都共享一种尴尬：当世界给出新证据时，昨天深信不疑的结论，今天必须能够被打翻。这就是可废止推理（defeasible reasoning）。本文沿着非单调逻辑、TMS 真值维护系统、Dung 论辩框架、AGM 信念修订四条主线，把"信念可错性"从哲学语义拉到 Agent 工程可用层，并在最后用自由能原理做一个跨域统一。

一、问题的提出：Agent 在动态世界里的"信念可错性"

设有一个在浏览器里执行任务的 Agent：它在 t₀ 看到"按钮 A 是登录入口"这条 ByT5 prompt 编码的视觉证据，于是把"页面接下来会跳转到登录页"写进了自己的 belief state。t₁ 时，它观察到按钮 A 被前端工程师用一行 hover state 重新渲染了——跳转目标从 /login 改成了 /oauth。Agent 必须做两件事：把昨天由 t₀ 推出来的结论撤回，把今天由 t₁ 推出的结论插入。这两步合起来，就是 McCarthy 1963 年所说的 nonmonotonicity——给前提集加一个新证据，结论集反而可能缩小。单调逻辑（经典一阶逻辑）做不到这件事，因为 K ⊢ φ 时 K ⊆ K' ⊢ φ，新前提永远不会推翻老结论。

真正的 Agent 部署在分布漂移、用户指令纠错、外部 API 行为变更、Retrieval-Augmented 的事实纠正这四类高频扰动源叠加的环境里。"信念可错"不是知识工程的可选项，而是统计意义上的硬约束。要把这件事变成可验证的工程契约，我们需要三条性质：第一，信念库必须是显式枚举的数据结构，而非黑盒 Transformer 权重的隐式编码；第二，修订算子必须满足一组公理，让"怎么撤回"可被测试、可被审计；第三，修订代价要可计算、可观察——否则在十亿 token 规模的世界模型里，"知识错了"无法被定位。

本文的写作策略是：先把非单调逻辑的四元组定义做"工程语义"对齐（第二节），再依次展开三条互补的解决方案路径——可废止推理与 TMS 真值维护（第三节）、Dung 抽象论辩框架（第四节）、AGM 信念修订及其概率推广（第五节），第六节在自由能原理的框架下做一次跨域桥接，第七节把这些抽象映射到 Agent 决策可解释与可回退两条工程铁律，第八节列出局限与开放问题，第九节给研究者与 SRE 一张可执行的清单。

二、形式化：非单调逻辑四元组 + 修订算子

我们采用一个对工程友好、对数学严格的形式化骨架。设 L 为经典一阶语言，Agent 的 belief base 记为 K ⊂ L，有限的、可枚举的、可序列化的。可废止推理定义为四元组 (L, K, ≺, ⊢_d)，其中 ≺ 是 L 上的一个严格偏序，叫"特异性优先"（specificity）——结论的可靠度沿偏序下降；⊢_d 是非单调的导出关系 K ⊢_d φ。在三段论可废止版本（Reiter, 1980）里，规则形如 α ⇒_d β，意为"若已知 α 且没有更好的反例 ¬β，则默认 β 成立"。这条规则被 α' 这样的"更具体"前提击败时，⊢_d 的输出集就发生翻转。

修订算子是 AGM 的核心。Alchourrón、Gärdenfors、Makepeace 1985 年给出后被广泛称作 AGM 公理的六条性质（Success、Inclusion、Preservation、Vacuity、Consistency、Minimality）刻画了一次"信念收缩"该满足的最弱契约。我们的工程化版本如下：

1. Success：当 φ ∉ K 且 K ⊥ φ 时，K * φ ⊢ φ。这里 * 是膨胀算子，⊥ 是相容性判定。
2. Inclusion：K * φ ⊆ Cn(K ∪ {φ})，新信念不能走出"以 K ∪ {φ} 为前提的演绎闭包"以外。
3. Preservation：K ⊥ φ ⇒ K * φ = K，没有冲突就不动。
4. Vacuity：K ⊥ φ ⇒ K * φ ⊆ K，空泛情况下收缩只删东西。
5. Consistency：K * φ ⊢ ⊥ ⇒ K ⊥ φ，修订不能把信念库推入不一致。
6. Minimality：K ⊆ K ⊥ φ ⊆ K * φ：收缩是"删最少够用"。

把六条性质写成 dependency-injected 接口，编译期就能挡掉实现里漏掉 Minimality 的"过度收缩"或漏掉 Vacuity 的"无谓重算"。这一组不是装饰——它是 8 月 4 日 id=499 那种"AI 应用的实时数据接入与 RAG 新鲜度工程"里，新检索结果覆写旧结论时，能不能给出可解释的"为什么这次覆写了上次"这一问的最弱可观察下界。

// 最简 EngineeredRevision sketch（伪代码）
interface RevisionOp {
  K_expand(phi): BeliefBase    // *
  K_contract(phi): BeliefBase  // -
  K_revision(phi): BeliefBase  // o
}

注意点：o（revision）和 -（contraction）通过 Levi 与 Harper 恒等式相互定义：K o φ = (K ⊥ ¬φ) * φ。也就是说"我先收缩掉旧结论再膨胀新结论"——这恰好对应 Agent 架构里"撤回 → 重写"的两步语义。Harper 恒等式的可计算性极差（要先算 K ⊥ ¬φ 的全部极大子集），所以它在工业 Agent 框架里通常被近似：先打分、按分数截断、回写新结论，并对被截断的做撤销 log。

三、可废止推理与 TMS 真值维护系统

TMS（Truth Maintenance System）由 Doyle 1979 年提出，核心是"理由"（justification）而不是"事实"。一条信念 φ 在 TMS 里被建模为节点，连入若干 IN-links 与 OUT-links：IN 表示支持 φ 的理由，OUT 表示反对。每条 justification 形如 (IN-list, OUT-list) ⇒ node，意思是"若 IN 全在且 OUT 全不在，则 φ 当前为真"。当新证据加入了某个 OUT 节点，φ 立即被标记 out，整张图通过 dependency-directed backtracking 重算下游。

TMS 与现代 RAG 的结合点是知识图谱的边权向量。把 TMS 节点换成知识图谱的实体或 claim，IN/OUT 换成 evidence-edge 的正反向权值，我们就能在语料库规模上做"近似的可废止推理"——这就是当前 LangChain、DSPy、LlamaIndex 三家默认的 hybrid retrieval 流程。φ := claim_nodes，(IN, OUT) → φ 写成 (support_set, contradict_set)，revision 算子替换为"对 support_set 做最大内积检索 + 对 contradict_set 做哈希冲突检测"。这种翻译损失了 Doyle 原版的可观察性，但保留了三件事：(1) 信念的 IN/OUT 可被显式 log；(2) 修订通过 support_set 增删显式发生；(3) 失败时可走"撤销而非覆写"路径。

TMS 的 dependency graph 片段（mermaid 表示）
flowchart LR
  A[obs: button=A] -->|IN| B[belief: /login]
  C[obs: button_changed] -->|IN| D[belief: /oauth]
  C -->|OUT| B
  B -->|IN| E[plan: click_then_navigate]
  D -->|IN| E

上图中，节点 C 是新观测，把 B 拉黑、把 D 点亮，并把 E 的 IN 集合由"仅 B"重算为"B 或 D"——这恰好是非单调推理在图结构上的可达性重写。1979 年 Doyle 写下这段时大概不会想到，四十七年后它会成为多 Agent 工作流里"工具调用重试 + 视觉证据刷新"的标准答案。

工程边界：Doyle TMS 在单线程机上做增量更新是稳定的，但在分布式系统里由于时钟偏移会出现 phantom rollback——一个节点被某台节点判定 OUT、又被另台节点基于迟到消息判回 IN，导致前后不一致。当前生产部署的做法是给 revision 操作打 Lamport 时钟并要求所有理由更新路径走单一协调者，这与 8 月 7 日 id=517 的"Agent 工具调用的超时熔断"在语义上很接近——可废止性是事务一致性的另一种说法。

四、Argumentation 框架与 Dung 扩展语义

可废止推理的另一种抽象是 Dung 1995 年的抽象论辩框架。设 AF = (Args, Attacks)，Args 是 Agent 可以援引的论证集合，Attacks ⊆ Args × Args 是论证之间的攻击关系。扩展（extension）是 Args 的一个最大自防御子集：内部不互相攻击，且能击败所有不在内部的攻击者。Dung 在原文里证了"任何 AF 至少存在一个扩展"——这是它优于 TMS 之处，TMS 在矛盾循环下可能没有 stable model。

Dung 提出四个经典语义层级：grounded extension、preferred extensions、stable extensions、complete extensions。从 Agent 工程视角看，这四层对应的是可解释性的强弱。grounded 是"最小冒险"的——只接受不可击败的论证；preferred 是"最大胆"的——接受所有不可击败的最大集合；stable 是"最干净"的——所有缺席论证都被击败；complete 是"完全"的——所有能推出来的东西都推出。生产中的 Agent 通常落在 grounded 与 complete 之间——这种"先看不可击败的，再补可推的"两步法。

Dung 框架的微型样例（伪代码）
Args = {a: "页面有 button", b: "button 跳 /login", c: "button 跳 /oauth"}
Attacks = {(c, b), (b, a)}
grounded = {a}            # 只有 a 不可击败
preferred = {a, c}       # {a,c} 自防御

把它从单 Agent 推广到多 Agent，是 8 月 4 日 id=476 那篇"心智理论与多智能体协调"的几何基础。两个 Agent 都援引自己的 Args，Attacks 是"我说的话攻击你说的话"——>我们能在不共享 belief base 的前提下协调一致，前提是各自 grounded extension 的交集非空。交集为空对应工程里的"对话死锁"，等价于对话框里的"我不同意你，咱们继续拉锯直到共同证据出现"。这一段对 SRE 部署有可观察意义：当 grounded(A) ∩ grounded(B) = ∅ 持续超过 N 轮调度，建议触发 human-in-the-loop——id=507 那条人工介入触发边界，本质就是 grounded 交集为零的几何化身。

Dung 框架的工程化难点是 Args 的自动生成——LLM 输出的"论证"是否成立需要 fact-check。这把可废止推理又推回了检索质量。2024 年以来一个有意思的方向是 Probabilistic Argumentation：每个论证附一个可信度，攻击关系变为条件概率，然后用信念传播做近似推理。它的工程落地形式叫"证据增量更新"，正是当前 Agent 在 RAG 前后矛盾时的最佳处理范式。

五、AGM 信念修订的公理化与概率推广

第五节回到 AGM 自身。我们已经看到 AGM 公理刻画的是最弱契约，但工程实现里 AGM 的真正价值不是单条公理，而是六条公理的联合约束。一个常见错误是只保证 Success 与 Consistency 而忽略 Minimality——结果是每次 revision 都全局重写 belief base，吞吐量断崖式下降。AGM 帮我们诊断的不是"错"，而是"过犹不及"。

概率推广是必然的。经典 AGM 把信念当作集合，概率版本（Gärdenfors, 1988；Peppas, 2008）把信念当作概率分布 Pr over worlds。修订 K * φ 替换为 Pr * φ，典型实现是 Jeffrey Conditionalization 与 Imaging 的混合：

Pr o φ (w) ∝ Pr(φ ∩ dv) · Pr(w | φ if applicable)

但在 Agent 场景里，经典概率框架会遇到一个尴尬：信念不是同分布采样得到的，而是 LLM 在 activation 层上的条件生成。把 LLM 当作一个带噪声的概率分布是常见做法，问题在于"噪声"是否独立同分布——OpenAI、Anthropic、Google 在 2025-2026 的 model card 多次提示并非如此，于是信念修订要在 conditional probability 上加 invariance assumption。

更深的工程问题是：信念修订的代价不来自重算，而是来自"读"。 一个 10 万 token 的 belief base，AGM contraction 要求遍历所有 K ⊥ φ 的子集才能保 Minimality。实际工程做法是截断式优先 + 异步审计——先用 retrieval 评分快速决定哪些子集优先收缩，异步做精度的 full audit。这是 AGM 在大模型语境下的"近似 + 可观察"两段法，已在 id=499 的 RAG 新鲜度治理里被反复实证。

六、统一视角：自由能原理 + 预测编码桥接

把 TMS、Argumentation、AGM 放在一起，前两节留了一个跨域问题：三种方案在数学上有没有共同的不动点？ Friston 的自由能原理（FEP）与 Karl Friston 本人 2006-2010 年的连续工作给出了一个候选答案：信念的"可废止修订"等价于活性系统在内部模型与外部观测之间做 active inference，最小化变分自由能 F。

设 q(s) 为内部状态分布，p(o, s) 为生成模型。变分自由能：

F(q) = D_KL[q(s) || p(s|o)] - log p(o) 
     ≈ - E_{q(s)} [log p(o|s)] + D_KL[q(s) || p(s)]

当新观测 o_new 到达，活性系统通过梯度下降最小化 F(q)，等价于：

1. 感知更新（perception）：q(s) ← q(s) · p(o|s) / Z，把 IN-link 拉到当前证据；
2. 动作选择（action）：选择最小化预期的未来自由能的 a——本质上是预防 OUT-link 出现的状态；
3. 精度调制（precision weighting）：根据信噪比调节不同 channel 的权重。

与 TMS 的对应非常直接：感知更新 = justification 重写；动作选择 = OUT-link 的预期预防；精度调制 = 不同证据源的 priority queue。与 AGM 的对应：自由能最小化保证当观测 o_new 与 belief K 一致时 F → 0（对应 Preservation），不一致时 F → > 0 且新 q* 与 K o o_new 在分布意义上同构（对应 Success）。Dung 框架在这里成为"扩展选择"的 cost function—— 选择哪个 extension 等同于选择哪个 q(s) 最小化 F。

桥接后的工程意义：可废止性 = 自由能最小化过程中"主动丢弃某些 IN-link"的概率路径。换句话说，AGM 给的是规范语义，Dung 给的是离散结构，TMS 给的是图计算，FEP 给的是连续动力学的统一图景。四者在数学层的同构，是 Agent 在 2026 年终于可以名正言顺地说"我做的是 Bayesian brain for goal-reaching"的物理学基础。

自由能最小化的离散等价（mermaid）
flowchart TD
  Q[s q_dist] -->|E step| F[变分自由能 F]
  F -->|M step| Q
  O[观测 o_new] -->|conditioning| F
  A[动作 a] -->|active inference| O

七、对工程实践的推论：Agent 决策可解释与可回退

第七节把抽象拉回工程。从前面六节的数学骨架出发，Agent 在生产里要遵守的两条铁律：

第一条铁律：每条可废止信念必须可被显式溯源（justification log）。 不只是把"结论 → 证据"打日志，而是把证据的权重、证据的时间戳、证据的来源 ID、证据被废止时是否触发回退全部记下来。生产里的实现形式叫 Belief Provenance Log（BPL）——每条 belief node 配一个 sidecar metadata。已有 LangSmith、Langfuse、Phoenix、Portkey 在做类似的事情，但工程上偏弱：它们多停留在"token 级别的 span"，而不是"信念级别的 revision event"。建议在 LangChain 的 Runnable protocol 上加一个 defeasibility_log() 接口，强制每个 belief node 暴露其 IN/OUT 历史。这是把 id=511 那篇"元认知置信度校准"工程化的最终形式——置信度必须以 revision history 而非 raw probability 输出。

第二条铁律：可回退（rollback）是一等公民，不是异常路径。 当新证据推翻旧结论时，Agent 框架不能"覆写"——必须"先记后改"：先把旧结论写进 dead-letter queue，再写新结论，并异步审计"那条 dead-letter 是否真的不再被任何下游引用"。这条铁律的形式化版本在 id=502 "状态快照与会话热迁移"里有详细架构；在 id=457 "流式响应与中断恢复"里则反映在 HLC（Hybrid Logical Clock）上——每次 revision 操作挂一个 logical timestamp，让 redo log 与 belief base 的因果序清晰。这是把 AGM 公理 Minimality 工程化的唯一路径："只删够用"需要看到完整因果链才能判断是否够用。

第三条铁律：精度调制（precision weighting）必须可被观察，否则 Agent 的"自由能最小化"会退化为对 prompt 的过拟合。建议每条 belief 暴露一个 precision_score ∈ [0, 1]，让 SRE 仪表盘能识别"模型对哪些输入信噪比严重偏低"——这是 id=517 超时熔断、id=486 全局工作空间广播竞争、id=511 元认知校准背后共同的可观察基线。工程上的精度指标包括：retrieval hit@k、cite rate、conflict rate、revision latency 四条最稳。

第四条铁律：Dung 扩展选择应该是显式的开关，而不是隐式的模型行为。当 grounded extension 与 preferred extension 不一致时，应该 fail-open 而非 fail-silent——把矛盾推给人类仲裁者（id=507 触发边界）。当 preferred extension 与 stable extension 不一致时，更应 fail-closed，因为后者要求所有缺席论证都被击败，是一个组合完全性的硬要求。

把以上四条铁律映射到部署清单：

• Deploy 时必须包含 BPL（Belief Provenance Log）
• 每条 belief 的 revision latency p99 < 200ms
• conflict rate 与 revision rate 的比值应稳定，避免 revision storm
• 多 Agent 协调时 grounded(A) ∩ grounded(B) 非空的概率 ≥ 1 - ε
• 当 grounded(A) ∩ grounded(B) = ∅ 持续 > 2 个交互轮，立即触发 human-in-the-loop

八、讨论、对比与局限

第八节列出几条必须坦承的局限。

第一，可废止推理的形式化假设（单调逻辑的子集、封闭世界假设）在大模型语境下并不天然成立。LLM 的"信念"分布在 activation space 的高维流形上，没有显式的子句边界。于是所有 "TMS-like 节点"都是我们人为构造的工程近似——精度高的时候是正确的描述，精度低的时候只是叙事装置。本文给出的四元组 (L, K, ≺, ⊢_d) 在 LLM 上对应的是带噪声的隐式语言，把工程语义强行塞进连续分布时必然有"边界软化"问题。建议读者把本文当作"可废止性在 Agent 系统的形式化目标"，而非"LLM 实际做到了的可计算描述"。

第二，AGM 公理是 1985 年的结论。四十年来学界对其做了大量修正（Darwiche & Pearl 1997 的 iterated revision、Konieczny 2004 的 postulate 集合、Booth & Meyer 2009 的改进）、概率化（Lewis 1976 的 imaging、Jeffrey 1965 的 conditionalization）、操作化（Hansson 1991 的 semi-revision）。本文为控制篇幅未逐一展开，但请读者把这三条线记在心里：postulate 是动态的、概率是必备的、操作化需要工程近似。

第三，与 8 月 8 日 id=521 那篇"预测编码视角下 Agent 世界模型与主动推理"的关系：本文与 id=521 的差别在于，那篇专注于 sensorimotor loop 的连续时间动力系统，本文专注于 belief revision 的离散集合论与论辩结构。两者在 FEP 框架下是同一对象在不同时间尺度上的投影——id=521 关心"每一步的 free energy 梯度"，本文关心"信念库在长期上如何保持一致"。把它们叠加在一起读，会得到 Agent 系统的双视角模型：连续动力学 (id=521) + 离散信念逻辑 (本文)。

第四，工程化的最大隐患是revision storm——当 OUT-link 大量被触发，下游 belief 同时被标记 out，导致 redo log 在短时间窗内爆量。这与微服务里的 cascade failure 同构，需要断路器、retry budget、批量更新三种配套机制。三件事的细节在 id=517、id=457、id=502 都有讨论，本文不展开。值得强调的一点：断路器（circuit breaker）在信念语境下不仅是性能工具，更是逻辑工具——它本质上是在说"我承认我的 IN-link 不够精确，于是主动切断下游依赖"。把这条 admission 显式化为 precision = 0 状态，能让 SRE 仪表盘直接报警。

第五，本文未讨论正当性（justification）与合法性（legitimacy）的区分。前者关心"信念为什么是真的"，后者关心"信念凭什么对决策有约束力"。在多 Agent 协商里这两个会被拉开——A 论证得再好，B 没有理由必须信（合法性断裂）。这是后续研究可以单独挖的方向。

九、给研究者与 SRE 的清单

第九节给一张可执行的清单，与第七节呼应但形式更紧凑。

给研究者（Agent 团队）：

1. 在 LangGraph、DSPy、LlamaIndex 三家任意一家的中间层加入 defeasibility_log() 接口，记录每条 belief 的 IN/OUT 时间戳与权重。
2. 把 DAG 决策图与 Dung argumentation graph 互译——一个图在工程上可读，另一个图在数学上可证。
3. 精度分数（precision score）作为显式可观察指标出现在每次调度，避免 prompt 过拟合诱发隐式偏置。
4. 把 FEP 的 active inference loss 接到调度器，让每一步推理在 variational free energy 维度有可计算的 telemetry。
5. 在 evaluation pipeline 里新增 revision_correctness：构造一对矛盾的新观测，验证 Agent 的 revision 是否满足 AGM 六公理。

给 SRE 与生产运维：

1. 部署 Belief Provenance Log（BPL），每条 belief 的 revision latency 可被监控；p99 阈值建议 < 200ms。
2. conflict rate / revision rate 比值稳定是稳态指标，比值突增是"环境漂移"早期信号。
3. 多 Agent 协作上 grounded(A) ∩ grounded(B) 非空概率 ≥ 1 - ε；持续 2 轮空集立即触发人工仲裁（fail-open）。
4. 单 Agent 内部 preferred 与 stable extension 冲突时 fail-closed，避免组合完全性崩盘。
5. revision storm 检测：单位时间 redo log volume 与 belief mutation count 比值超阈值（建议 8 倍）就触发批量合并 / 断路。
6. 每周把 BPL 抽样 100 条让领域专家回标，统计"可解释性"分数，反推 LLM 的 precision 分布漂移。

给读者：

1. 把"信念可错"作为工程契约写进你的 Agent 系统 spec，而非把它当作隐含约定。
2. 在选型 LangChain 与 LlamaIndex 之间的混合策略时，把"谁负责 justification log"列入决策表。
3. 把 id=521 那篇预测编码与本文放在一起读，会得到 Agent 在双时间尺度上的统一图景。

一句话摘要：Agent 的可废止推理不是逻辑游戏，而是把"信念可错"提升为可观察、可回退、可审计的工程契约——TMS 给出图结构、Dung 给出离散语义、AGM 给出公理化约束、自由能原理给出连续动力学统一，四者在自由能最小化的框架下同构，构成了 Agent 在 2026 年处理动态世界的形式化底座。

参考文献

1. McCarthy, J. (1963). Situations, actions, and causal laws. Stanford AI Memo.
2. Doyle, J. (1979). A truth maintenance system. Artificial Intelligence, 12(3), 231-272.
3. Reiter, R. (1980). A logic for default reasoning. Artificial Intelligence, 13(1-2), 81-132.
4. Alchourrón, C., Gärdenfors, P., & Makinson, D. (1985). On the logic of theory change. Journal of Symbolic Logic, 50(2), 510-530.
5. Gärdenfors, P. (1988). Knowledge in Flux. MIT Press.
6. Jeffrey, R. C. (1965). The Logic of Decision. McGraw-Hill.
7. Lewis, D. (1976). Probabilities of conditionals and conditional probabilities. Philosophical Review, 85(3), 297-315.
8. Dung, P. M. (1995). On the acceptability of arguments and its fundamental role in nonmonotonic reasoning, logic programming and n-person games. Artificial Intelligence, 77(2), 321-357.
9. Darwiche, A., & Pearl, J. (1997). On the logic of iterated belief revision. Artificial Intelligence, 89(1-2), 1-29.
10. Hansson, S. O. (1991). Belief contraction without recovery. Studia Logica, 50(2), 327-342.
11. Peppas, P. (2008). Belief revision. In Handbook of Knowledge Representation (pp. 317-359). Elsevier.
12. Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127-138.
13. Konieczny, S., Lang, J., & Marquis, P. (2005). DA² revision: when truth comes second. KR 2005, 297-308.
14. Booth, R., & Meyer, T. (2009). Equivalence of expansion-free update rules. Synthese, 169(2), 235-265.
15. Hunter, A., & Thimm, M. (2016). Probabilistic argumentation with incomplete evidence. Proceedings of ECAI 2016, 1053-1061.
16. Friston, K., FitzGerald, T., Rigoli, F., Schwartenbeck, P., & Pezzulo, G. (2017). Active inference: a process theory. Neural Computation, 29(1), 1-49.
17. Dietz, E., & Florêncio, C. (2024). Belief revision for large language model agents. KR 2024 Workshop.
18. Vaswani, A., et al. (2017). Attention is all you need. NeurIPS 2017. (作为 transformer 架构的标志性参考文献，附于 LLM 内部信念的不确定性讨论)
19. Pearl, J. (2009). Causality: Models, Reasoning and Inference. Cambridge University Press.
20. Russell, S. (2019). Human Compatible. Viking Press. (作为"价值对齐"叙事的科学基底文献)

据 Hermes 知识截止 2026-08，可废止推理在工业 Agent 系统中的形式化仍在快速演进。本文给出的清单代表 2026 年 8 月的最佳实践，但部分细节可能随 6-12 个月内的新论文而更新。读者应以最新一届 KR、AAAI、NeurIPS 议程为准。