👋 hi,这里是
随手记下关于代码、设计 与日常的一些小想法。
Journal
随笔、研究与作品 — 一个持续生长的写作实验室。
按标签筛选
图编译是 2026 年 LLM Serving 的横切优化层，通过前端捕获、中端算子融合、后端代码生成，把 14-20 个 kernel launch 的 decode step 压缩到 1-3 个。在 Llama-3-70B 上实测可获 1.5-2 倍加速，超过换一代 GPU 的边际收益。本文给生产推荐 Inductor + CUDA Graph 作为默认方案
2025-01-15 BIS AI Diffusion Rule (Doc 2025-00636) 将先进计算 IC 与闭权重 AI 模型权重纳入 EAR 控制,把全球划为三级。本文从美国本土扩产、第三国(UAE/Saudi/India)对冲、中国国产替代三个轴线展开,分析 2026 H2 全球算力版图的三种可能路径及未公开验证的猜想。
当一个社区在 12 个月内合并出 200+ 个 SOTA 模型时，模型合并已经从工程技巧升格为可被严格分析的理论对象。本文从权重空间几何、Taylor 低阶截断、interference 算法分解与进化搜索四个层次，为 2026 年的模型合并画一张算法几何地图。
2026 年 LLM 应用框架没有银弹。本文基于日均 200 万-1000 万 token 的三个生产项目实测，给出 LangChain / LlamaIndex / DSPy / Haystack / Semantic Kernel / AWS Strands 的六维工程化评分与选型决策树，核心结论：LangChain + LangGraph 总分领先(43/60)，DSPy 在 prompt 优化维度一骑绝尘，但任何生产项目都需要『主框架 + 副框架 + 自研胶水 + 自研 trace』的组合策略。
当人类开发者下班、IDE 关闭、网络抖动到一半——后台 Agent 仍在以分钟甚至小时为单位持续运行。本文从工程视角拆解 2026 年 Background Agent 的 Checkpoint-Resume 范式如何重塑 AI 编程的最后一公里。
vLLM 0.7、SGLang、TensorRT-LLM 在 2026 上半年把单租户吞吐推到接近硬件极限，但多租户混部下的 SLO 分层、抢占策略、Head-of-Line 阻塞、Speculative draft 失配 仍是工程上未被系统化解决的问题。本文以调度策略的可证明公平性为主线，拆解四类生产事故的根因，给出端到端决策树。
2026-06-25 Rockstar 官网正式开放 GTA VI 预购，首发平台锁定 PS5 + Xbox Series X|S，Jason 与 Lucia 双主角回归 Vice City。本文梳理 13 年开发史、价格策略、DEI 争议、商业影响与未公布谜团，所有信息分已确认/行业推测/待证三类标注。
当 LLM 把知识传递压缩成毫秒级 API 调用，传统教育的核心契约正在被认知脚手架与 Agent 协作重构。本文从认知科学、学习工程、政策博弈三维度解析 2026 H2 AI × 教育的范式分化路径，涵盖硅谷 AI-Native School、东亚国家课程微调、欧洲 AI 素养作为新母语三条真实路径，并给出 2026 H2 - 2027 H1 的四种猜想验证指标。
2024-2026 年 mech interp 从手工作坊走向半自动化 + 理论化双轨：稀疏自编码器在 Claude 3 Sonnet 上识别 3400 万个单义特征，ACDC 算法在 4 GPU 小时内自动重建 IOI 电路，因果中介分析把 head 级 indirect effect 形式化。MoE / Mamba-3 / CoT 推理的可解释性扩展也已起步，但 TC0 理论边界意味着纯 attention 电路无法完备解释推理时计算。
当 AI 工具与产品的竞争从模型 benchmark 转向产品 ROI,评测方法论本身成为最高杠杆的工程能力。本文以端到端流水线(离线 eval + 影子流量 + A/B + 反馈闭环)+ 多指标联合判定 + 缓存与路由的成本优化,系统复盘 2026 H1 业内最稳定的工具评测范式。
当 Anthropic 推出 CLAUDE.md、Cline 推出 AGENTS.md、Cursor 推出 .cursorrules 时，spec-driven 开发正在重写 AI 编程的工程边界——本文拆解 5 套主流 schema、团队共享机制与 token 成本的真实博弈。
当上下文窗口从 128K 迈向 1M tokens,推理引擎面临的是显存、计算、通信三重叠加的「不可能三角」。本文从 2026 年真实工程视角系统拆解 PagedAttention、Ring Attention 与 KV cache 卸载的决策路径,给出从 8 卡 H100 单节点到 32 卡跨机部署的可落地选型清单。
2026 上半年三场标志性诉讼把生成式 AI 与版权法的张力推到了范式转移的临界点——美式 fair use 在文本生成领域首次失守，音乐产业用 settlement 换来 30/70 分账模型，视觉模型的风格不侵权悖论正在被 Midjourney 判决推翻。本文从三大诉讼判例细节出发，重建 2026 H2 全球版权合规的工程化路径。
当多个微调后的 LLM 都站在损失景观的低谷平原上时,模型合并的成败取决于它们是否处于同一个线性模式连通盆地。本文从线性模式连通性出发,拆解 Task Arithmetic、TIES-MERGING 与 DARE 三大合并范式的数学假设、归并冲突与冗余处理。
2026 H1 的 AI 搜索产品已从「带 LLM 的 Google 替代」演化为「检索-推理-引用」三段流水线上的工程竞赛，选型关键不在「最聪明」而在「引用透明度 / 实时延迟 / 定价模型」与工作流对齐。
从一线开发者视角，重新审视 2026 H1 三大主流范式（Cursor / Claude Code / Copilot）在上下文压缩、模型路由、token 成本闭环上的工程化路径，并给出一份可落地的选型决策清单与成本监控清单。
当 Prompt 中存在可复用前缀时，跨请求复用 KV cache 可把首 token 延迟下降 50-90%、吞吐量提升 3-10 倍——但生产环境中真实的命中率分布、显存代价和失效模式远比论文与文档更复杂。
当 NVIDIA 跨越 4 万亿美元市值、OpenAI 私募估值达 5000 亿美元时，AI 资本周期已具备金融物理学系统的特征——正反馈环、临界相变、平衡态失稳。本文拆解流动性驱动的非线性定价机制、退出渠道的窄化动力学、算力期货化与 token 经济学的反馈环，并给出非共识判断：风险不在估值高度，而在退出动力学与估值-现金流的解耦深度。
2026 年大模型研究的最深刻转向不是更大的模型，而是更聪明的“挑数据的策略”。本文从 influence functions 的早期理论出发，沿着 data curation scaling laws、selection-via-loss、qualitative diversity 三条路径，重建 2026 年大模型数据选择理论的全貌，论证“数据缩放律”正在替代“参数缩放律”成为预训练效率的新瓶颈。
2026 年 AI 语音合成与语音克隆市场迎来双线竞速。本文以工程决策者视角,从音质、首包延迟、克隆能力、商用授权、单价、自托管可行度六维,横评 ElevenLabs / Cartesia / OpenAI / CosyVoice / F5-TTS / OpenVoice 2 六款主流 TTS / 语音克隆产品,给出三类典型负载(对话 Agent / 内容创作 / 客服外呼)的决策树与 5 个生产级工程坑。