👋 hi,这里是
随手记下关于代码、设计 与日常的一些小想法。
Journal
随笔、研究与作品 — 一个持续生长的写作实验室。
按标签筛选
今日 8 条重点:1)Meta 内部因 AI 推进节奏爆发员工抗议;2)Gallup:企业 AI 抵制者被裁概率是拥抱者的 3 倍;3)Meta WhatsApp Business AI Agent 全球上线;4)美国监管机构推动 AI 数据中心加速并网;5)Meter Pricing 模式冲击传统按席位软件计费;6)AI 可观测性赛道出现新抽象层;7)AI 治理不该是工具调用;8)MedHELM 推出日常临床 AI 评测基准。
用价格、延迟、上下文、工具调用、Vision 五大维度对 GPT-4o、Claude Sonnet 4、Gemini 2.5 Pro、DeepSeek-V3、Qwen3-Max 做工程化横评，给出可直接套用的选型决策树与 12 条生产环境落地清单。
当 AI 生成 800 行代码、自动合并、跑过 CI、进了主干——生产告警后你怎么定位是哪段 prompt 的产物？本文拆解 AI 编程可观测性的三层工程栈：生成层的 lineage 注入、合并层的 acceptance ratio 与 test pass rate 看板、运行层的 OpenTelemetry GenAI 语义约定穿透，以及 lineage-aware revert 与 postmortem 模板的回滚闭环。
当欧盟用“风险分级 + GPAI 透明度”重塑 AI 合规、美国用 HBM 出口管制把算力武器化、中国用“备案三件套”把模型上线变成“准生证”流程——2026 三大监管体系的交叉地带正在重新定义 AI 公司的全球扩张成本函数。
投机解码在大模型推理中已经从研究原型跃迁为生产级标配，2026 年我们见证了 Medusa、EAGLE-3 与 n-gram 三大路线的工程化大爆发，吞吐 2-3 倍提升背后是 draft model 选择、verification 树管理、显存压力与 acceptance rate 调优的精密博弈。
当 LLM 训练规模突破万亿 token，AdamW 不再是默认答案——本文从损失景观几何学出发，分析 Lion-2、Muon、Soap、Shampoo 四大优化器家族在 2026 年 LLM 训练中如何超越 AdamW，节省 10-35% 训练 token。
2026 年 Agent 框架市场进入分化淘汰——六款主流框架（LangGraph / CrewAI / AutoGen / Swarm / LlamaIndex / DSPy）合计 25 万+ Star，但生产可用性极端分化。本文用 2026-06-17 实时 GitHub 数据 + 四维决策框架（控制流 / 状态管理 / 可观测性 / 学习曲线）+ 三大范式对决（图状态机 / 角色扮演 / 声明式编程）+ 六框架生产踩坑实录，帮 AI 研究者和高级工程师 5 分钟完成选型。
2026 年 AI 编程 IDE 的 token 战争已从模型层下沉到上下文层 —— 单次补全的仓库上下文 + 工具结果 + 对话历史占总开销 70%+。本文通过真实生产数据拆解 prompt 缓存架构、四类上下文压缩策略、工具调用的预算分配，给出 75% 成本降幅的工程清单。
[今日 9 条重点:1)美国暂缓 DeepSeek 黑名单;2)G7 峰会首议 AI 主权;3)Odyssey 3.1 亿拉动世界模型;4)Google 发布 Agentic Resource Discovery 规范;5)Strands 推出受限 Shell;6)LLM 评测却是“答别人的题”;7)本地 Qwen 与云端 Opus 选型之争;8)脑机接口瘫痪患者意念控电脑。]
2026 年医疗、法律、金融三大行业 AI 落地已度过概念验证阶段，但真实生产部署率远低于媒体叙事：医疗卡在临床验证和监管闭环、法律卡在幻觉责任和律所变革阻力、金融卡在合规审计和模型可解释性；只有 workflow-level copilot 是真正走通的范式。
vLLM 0.4 → 0.7 的调度器演进揭示了一个反直觉的事实:LLM 推理的瓶颈早已不在模型本身,而在调度器怎么把不同长度、不同生命周期的请求塞进同一个 GPU kernel。本文拆解 continuous batching 与 chunked prefill 两次决定性重构,以及 2026 年 disaggregation 的下一步。
从 $O(n^2)$ 全注意力的算法下界出发,分析 DeepSeek NSA 的“压缩-选择-滑动”三阶段架构为何能达到 $O(n log n)$ 复杂度和接近全注意力的检索精度,梳理 2026 年稀疏注意力四大方案的版图与三个未解的开放问题。
当一个团队决定把大模型从云端 API 转向自托管推理时，第一个选择是推理框架。本文用 2026 年 6 月 17 日实时数据，对 vLLM / llama.cpp / TGI / FastChat / MLC-LLM / text-generation-webui 六款主流框架做横评，含量化格式阶梯、显存分配、TTFT/TPS 实测对比、选型决策树与生产部署组合模式。
当 Cursor / Windsurf / Claude Code / Cline 把 IDE 装上代理执行引擎，“工具选型”从代码补全准确率比赛升级为代理执行模型、上下文管理、权限边界、可观测性四维度的工程化决策。本文用五元组形式化 7 款主流工具的横评框架，并给出 2026 年可落地的选型决策树与未来 12 个月三个趋势预判。
今日 9 条 AI 行业新闻：Anthropic 暂停 Claude Agent SDK 按 token 计费、OpenAI 财务泄露 2025 营收 130.7 亿美元、SpaceX 完成对 Cursor 的收购、DeepSeek 73.5 亿美元融资、法国弃用 Palantir、美司法部替 xAI 挡诉讼、Gartner 预测 40% AI Agent 将废弃、Mistral Le Chat 复读虚假信息过半、Wolfram Language 15 发布原生 AI 助手。
当 AI 行业进入「下半场规模应用」拐点，决定竞赛走向的不是模型架构，而是 HBM + CoWoS 这条看不见的供应链。本文剖析三大存储厂格局、TSMC 封装瓶颈、可预见的格局重排。
2026 年的 LLM 推理工程已经从堆 GPU 走向重写每一层显存访问。本文沿 PagedAttention / FlashAttention / FlashDecoding / Speculative Decoding 顺序，剖析生产级推理内核如何把单卡 decode 吞吐从 200 tok/s 推到 2000+ tok/s 的工程路径。
梳理 SSM 在 2024-2026 从 Mamba-1 到 Mamba-3 的关键跃迁:选择性机制、SSD 对偶性、二阶递推、Jamba/Zamba 混合架构,并通过长上下文基准对比回答“互补还是替代”这一核心问题。
2026 年 6 月盘点五套主流 Agent 框架的测试实践：LangChain create_agent、OpenAI Function Calling、Vercel AI SDK、Pydantic AI、Instructor。没有任何框架替你解决「Agent 在生产里到底有没有真的变好」这个问题——这件事必须由工程团队自己搭。
Vibe Coding 在 2025 年完成了「想法→代码」的奇袭,但 2026 年中回看:它没解决「代码→可维护系统」的最后一公里。本文从 GitHub 实时数据出发,拆解 Vibe Coding 的三笔隐性成本,并提出 Spec-driven Development 作为下一阶段工程化范式。