博客
文章系列日历
归档关于搜索

鄂ICP备19019526号

© 2026 博客

标签

  • 全部
  • AI 日报(36)
  • AI 编程(51)
  • Hermes Agent(13)
  • AI 工具与产品(31)
  • AI 原生架构(58)
  • 大模型研究(55)
  • 杂项(2)
  • AI 行业趋势(22)
  • 行业研究(0)
  • 游戏(1)
  • Agent 技术(39)
  • 智能体与 AI 应用开发(21)
  1. 文章
  2. 大模型研究

当前标签:大模型研究 · 共 55 篇

  • 稀疏注意力的第二次复兴:2026 年 Native Sparse Attention 与混合稀疏架构的理论重塑

    稀疏注意力的第二次复兴:2026 年 Native Sparse Attention 与混合稀疏架构的理论重塑

    从 $O(n^2)$ 全注意力的算法下界出发,分析 DeepSeek NSA 的“压缩-选择-滑动”三阶段架构为何能达到 $O(n log n)$ 复杂度和接近全注意力的检索精度,梳理 2026 年稀疏注意力四大方案的版图与三个未解的开放问题。

    2026年6月17日·
    大模型研究
  • 状态空间模型的第二次复兴:Mamba-3 与混合架构如何重写 2026 的长序列建模

    状态空间模型的第二次复兴:Mamba-3 与混合架构如何重写 2026 的长序列建模

    梳理 SSM 在 2024-2026 从 Mamba-1 到 Mamba-3 的关键跃迁:选择性机制、SSD 对偶性、二阶递推、Jamba/Zamba 混合架构,并通过长上下文基准对比回答“互补还是替代”这一核心问题。

    2026年6月16日·
    大模型研究
  • 2026 开源大模型大爆发:从 DeepSeek-V3 到 Mistral Small 4,开源生态的范式跃迁

    2026 开源大模型大爆发:从 DeepSeek-V3 到 Mistral Small 4,开源生态的范式跃迁

    2026 年开源大模型已从追赶走向并行:DeepSeek-V3、Llama 4、Qwen3、gpt-oss、Mistral Small 4 五大里程碑在架构、训练、推理、多模态、生态五个维度全面演进。本文做一次贴近现状的深度复盘。

    2026年6月15日·
    大模型研究
  • Post-training 范式 2026:从 SFT/RLHF 到 GRPO/DPO/RLVR 的工程化大爆发

    Post-training 范式 2026:从 SFT/RLHF 到 GRPO/DPO/RLVR 的工程化大爆发

    2026 年大模型的真正范式拐点不在预训练而在 post-training。GRPO 把 RL 工程门槛降了一个量级、DPO 把对齐从强化学习拉回监督学习、RLVR 让可验证成为新范式、PRM 在数学代码上突围、Anthropic 的 RLAIF 让对齐本身可扩展。这篇深度长文用 8 节内容把这一轮 post-training 范式迁移讲清楚:它从哪里来、怎么变成今天的形状、哪些算法已经成为行业默认配置、2026 年我们应该把什么放进生产栈。

    2026年6月15日·
    大模型研究
  • 2026 年 AI 能力度量的真实地基

    2026 年 AI 能力度量的真实地基

    从 METR TH1.1、Anthropic ASL、SWE-bench/HLE/EvoMaster 三榜交叉三个一手数据出发,论证 2026 年下半年 AI 能力度量正在从“单一基准分数”迁移到“精度评估 + 阈值评估 + 评估单元声明”的三角验证体系。

    2026年6月14日·
    大模型研究
  • MoE 架构 2026:从稀疏门控到 DeepSeek-V3 与 Qwen3 的工程化集大成

    MoE 架构 2026:从稀疏门控到 DeepSeek-V3 与 Qwen3 的工程化集大成

    当 671B 参数的 DeepSeek-V3 每个 token 只激活 37B、Qwen3-30B-A3B 只激活 3B 时,MoE 已成为 LLM 规模化的默认范式。本文系统梳理从 Sparsely-Gated MoE (2017) → GShard (2020) → Switch Transformer (2021) → Mixtral (2023) → DeepSeek-MoE/V2/V3 (2024) → Qwen3-MoE (2025) 的工程演化,详解 5 个关键突破、3 类工程权衡、2 个产业判断。

    2026年6月14日·
    大模型研究
  • Diffusion LLM:当文本生成从打字机变成并行编辑器

    Diffusion LLM:当文本生成从打字机变成并行编辑器

    从 2025 年 5 月 Google Gemini Diffusion 的 857 tokens/s,到 2026 年 6 月 DiffusionGemma 的 500+ tokens/s,再到 Mercury 2 的 1109 tokens/s 商业化交付——文本生成正在经历一场静悄悄的范式革命。本文梳理 5 个核心项目、6 个一手来源,剖析 Diffusion LLM 如何重写大模型的推理架构。

    2026年6月13日·
    大模型研究
  • LLM 评估的危机与重建:从饱和基准到过程性评估的范式转移

    LLM 评估的危机与重建:从饱和基准到过程性评估的范式转移

    当 SWE-Bench Verified 接近饱和、METR 的算法分与整体分出现结构性撕裂,LLM 评估正在从「标准化考试」范式转向「动态测量」范式。本文用 METR 2025-2026 三篇关键报告、Anthropic ASL 框架与 GPQA、HLE 等新一代基准,描绘这场范式转移的全貌。

    2026年6月12日·
    大模型研究
  • 2025 AI Agent 智能体技术发展报告深度解读

    2025 AI Agent 智能体技术发展报告深度解读

    2025 AI Agent 智能体技术发展报告深度解读 引言 2025 年,人工智能的发展浪潮正以前所未有的速度和深度重塑全球科技格局与产业生态,而 AI Agent(智能体)无疑是这股浪潮中最引人注目的焦点。如果说 2023 年是大语言模型(LLM)的爆发之年,那么 2025 年则当之无愧...

    2026年5月12日·
    大模型研究
  • DeepSeek-V4 深度研究报告:国产大模型的里程碑式突破

    DeepSeek-V4 深度研究报告:国产大模型的里程碑式突破

    1.6 万亿参数 MegaMoE 架构、百万 token 上下文标配、CSA/HCA 注意力机制结构性颠覆——DeepSeek V4 全面深度解读,附性能Benchmark、架构解析与国产算力适配进展。

    2026年4月25日·
    大模型研究
  • DeepSeek-V4 今日正式发布:百万上下文、MegaMoE架构、全面开源

    DeepSeek-V4 今日正式发布:百万上下文、MegaMoE架构、全面开源

    2026年4月24日,DeepSeek-V4预览版正式上线并同步开源,支持百万字超长上下文,Agent能力与推理性能均达开源领域领先水平。

    2026年4月24日·
    大模型研究
  • Anthropic 发布 Claude Opus 4.7:最强商用旗舰,CursorBench 70% 超越 GPT-5.4

    Anthropic 发布 Claude Opus 4.7:最强商用旗舰,CursorBench 70% 超越 GPT-5.4

    Anthropic于2026年4月16日发布Claude Opus 4.7,CursorBench 70%超越Opus 4.6的58%,视觉能力98.5%飞跃,定价与4.6相同。本文完整解析核心升级点、第三方评测、定价及与Mythos的关系。

    2026年4月17日·
    大模型研究
  • Claude Code 源码泄露深度分析:51 万行代码背后的 AI Agent 架构设计

    Claude Code 源码泄露深度分析:51 万行代码背后的 AI Agent 架构设计

    Claude Code 源码泄露深度分析:51 万行代码背后的 AI Agent 架构设计 本文基于 2025 年 3 月 31 日 Claude Code npm 包 source map 意外泄露事件,对其源码进行深度技术分析。 事件背景 2026 年 3 月 31 日,Anthropic

    2026年4月1日·
    大模型研究
  • 2026年AI大模型评测深度分析:格局重塑与选型指南

    2026年AI大模型评测深度分析:格局重塑与选型指南

    2026年,AI大模型战场正经历前所未有的格局重塑。从OpenAI、Google、Anthropic三巨头领跑,到国内通义千问、智谱GLM、Kimi、豆包等模型强势崛起,大模型评测已成为技术选型的关键参考。本文基于2026年最新评测数据,带您深入了解主流评测体系与模型表现。

    2026年3月31日·
    大模型研究
  • AI Agent 智能体研究报告:技术架构与前沿进展

    AI Agent 智能体研究报告:技术架构与前沿进展

    AI Agent 智能体研究报告:技术架构与前沿进展 撰写:Kevin 日期:2026年3月31日 1. 引言:从 LLM 到 Agent 1.1 什么是 Agent? 在 AI 领域, Agent(智能体) 指的是能够感知环境、制定计划、执行行动并从反馈中学习的自主系统。与传统的「输入

    2026年3月31日·
    大模型研究
上一页3 / 3
下一页