Blog·Studio

文章系列日历归档关于搜索

Blog·Studio

一个记录思考、笔记与作品的技术博客。

Connect

鄂ICP备19019526号

crafted with care

stay curious ✦

文章
智能体与 AI 应用开发

标签「智能体与 AI 应用开发」

116 篇文章

切换标签

全部737 AI 日报36 AI 编程51 Hermes Agent13 AI 工具与产品31 AI 原生架构96 大模型研究97 杂项2 AI 行业趋势22 行业研究0 游戏1 Agent 技术123 智能体与 AI 应用开发116 游戏引擎与渲染50 游戏开发58 游戏服务架构41

LLM 多租户公平速率限制工程 2026:token 流到加权队列
把多租户 LLM 限流重新建模为二维 Wasserstein 距离最小化,工程上落地为双层令牌桶 + 加权公平队列 + 突发借据 + 软降级的四件套,补齐流量入口层公平性的工程空白。
- #智能体与 AI 应用开发
2026.08.09
PromptOps 平台工程 2026：从版本化到 CI 门禁的闭环架构
把 prompt 视作源代码级的一等公民，通过版本化、A/B 试验、评审工作流、CI 门禁、可观测性与一键回滚六大能力，把 LLM 应用行为规约的工程治理做到与代码治理同构。
- #智能体与 AI 应用开发
2026.08.08

端侧 LLM 工程 2026:从 WebGPU、量化到端云协同的统一真相

把量化、WebGPU/Metal 运行时、端云协同、可观测性、隐私合规五件套拼成一个工程子系统,2026 年端侧 LLM 已经从演示特性走向可承载真实生产流量的产品基建。

#智能体与 AI 应用开发

2026.08.07

AI 应用可观测性商业产品平台工程 2026

把 trace 四元组、span 层级、cost 归因、eval 闭环作为最小抽象,从 OpenTelemetry+OpenLLMetry+GenAI semconv 三条标准化线索,到 LangSmith/Langfuse/Helicone/Phoenix/Arize 五家产品工程真相,落到自托管 vs SaaS 决策树与给 SRE 的可观测性清单。

#智能体与 AI 应用开发

2026.08.06

AI 原生 UX 模式的工程化 2026

把流式输出、结构化输出、可中断、可编辑、可逆、可观测六类原语装配到前端工程里,从 streaming 协议、partial JSON 解析、CRDT 编辑器到失败恢复策略,构建从 PoC 到规模化的 AI 应用 UX 闭环。

#智能体与 AI 应用开发

2026.08.05

AI 应用的实时数据接入与 RAG 新鲜度工程 2026

把 CDC 流式 ETL、增量嵌入、版本化索引与时窗化检索组装成一条端到端 freshness 链，把 80% 内容过时导致的 RAG 质量投诉转为可观测、可告警、可回滚的生产事件。

#智能体与 AI 应用开发

2026.08.04

RAG 应用向量数据库全链路可观测性工程 2026：从选型基准到生产级监控的闭环架构

把 RAG 应用的可观测性从看不见变成看得见、追得到、能行动，需要从延迟分布、ANN 召回率、混合检索权重、分块质量等多个维度建立持续评估闭环。本文系统覆盖向量数据库选型基准、全链路监控体系、帕累托追踪与自我优化闭环的工程实践。

#智能体与 AI 应用开发

2026.08.03

Agent 上下文工程的形式化 2026：从注意力衰减、信息瓶颈到可控压缩率

把上下文工程建模为速率-失真问题，用 $R(d)$ 衰减律、信息瓶颈、$S(E)$ 语义保留率三组可验证指标替换「塞满窗口」叙事——最优压缩率 30%、最佳选取准则是互信息增益、长上下文不等于有效上下文。

#智能体与 AI 应用开发

2026.08.03

AI 应用模型版本治理工程 2026:从供应商版本漂移到回归门禁的闭环架构

把 AI 应用看作一张有向契约图,把模型版本变化抽象为图上的契约边,通过嵌入维度治理、Adapter 抽象层、回归门禁与双轨评估,把版本治理从被动救火转为主动稳态控制。

#智能体与 AI 应用开发

2026.08.02

AI 应用的多租户隔离与合规工程 2026：从检索到取证审计

多租户 AI 应用的隔离不是加一层 WHERE 条件，而是在向量空间、prefix cache、embedding 适配、推理网关、合规日志五个独立维度同时做 tenant-aware 设计；本文给出方案 C 混合命名空间、路径 2 共享基座 LoRA 适配、12 个租户一致性检查点的工程闭环与 SRE/合规官清单。

#智能体与 AI 应用开发

2026.08.01

AI 应用的多级缓存架构 2026：从精确匹配到语义去重的闭环

把精确匹配 KV 复用作为 L1、向量相似度去重作为 L2、RAG 中间产物作为 L3、动态插槽作为 L4,通过分层命中率工程与 stampede 防御,把 LLM 应用的 token 成本与 P99 延迟分别压降 30-60% 与 40-70%。

#智能体与 AI 应用开发

2026.07.31

AI 应用的流式 UX 工程 2026

当 LLM 推理被切碎成 token 流、工具调用被切碎成 partial JSON、AI 写作被切碎成可撤销的协作操作时,终端应用的 UX 范式就从「请求-等待-展示」跃迁到「流式协作编辑器」。本文形式化流式交互的算子模型,并给出 streaming 渲染、结构化输出、人机协作三件套的可落地工程模式。

#智能体与 AI 应用开发

2026.07.30

AI 应用的质量护栏与安全工程 2026：四层闭环架构

把离线演化基准、在线因果反馈、运行时分层护栏与红队持续对抗组成并联回路，每层承认不完美、每层为另一层兜底，并以预设剧本与健康度指标维持整个系统的演化。

#智能体与 AI 应用开发

2026.07.29

AI 应用的灰度发布工程 2026：从 canary 到实验护栏的闭环

AI 应用的灰度发布不是传统软件灰度的简单复用，而是一套面向 LLM 输出不确定性、质量多维度、回滚高成本、指标延迟性这四大差异的全新决策闭环——通过 canary + shadow + 三层护栏 + Bayesian Sequential Testing 的组合，把新版本风险暴露控制在 1% 以内。