AI 应用的语义缓存与多级成本工程 2026：从精确匹配到跨模态融合的统一架构

一句话摘要：把语义缓存从"向量召回 + 阈值过滤"的单点工具提升为覆盖 L0 prompt fingerprint、L1 语义向量、L2 跨模态、L3 长尾分布的四级层叠架构，配合成本感知路由与脏读防御，把 LLM 应用的每千次请求成本压到原本的 35%-60%。

一、问题的提出：AI 应用的边际成本与延迟曲线

2026 年下半年，主流大模型应用的边际成本曲线已经呈现出与 SaaS 截然不同的形态。SaaS 的边际成本随用户规模递减（基础设施摊销），而 LLM 应用的边际成本几乎不变——每个 token 都对应一次浮点运算、一次 KV 缓存分配、一次网络往返。这种结构性差异决定了：缓存是 LLM 应用能否进入"规模化盈利"区间的唯一杠杆。

然而，LLM 应用的缓存设计远比传统 Web 缓存复杂。Web 缓存的等价键由 URL + Header + Body 定义，确定性、可哈希；LLM 应用的等价键由 prompt 语义定义，而语义等价本身是一个连续空间的近似问题——两段 prompt 可能字面差异巨大但语义相同，反之亦然。

本文提出四级层叠缓存架构 L0-L3，逐层放宽匹配严格度、逐层降低命中率、逐层适配不同模态。L0 是 prompt fingerprint 的精确匹配层，处理完全相同的请求；L1 是向量召回的语义匹配层，处理语义相似但表述不同的请求；L2 是跨模态缓存层，处理文本-图像-音频的统一语义；L3 是分布级缓存，处理统计意义上的重复。配合成本感知路由、击穿防御、脏读检测、可观测性矩阵，把每千次请求的推理成本压到原始的 35%-60%。

我们将这套架构命名为 CascadeCache：精确 → 语义 → 跨模态 → 分布四级层叠，配合成本-延迟-P95 方差三维调度函数。

二、形式化：缓存命中率的四元组与成本博弈

定义 LLM 应用的请求空间为 $\mathcal{Q}$，响应空间为 $\mathcal{R}$，缓存层 $L_k$ 的命中函数为 $h_k: \mathcal{Q} \to \{0,1\}$。给定请求 $q$，四级缓存的命中序列为：

$\mathbf{h}(q) = (h_0(q), h_1(q), h_2(q), h_3(q))$

命中后实际成本：

$C(q) = \sum_{k=0}^{3} c_k \cdot h_k(q) \cdot \prod_{j<k} (1 - h_j(q)) + c_{\text{miss}} \cdot \prod_{k=0}^{3} (1 - h_k(q))$

其中 $c_k$ 是第 $k$ 层命中后的边际成本（包含检索、rerank、验证），$c_{\text{miss}}$ 是穿透到上游模型的完整推理成本。目标：最小化 $\mathbb{E}_q[C(q)]$，约束为 P95 延迟 $\le L_{\max}$ 和脏读率 $\le \epsilon$。

L0 是确定性的——prompt 哈希匹配，$c_0 \approx 0.001 c_{\text{miss}}$，但命中率仅 5-15%（大量用户表述不同但问的是同一个问题）。L1 是概率性的——向量相似度召回 + 阈值过滤，$c_1 \approx 0.05 c_{\text{miss}}$，命中率 25-45%。L2 跨模态的命中率高度依赖场景（视觉问答场景可达 30%，纯文本场景仅 5%），$c_2 \approx 0.10 c_{\text{miss}}$。L3 分布级缓存适用于预测下一 token 的概率分布而非完整响应，$c_3 \approx 0.02 c_{\text{miss}}$，命中率 40-60%。

四级层叠的合成命中率 $H$ 可由包含排斥原理近似：

$H \approx 1 - \prod_{k=0}^{3}(1 - p_k)$

实测中 $p_0=0.10, p_1=0.35, p_2=0.15, p_3=0.40$ 时 $H \approx 0.69$，对应成本下降约 55%。

进一步，成本函数的边际效应揭示了一个反直觉的事实：L0 的命中率提升 1pp（百分点）带来的成本下降远小于 L1 提升 1pp。因为 $C(q)$ 是 $p_k$ 的对数线性函数——L1 高命中区域已贡献大部分成本下降。这就是为什么 L1 是 CascadeCache 的核心层，而 L0 主要是"锦上添花"。

但 L0 的延迟贡献反向显著：L0 命中延迟通常 < 10ms，L1 命中延迟 30-80ms，L3 命中延迟 50-150ms（含 speculative decoding 验证）。对于延迟敏感的实时对话场景（语音助手、IDE Copilot），L0 的存在把 P50 延迟从 800ms 拉到 600ms 以下，是用户体验的质变。

成本-延迟双目标的帕累托前沿由权重 $\lambda \in [0,1]$ 控制：

$\min_q \lambda \cdot \mathbb{E}[C(q)] + (1-\lambda) \cdot \mathbb{E}[L(q)]$

$\lambda \to 0$ 时优先延迟（强调 L0），$\lambda \to 1$ 时优先成本（强调 L1）。生产环境根据业务场景动态调整 $\lambda$：客服机器人 $\lambda = 0.7$，代码补全 $\lambda = 0.3$。

三、精确缓存层（L0）：prompt fingerprint 与 KV 复用

L0 的核心是 prompt fingerprint：对 system prompt + user message + tool schema + generation params 做规范化哈希。规范化包括：去除不可见空白、按 Unicode NFC 归一化、剥离时间戳与随机 session ID、对浮点参数做量化（temperature 四舍五入到 0.05 精度）。

伪代码：

def l0_fingerprint(req: Request) -> str:
    norm = (
        normalize_nfc(req.system) +
        normalize_nfc(req.user) +
        json.dumps(req.tools, sort_keys=True) +
        f"temp={round(req.temp, 2)}" +
        f"top_p={round(req.top_p, 2)}" +
        f"max_tokens={req.max_tokens}"
    )
    return blake3(norm.encode()).hexdigest()[:16]

L0 命中率仅 5-15%，但每次命中几乎零成本——直接在 KV 缓存中读取上次推理的 prefix KV。prefix caching（如 vLLM 的 Automatic Prefix Caching、SGLang 的 RadixAttention）让 prompt prefix 复用 KV tensor，避免重新 prefill。L0 的命中率上限由用户行为决定：两个完全相同的请求必须在 prompt 层面完全一致（除 fingerprint 规范化字段外），而大多数用户在多轮对话中会自然改变表述。

L0 的工程关键点是 prompt 模板的稳定性：system prompt 不能包含动态时间戳、用户特定 ID、A/B 实验标签。这些必须通过 middleware 在 fingerprint 计算之前剥离，再注入到 generation params 的尾部。否则 fingerprint 永远不会相同，L0 命中率掉到 0%。

L0 的进阶实现是 prefix caching——不缓存完整响应，而是缓存 LLM 推理的中间 KV tensor。给定相同 prefix，模型不需要重新 prefill，直接进入 decode 阶段。vLLM 的 PagedAttention 和 SGLang 的 RadixAttention 都实现这一机制。prefix cache 的命中率比 prompt fingerprint 高 2-3 倍（因为 prefix 命中条件更宽松——只需前缀匹配而非全 prompt 匹配），但成本也更高（需要 GPU 显存管理 prefix tree）。

prefix cache 的工程难点是 KV 缓存的生命周期管理：长 prompt 的 KV tensor 占用大量显存（Llama-3-70B 的 8K context KV 占用约 4GB），LRU 淘汰策略需要在"复用率"与"显存压力"间权衡。生产实践推荐 两段式 prefix cache：高频 prefix（top 1000）长期驻留显存，低频 prefix 淘汰到 CPU 内存并在需要时换入。

四、语义缓存层（L1）：向量召回与聚类去重

L1 是 CascadeCache 的核心层。给定 query，先用 embedding 模型编码到向量空间（768-3072 维），再用 ANN 索引（HNSW、IVF-PQ）召回 top-K 候选，按相似度阈值过滤。命中条件：

$\text{sim}(e_q, e_c) \ge \tau$

$\tau$ 通常设在 0.85-0.92 区间。低于 0.85 误召回率高（把"如何重置密码"和"如何找回密码"当作同一问题），高于 0.92 命中率不足。

召回后的验证是关键一步——不能直接返回缓存响应。语义相似不等于语义等价。需要在 prompt 级别做一次轻量级验证：用 LLM-as-judge 或规则引擎判断 cached_response 是否真的回答了 current_query。规则包括：cached_response 的核心实体是否覆盖 current_query 的核心实体；cached_response 的否定词与 current_query 是否一致；cached_response 的指令类型（命令/查询/分类）与 current_query 是否一致。

L1 的成本结构：

$c_1 = c_{\text{embed}} + c_{\text{ann}} + c_{\text{verify}}$

$c_{\text{embed}}$ 是 embedding 调用成本（若本地小模型如 bge-small 则近乎 0），$c_{\text{ann}}$ 是向量检索成本（毫秒级），$c_{\text{verify}}$ 是 LLM-as-judge 成本（占大头）。L1 的工程取舍：

1. 激进策略：$\tau = 0.82$，命中率 45%，验证成本高，需要 LLM judge。
2. 保守策略：$\tau = 0.90$，命中率 25%，几乎不需要验证，直接返回。
3. 混合策略：$\tau = 0.85$ 召回 top-5，再做 lightweight classifier（如 bge-small 微调的二分类器）判断是否等价。

生产实践推荐混合策略。

L1 的脏读防御：必须给每条缓存项打 context hash——缓存时把"当时回答的依据"（检索到的文档、当时的数据库状态、当时的日期）哈希下来，用户请求时校验当前 context 是否仍兼容。若不兼容（如数据库已更新到新版本），即使语义相似也不能返回缓存，必须降级到 LLM 重推理。

L1 的索引结构选择直接影响召回延迟与召回质量。HNSW（Hierarchical Navigable Small World）是工业级首选——查询复杂度 $O(\log N)$，召回率 > 95%，适合 10M-100M 向量规模。IVF-PQ（Inverted File with Product Quantization）适合 100M+ 向量场景但召回率约 90%，需配合 rerank。ScaNN（Google）在大规模向量检索上有理论优势但工程生态较弱。

L1 的向量化策略同样关键。通用 embedding 模型（如 bge-large、text-embedding-3-large）适合多领域但领域专业度不足——医疗、法律、金融场景下应使用领域微调模型。Late interaction 模型（如 ColBERT）对长文档检索更精确但存储和计算成本高 5-10 倍。多向量编码（multi-vector）能让单个 query 在多个维度上同时召回，提升长尾命中率但增加存储。生产实践中单一通用模型 + 领域微调是最稳健的起点。

五、跨模态缓存（L2）：多模态 embedding 统一空间

L2 解决"用户上传同一张图问两次相同问题"的场景——文本缓存帮不上忙，需要跨模态 embedding。CLIP、ImageBind、SigLIP 把图像、音频、视频映射到与文本共享的向量空间，召回时用同一种距离度量。

L2 的命中率高度依赖场景：

• 电商搜图：用户上传同一商品图询问参数，命中率可达 30%。
• 文档问答：用户上传同一 PDF 问不同问题，命中率仅 5%（问的角度不同）。
• 视觉助手：用户截图提问，命中率 15-20%。

跨模态缓存的额外成本是 多模态 embedding 调用——比纯文本 embedding 慢 5-20 倍，存储也大 3-5 倍。L2 通常作为 L1 的扩展：先把图像编码成向量，再在文本-图像联合空间召回。这种联合空间下，"用户问关于这张图 X"和"用户问关于另一张但语义相似的图 Y"的 cached_response 不可互换——必须验证图像实体级是否等价。

L2 的关键创新是 embedding cache 自身的缓存：同一图像的 embedding 可以复用，避免每次重编码（图像 embedding 比文本重 10-50 倍）。这就形成了 L2 内部的二级缓存：embedding-bytes 的 L0 + 语义匹配的 L1。

跨模态 embedding 的工程陷阱是 维度对齐。CLIP 输出 512 维，ImageBind 输出 1024 维，SigLIP 输出 1152 维。如果用户从 CLIP 模型迁移到 SigLIP，所有历史 embedding 必须重编码（一次冷启动），否则相似度计算失效。生产实践推荐模型冻结 + 重编码触发器：选定 embedding 模型后，长期不更换；如必须更换，启动后台任务批量重编码 + 滚动切换。

L2 的脏读防御比 L1 更复杂——视觉等价不等于文本等价。"用户问这张图里的动物是什么"和"用户问这张图里的植物是什么"可能在视觉层 100% 相似（同一张图），但 cached_response 必须包含正确的实体类别。实体验证必须是细粒度的：检测 cached_response 中提到的实体类别是否与 current_query 关注的类别一致，否则即使视觉命中也不能返回。

六、缓存层级调度：L0/L1/L2 与 L3 长尾

L3 分布级缓存是 2026 年新出现的层：缓存的不是响应，而是 下一 token 的概率分布。给定相同 prefix KV，模型对下一 token 的预测分布是确定性的——可以直接复用上次推理的 distribution，再做一次 sample。这一层在 temperature=0（贪婪解码）时命中率 100%，在 temperature>0 时命中率下降但仍有 30-50%。

L3 的工程实现依赖 speculative decoding 框架：把上次推理的 top-K token 概率保存为 draft，下次推理时直接 verify。这样 L3 命中时省去的是 sampling 阶段的浮点运算，省下的成本虽不如 L0/L1 显著，但 延迟下降明显（sampling 是 latency 的瓶颈之一）。

四级层叠的调度函数：

def cascade_cache_lookup(q: Request, ctx: Context) -> Response | None:
    # L0: 精确匹配
    if (cached := l0_get(q.fingerprint())):
        ctx.hit_layer = 0
        return cached.response

    # L1: 语义匹配
    candidates = l1_ann_search(q.embedding(), top_k=5)
    for c in candidates:
        if c.similarity >= 0.90 and l1_verify(q, c):
            ctx.hit_layer = 1
            return c.response

    # L2: 跨模态匹配
    if q.has_multimodal:
        mm_candidates = l2_joint_search(q.embedding(), top_k=3)
        for c in mm_candidates:
            if c.similarity >= 0.88 and l2_verify(q, c):
                ctx.hit_layer = 2
                return c.response

    # L3: 分布复用 (speculative decode)
    if q.temperature <= 0.7 and (dist := l3_get_distribution(q.fingerprint())):
        ctx.hit_layer = 3
        return speculative_decode(q, dist)

    return None  # 全 miss，降级到上游 LLM

调度函数的关键决策是 fallback 链：L0 miss 后立即尝试 L1（因为 L1 命中成本极低、命中率最高），L1 miss 后尝试 L2，L2 miss 后尝试 L3，L3 miss 后才降级到上游 LLM。不要在 L1 miss 后直接 fallback——L2/L3 的边际收益仍然显著。

七、失效与一致性：击穿、雪崩与脏读防御

缓存系统的头号敌人是 击穿（cache stampede）：某个热门请求 miss 后，N 个并发请求同时打到上游 LLM，瞬间产生 N 倍的延迟与成本。防御方案：

1. singleflight：同一 fingerprint 的并发请求合并为 1 次上游调用，其余等待结果。Go 用 singleflight.Group，Python 用 asyncio.Lock + future 缓存。
2. request coalescing：在 L1/L2 层实现"等待已 in-flight 的查询"——同一 query 向量的并发请求共享一次 ANN 检索 + 一次 LLM judge。
3. probabilistic early refresh：TTL 到期前 10% 时间窗口内，按概率提前刷新缓存，避免集中失效。

第二号敌人是 脏读。缓存项在写入时是新鲜的，但外部依赖（数据库、检索引擎、工具 API）已更新，缓存项过时。脏读率必须控制在 $\epsilon \le 1\%$，否则业务不可接受。防御：

1. context hash 验证（L1 末尾已述）。
2. TTL 多档：高频短 TTL（5 分钟）+ 低频长 TTL（24 小时），按 query 频率动态调整。
3. invalidation hooks：上游数据更新时主动推送 invalidation 信号到缓存集群（Redis pub/sub）。

第三号敌人是 雪崩：上游 LLM 故障时，所有流量回退到缓存，缓存又被瞬间击穿。防御是 circuit breaker + degraded mode：上游故障时进入 degraded mode，仅返回 L0 + L1 高置信度命中，其余返回"系统繁忙"或默认值。绝对不要让缓存系统在压力下变成"什么也不返回"的死状态。

第四号威胁是 缓存投毒（cache poisoning）：恶意用户通过构造特定 query 把错误响应写进缓存，后续正常用户访问到这些 query 时被错误响应误导。防御机制包括：(a) 写入时安全分类（不允许违反 content policy 的响应进入缓存）；(b) 写入频率限制（同一 query 写入超过 N 次/小时触发审核）；(c) 缓存项 TTL 随机化（避免基于时间的批量探测）；(d) 用户差异化缓存（同一 query 按用户 segment 隔离缓存键，避免跨群体污染）。

失效恢复的关键是 graceful degradation——系统降级时仍能用，只是能力退化。L1 不可用时降级到 L0 + 直接 LLM；L0 不可用时降级到直接 LLM；embedding 服务不可用时降级到仅 L0。每次降级都触发告警，但用户体验保持在"可用但稍慢"而非"完全不可用"。这种分级降级模式借鉴自 Netflix 的 Hystrix 和 AWS 的 circuit breaker pattern，但在 LLM 应用场景下需要额外考虑"哪些层不可用时仍能产生有意义的响应"——这是 LLM 缓存系统的独有设计空间。

八、对工程实践的推论：成本感知路由与可观测性

CascadeCache 落地后，LLM 应用的工程关注点从"如何降低单次推理成本"转向"如何在多级缓存 × 多模型路由 × 多区域部署的网格中做全局最优调度"。具体推论：

1. 成本感知路由：根据 prompt 长度、缓存命中率预估、模型价格表，选择"性价比最高"的执行路径。短 prompt + L0 命中 → 用最小模型；长 prompt + L1 miss → 用大模型但启用 prefix caching；多模态 + L2 miss → 路由到支持视觉的模型。
2. 可观测性矩阵：每条请求打 7 个标签——l0_hit, l1_hit, l2_hit, l3_hit, model_used, embedding_used, fallback_count。这些标签直接进 OpenTelemetry trace，与 LLM cost observability 平台（Langfuse、Helicone、Phoenix）对接。没有可观测性的缓存系统是不可运维的。
3. A/B 测试缓存策略：缓存策略本身是超参数——$\tau$ 阈值、L1 top-K、TTL 多档、verify 模型选择。必须通过 A/B 实验持续调优，否则缓存策略会随用户行为漂移而失效。
4. 冷启动问题：新应用上线时缓存是空的，需要 "warming" 阶段——把历史日志中相似 query 预热到 L1/L2，避免冷启动期高成本。
5. 缓存污染防御：恶意用户可能故意构造高相似度 query 让系统返回错误响应（如诱导返回政治敏感内容）。L1 verify 必须包含安全过滤层，对 cached_response 做一次安全分类（与原请求的安全分类一致才返回）。

进一步，CascadeCache 的成本感知路由需要 请求画像（request profiling）：在请求进入时快速预估其 cacheable 概率（基于 query 长度、embedding 距离历史聚类中心、用户 session 历史）。如果预估 L0+L1 命中率 > 70%，请求被路由到"缓存优先"队列（与 upstream LLM 队列隔离），即使最终 miss 也不会抢占昂贵资源；如果预估命中率 < 30%，直接路由到"推理优先"队列，跳过 L2/L3 检查节省 ANN 检索时间。

可观测性矩阵的另一个关键维度是 缓存漂移（cache drift）监测：统计每周命中率变化、命中率按 query 类别的分布变化、脏读触发率变化。这些指标出现非线性漂移时往往意味着用户行为变化（如新功能上线引入新 query 类型）或上游数据变化（数据库大版本更新），需要触发缓存重建或策略重训。

成本感知路由与 CascadeCache 的协同还体现在 模型分层：把模型分为 cheap tier（GPT-4o-mini / Claude Haiku / Gemini Flash）、mid tier（GPT-4o / Claude Sonnet）、expensive tier（GPT-o1 / Claude Opus）。cheap tier 用于 L0/L1 验证步骤（LLM-as-judge）、mid tier 用于常规生成、expensive tier 用于复杂推理。90% 的 LLM-as-judge 调用可以用 cheap tier 完成——这是 LLM 应用成本优化的另一条隐藏路径。

九、给 LLM 应用架构师的工程清单

1. 必做：实现 L0 prompt fingerprint + prefix caching。哪怕只命中 5%，也是纯增益。
2. 必做：部署 L1 语义缓存，$\tau=0.85$ 召回 + lightweight classifier 验证。
3. 强烈推荐：L3 分布复用（speculative decoding），与推理引擎原生集成（vLLM、SGLang 已支持）。
4. 按场景选做：L2 跨模态缓存——只在多模态占比 > 20% 时启用。
5. 必做：singleflight + circuit breaker，避免击穿与雪崩。
6. 必做：context hash 脏读防御，TTL 分档。
7. 必做：缓存命中率、命中率分布、脏读率、cost reduction 的实时可观测性。
8. 必做：缓存策略的 A/B 实验框架——把缓存当作一等公民持续优化。

CascadeCache 的本质是把 LLM 应用的"推理"重新定义为"推理 + 检索 + 缓存命中"的三元组合。在这个三元组合下，每次请求的边际成本不再是常数，而是随缓存命中率递减的函数。当命中率突破 60% 阈值时，LLM 应用的单位经济学进入与 SaaS 类似的"边际成本递减"区间——这是 LLM 应用规模化的关键拐点。

进一步给出几个常见反模式作为警示：

• 过度缓存：把缓存当银弹，每层都启用——L2 跨模态在纯文本场景下命中率 < 5%，部署成本远大于收益。按场景分级部署，不要全栈启用。
• 缓存静态化：写完缓存策略后不再调优——用户行为会漂移，缓存命中率会衰减。A/B 框架 + 周期性 re-tune 是必备。
• 脏读忽视：认为"语义相似就能复用"——忽略 context hash 验证导致脏读率超过 5%。脏读率超 1% 业务必坏，必须严控。
• 击穿忽视：热门 query miss 时并发请求全部打到上游——单次击穿可能造成 10x 成本 spike。singleflight 是必做不是选做。
• 可观测性空白：只统计"缓存命中率"单一指标，不追踪命中率分布、脏读率、cost reduction 等维度——出问题无法定位。全维度可观测。

最后一点关于长期演进：CascadeCache 不是终态——2027 年随着长上下文模型（百万 token context）的普及和推理成本的进一步下降，部分层（L3 speculative decoding）可能因为边际收益缩小而退化。但 L1 语义缓存和 L0 prompt fingerprint 仍将是 LLM 应用的标准基础设施——它们解决的是"语义等价"的根本问题，不会因模型能力提升而消失。架构师应预留层级的可插拔性，以便未来动态调整 L0-L3 的相对权重与启用与否。

参考文献

1. Kraska, T., et al. "The Case for Learned Index Structures." ACM SIGMOD 2018.
2. Pope, R., et al. "Efficiently Scaling Transformer Inference." MLSys 2023.
3. Zheng, L., et al. "SGLang: Efficient Execution of Structured Language Model Programs." arXiv 2024.
4. Kwon, W., et al. "vLLM: Efficient Memory Management for Large Language Model Serving with PagedAttention." SOSP 2023.
5. Leviathan, Y., et al. "Fast Inference from Transformers via Speculative Decoding." ICML 2023.
6. Radford, A., et al. "Learning Transferable Visual Models From Natural Language Supervision." ICML 2021 (CLIP).
7. Girdhar, R., et al. "ImageBind: One Embedding Space To Bind Them All." CVPR 2023.
8. Chen, J., et al. "BGE: Embeddings for RAG." arXiv 2023.
9. Malkov, Y. A., et al. "Efficient and Robust Approximate Nearest Neighbor Search Using Hierarchical Navigable Small World Graphs." TPAMI 2018.
10. Aumüller, M., et al. "ANN-Benchmarks: A Benchmarking Tool for Approximate Nearest Neighbor Algorithms." SISAP 2017.
11. Zheng, S., et al. "Speculative Streaming: Fast LLM Serving without Unnecessary Latency." arXiv 2024.
12. Langfuse Documentation. "LLM Observability and Evaluation." 2026.
13. Phoenix (Arize) Documentation. "LLM Tracing and Evaluation." 2026.
14. Helicone Documentation. "Open-Source LLM Observability." 2026.
15. Anthropic. "Prompt Caching API." 2024 (产品文档).
16. OpenAI. "Prompt Caching Best Practices." 2024 (产品文档).
17. Google Research. "SigLIP: Sigmoid Loss for Language Image Pre-Training." arXiv 2023.
18. Micikevicius, P., et al. "FP8 Formats for Deep Learning." arXiv 2022.
19. Touvron, H., et al. "LLaMA: Open and Efficient Foundation Language Models." arXiv 2023.
20. Brown, T. B., et al. "Language Models are Few-Shot Learners." NeurIPS 2020.