把 8 本英文小说一次塞进上下文模型居然学会了翻译一门只有 200 人的语言——Google 长上下文技术报告精读系列第 3 篇 · 子领域长上下文 / Long Context【来源信息】 - 类型机构技术报告 - 标题Gemini 长上下文技术文档 / Gemini 3.6 Flash Model Card - 作者/机构Google DeepMind - 出处Google DeepMind 官方技术文档与模型卡 · 2026-07Gemini 3.6 Flash1M token 上下文窗口 - 原文https://deepmind.google/models/model-cards/gemini-3-6-flash/ 与 https://ai.google.dev/gemini-api/docs/long-context - 本文性质技术解读非原创研究关键结论以原文为准一句话结论1M token 上下文不只是「能装更多」它让模型靠纯上下文学习就学会翻译一门只有 200 人使用的语言、效果逼近真人——这是 RAG 之外另一条被低估的路线。背景与痛点早年的 LLM 一次只能吞 8K token后来卷到 32K、128K。但面对长文档、几万行代码、几小时音视频大家还是被迫上 RAG切块、向量库、重排、摘要。RAG 好用但有隐形成本——检索准了不代表回答对链路一长就有损耗工程也重。Google 从 Gemini 1.5 起把窗口拉到 1M到 2026 年的 Gemini 3.6 Flash 仍保持1M token 输入 64K token 输出。窗口大了能玩的花样完全不一样。核心方法讲人话长上下文的本质是「短期记忆」扩容。Gemini 原生多模态文本/图像/音频/视频统一进一个模型。最关键的不是容量而是它激活了一个能力many-shot in-context learning多样本上下文学习——把过去「给 1~几个示例」的范式直接放大到几百、几千甚至几十万样本塞进上下文效果能逼近微调。「我们不是检索而是把全部相关信息 upfront 一次性喂进去。」这就是范式转移。实验与数字1M token ≈ 5 万行代码 / 8 本平均长度英文小说 / 200 期播客转录。Kalamang 翻译实验只给 500 页语法参考书 一本字典 约 400 句平行语料全部放在上下文里Gemini 学会把英语译成这门巴布亚土著语言使用者不到 200 人质量接近用同样材料的人类学习者。Gemini 3.6 Flash 实测SWE-Bench Pro 58.7%输入价 $1.50 / 1M token输出价 $7.50 / 1M token。Many-shot 表现接近 fine-tune且无需任何训练。为什么重要反直觉点来了长上下文不是 RAG 的替代品而是「直接把全量信息 upfront 喂进去」的另一种范式。对三类场景是质变——代码重构把整个 monorepo 塞进提示词做整体架构重构长视频/长音频理解一次吃进 1 小时视频或 8 小时音频Agent 状态保持agent 不用靠摘要丢记忆全程上下文在线。「现有榜单测不出差距」在长上下文上不成立——差距恰恰在真实长任务里。复现 / 落地思路用 Gemini API 的context caching上下文缓存把长输入缓存下来大幅降低 1M token 反复输入的账单many-shot 分类/抽取任务可以直接把几百条标注样例塞进提示词免微调验证开源侧暂无同等窗口的平替可先用 Gemini 免费额度试水。今日可做的 3 件事挑一份你最常用的长文档合同 / 论文 / 代码库整篇塞进 Gemini 长上下文对比你平时 RAG 切块的效果差。找一个分类或抽取任务用 many-shot 把 200 条标注样例直接放提示词测免微调效果。给一次长上下文请求算一笔成本账开 context caching 前后 1M token 输入差多少。下篇预告第 4 期我们读多模态聊聊 Google 怎么把「眼睛和耳朵」直接塞进一个 12B 模型还把视觉编码器整个砍了。