中国大模型实验室 DeepSeek 把 AI 阅读长文时的临时记忆笔记压到上一代 1/8、运行时显存(GPU 工作内存)降约 3/4;官方测算单次百万字 AI 智能体任务 API 账单从约 10 元(约 1.4 美元)降至 1–2 元(约 0.14–0.28 美元)级别。
9 月 10 日,中国大模型实验室 DeepSeek 上线了 V4.1-Flash。这款面向百万字长上下文 Agent 场景的模型把运行时显存降到上一代 V4-Flash 的约 1/4,把存放在服务器硬盘上的持久化 KV 缓存(Key-Value 缓存,可理解为模型阅读长文时临时存下的"记忆笔记")压到 1/8。雷锋网把这次压缩概括为"KV 缓存暴降 437 倍",这是一个把运行时显存、持久缓存和 FP4 量化叠加后的复合口径,单看其中任何一项都远不到这个数字,但叠加之后确实接近一个数量级。
长上下文 AI 的成本曲线,过去一直被 KV 缓存和注意力计算共同抬高。要让百万字 Agent 任务跑得便宜,必须在两件事上同时动手:把"记忆笔记"压得更小、把"回头扫描"做得更省。
V4.1-Flash 放弃了 V4-Flash 把 40 层 Transformer 当成"一锅端"的思路,改用一种叫做"因果编码器-解码器"(CED)的结构:前 20 层当"快速阅读员",把整段上下文压缩成高度浓缩的隐状态摘要;后 20 层当"答题员",用一份投影矩阵从摘要里直接生成全局 KV,跳过对全段上下文的二次读取。模型再叠加滑动窗口注意力(SWA)处理就近的局部细节,并配一个"有限回放"机制以极低算力近似还原短期记忆。(雷锋网技术解读, 官方技术报告)
V4.1-Flash 的注意力机制也升级到了第二代压缩稀疏注意力(CSA2):把 40 层共用的 KV 副本压缩到只存一份,并允许各层复用同一份缓存加上各自的 Top-K 索引(只挑最相关的若干条记忆来查)。CSA2 还为每层静态分配 Full、Reindex、Reuse 三种模式:只有极少数层做完整扫描,其余层要么跳过复杂索引计算,要么直接复用上一层的成果。超长上下文场景里,模型还会再叠一层分层稀疏索引器做二次检索打分。(官方技术报告, MarkTechPost 同日报道)
在精度上,V4.1-Flash 把长期核心记忆(主 KV 缓存)压到 FP4(4 位浮点,即每个数字只用 4 个比特表示,比常见的 16 位精度小 4 倍),短期 SWA-KV 保留 FP8(8 位浮点);训练阶段引入量化感知训练(QAT),让模型先在低位精度下学会稳定答题,再把低位精度推到线上,运行时由芯片做还原计算。(官方技术报告, Hugging Face 模型卡)
雷锋网援引的官方数据是,V4.1-Flash 的主参数为 552B,外挂一个 196B 的 Engram 记忆模块;推理时 prefill(一次性读完所有上下文)阶段仅激活 8B 参数,decode(逐字生成回答)阶段激活 16B,对外提供 low / high / max 三档可调力度。在部分内部评测中,V4.1-Flash 用 8B 激活参数反超了 DeepSeek 自家 1.6T 参数的旗舰 V4-Pro。这个成绩目前只来自厂方内部的横评,没有进入 SWE-bench、LongBench 或公开 Agent 榜单的同口径对比,公开基准的复测单还没交齐。(雷锋网技术解读, Hugging Face 模型卡)
雷锋网援引的厂方测算显示,跑一次百万 Token 深度的 Agent 任务,API 示例账单从约 10 元压到 1–2 元级别。按 2026 年 9 月 1 美元约合 7 元人民币的中间价换算,相当于从约 1.4 美元降到约 0.14–0.28 美元。但这是厂方话术下的示例账单,不是真实客户在生产环境里能复现的价格;API 标价不等于终端产品降价,百万字级 Agent 任务能不能真的在中小团队预算内跑起来,还要看一两个独立第三方在长任务上的复测。
DeepSeek 把这次发布和 Hugging Face 模型卡、技术报告 PDF 一起放出来,并采用 MIT 许可(允许免费使用、商用和修改)。英文学界媒体 MarkTechPost、TechTimes、The Neuron 当日做了同口径转写,但都还没有独立的复测或部署反馈。要判断"437 倍"和"反超 1.6T 旗舰"是否经得起生产侧检验,下一步要看的是:公开榜单的同口径成绩单、第一波独立团队在百万字 Agent 任务上的成本实测,以及 OpenRouter、HF Inference 这类公共推理入口的实际报价。