林曦屿

DeepSeek 把压箱底的推理引擎开源了，硅谷为什么不跟

Wed, 21 Oct 2026 01:40:00 GMT

DeepSeek 把压箱底的推理引擎开源了，硅谷为什么不跟

10 月 20 日，DeepSeek 把 DeepInfer 扔上了 GitHub，Apache 2.0。没有发布会，没有预热，跟去年 2 月那次开源周一个路数：一天一个仓库，扔完就走。

先说结论：这次开源的重量不在代码，在它顺手公开的那组运营数字。代码可以读，数字抄不走。

开的是生产引擎，不是 demo

README 第一句：这套东西在跑 DeepSeek 自己的大规模生产服务。

但它不是给人下载来玩的。只支持一个模型，V4.1-Flash；只支持两种硬件，NVIDIA SM100 和华为昇腾 950；要 CUDA 13 或 CANN 9.2，Python 3.12。官方 Q&A 写，最小的高效部署单元是 64 卡 prefill 加 64 卡 decode。

128 张 Blackwell。个人开发者看到这行可以关页面了。

它服务的对象很清楚：有卡、有集群、缺引擎的云厂商和大型推理团队。

开到了哪一层

一起放的还有 deepseek-recipe，MIT 许可。它管请求怎么变成 token：Chat Completions、Responses、Messages 三种格式进来，统一成 DeepSeek 的会话，再把输出解析回去，包括思考内容、工具调用、图片。

两个许可都是宽松型，允许商用，也允许改了之后闭源。DeepSeek 没选 copyleft，等于放弃用许可证逼别人回馈。它要的是扩散速度，不是控制权。

两件事放一起看，边界就清楚了。模型权重早就开了，请求协议层这次开了，推理引擎这次开了。没开的是 KV Cache 存储、PD 分离的编排、跨副本负载均衡。

Q&A 里的原话是，这几块跟内部基础设施绑得太紧，“not yet fully open-sourced”。注意 yet。

翻译一下：它给你“把模型跑快”的能力，不给“把服务跑起来”的能力。前者是技术，后者是运营。技术可以送，运营不能送。

公开版还只是 offline inference。想拿它直接对外提供在线 API，中间那套得自己补。

这里有个容易被忽略的点：代码公开，不等于服务可以复现。那 100 PiB 的缓存怎么分层、哪些 prefix 值得留、什么时候淘汰、跨机房怎么调度，这些决策不在仓库里。参数可以照抄，判断不能。

这不是一次性的动作。从权重到算子，再到引擎和协议层，DeepSeek 一层层往下开了 21 个月。

比代码值钱的是数字

Q&A 第一次公开了生产数据：

指标	数值
单集群吞吐	155 万亿 token/天
单卡收入	约 38 美元/GPU·小时（谷时价）
平均首字延迟	400 ms
生成速度	230 tok/s，代码场景 300 tok/s
输入缓存命中率	96%
KV Cache 存储	约 100 PiB SSD
每张在线 GPU 的逻辑缓存	约 14.4 TB

38 美元是谷时电价下的口径，是下限。按 128 卡算，一小时 4864 美元。155 万亿 token 一天，折下来每秒约 18 亿 token。做推理生意的人看到这两个数，心里的秤就能校准。

还有两个细节。

缓存保留策略：agent 流量留 3 天，chatbot 流量留 7 天。因为 chatbot 的命中有一个很长的尾巴，少量缓存会被反复读很多次。这种经验不会写进论文。

公开版和内部版的差距：公开的 FlashMLA 少了一个手工调优，decode kernel 慢 5% 到 10%，端到端最多差 5%。这话很诚实，也说明真正拉开差距的，往往就是那一两个手调 kernel。

以上都是厂商口径，没有第三方复测。但愿意把每 GPU 小时收入写出来的公司，不多。

硅谷为什么不跟

先排除一个偷懒的解释：不是不会，也不是没东西可开。

OpenAI 去年开过 gpt-oss 的权重，Apache 2.0，单卡能跑。那是“让你在本地试试我们的模型”，不是“让你用我们的生产方式”。Anthropic 连权重都没开过。Meta 开了 Llama 权重，也没开生产栈。

Google 其实开过推理引擎。JetStream，跑在 XLA 设备上，Apache 2.0。今年 2 月 1 日归档，核心功能并进 vLLM 的 TPU 后端。这个动作比任何声明都说明问题：连 Google 都觉得，单独维护一个开源推理引擎，不如把它塞进社区最大的那个池子。

所以“美国闭源、中国开源”是个省事的说法。vLLM、SGLang、PyTorch、TensorRT-LLM，这些开源基建大多是美国高校和公司起头的。真正的区别是：美国巨头不开自己的生产栈。

原因不复杂。对 OpenAI 和 Anthropic，推理栈是毛利。模型能力落后半年还能追，单位成本落后 30% 追不回来。延迟、上下文长度、工具调用稳定性，这些产品体验最后都落在同一套栈上。开源等于把成本曲线交给对手，还附一份调优说明书。

闭源也不是纯坏话。工具调用约束、结构化输出、拒答策略，有一部分就长在推理栈上。开出去，别人能照着做，也能研究怎么绕。对把安全当卖点的公司，这笔账很难算平。

DeepSeek 的账不一样。权重本来就开，API 价格本来就低。推理栈捂着，护城河也护不住多少；放开，所有卖 DeepSeek 模型的云厂商都会按它的最优解跑。省下的调优时间，会变成更多 V4.1-Flash 部署。

这不是慈善，是标准战。Android 那套，先让所有人用你的底座，再谈别的。

我的判断是，引擎变成公共品之后，云厂商之间能比的只剩卡、电价和运维。推理服务的毛利会被压薄，钱往上游走，去卖卡、卖电、卖机房的人那里。DeepSeek 自己不做公有云，它乐见其成。

时间点也挑过。V4.1-Flash 是 9 月 10 日发的，到开源这天，口碑和调用量都起来了，引擎放出去接得住。再晚两个月，模型热度下去，代码开出来也没多少人部署。

昇腾那一行比 155 万亿更重

Supported hardware 只有两行：NVIDIA SM100 GPUs，Huawei Ascend 950 NPUs。

我在这行停了一会儿。

CUDA 的护城河不是指令集，是十年攒下来的算子、调度、调优经验。一颗新芯片最难的不是流片，是让框架作者愿意为它写 kernel，让云厂商相信它跑得稳。

一个生产级引擎把 SM100 和 Ascend 950 放在同一层抽象里，等于告诉所有用昇腾的人：你不用等一个国产推理框架慢慢成熟，DeepSeek 的生产引擎已经在你这边跑通了。

对英伟达不是好消息，对昇腾是，对开发者是多一个选择。虽然这个选择目前只支持一个模型。

能不能真跑起来，还得看后面有没有人提 PR。仓库现在 12k star、1.1k fork、92 个 PR，热度是真的，第三方生产验证还没有。

一个不刷榜的功能

引擎里有两个功能，跑分用不上，线上排障很要命：batch-invariant inference 和 deterministic sampling。

前者保证同一个请求放进不同 batch，结果一致（目前仅 NVIDIA）。后者保证固定种子和采样参数下，输出可复现。

做过线上服务的人知道这有多烦：用户投诉“同样的输入，你两次答得不一样”，你复现不出来，只能瞎猜。开了 batch-invariant，性能会掉一点，但至少能查。

一个只想刷榜的框架不会做这个。它做这个，说明它真被人半夜叫起来过。

聪明调度的拐点

DSpark 是引擎里的投机解码方案。一次猜 5 个 token，再用 confidence head 估计每个被接受的概率，把验证算力花在更可能通过的那些上。

听起来全是好处。Q&A 给的表不太好看：

每 rank 并发	固定 5 个	动态长度	增益
16	4891	4816	-1.5%
32	8964	9111	+1.6%
48	12032	12467	+3.6%
60	13730	14466	+5.4%
72	14962	15961	+6.7%
96	16817	18660	+11.0%

轻载时是负收益。16 个并发，动态调度比固定长度慢 1.5%。生产负载 60 左右，增益 4% 到 7%。并发拉到 96，才有 11%。

这张表比任何“性能提升 XX%”的标题都有用。它告诉你拐点在哪，也告诉你什么时候别开这个开关。

厂商发布会只给你看峰值，Q&A 才会把负收益写出来。这份 Q&A 比代码值得读。

谁该用，谁别碰

有 128 张 SM100 或者 950 的云厂商、大厂推理团队：值得读，值得对着 Q&A 调。这是目前最接近 DeepSeek 官方答案的东西。

想省 API 费的中小团队：别碰。你缺的不是引擎，是 KV Cache 集群、PD 分离、负载均衡，还有那 100 PiB 的 SSD。自己搭一圈，成本大概率高于买 API。

个人开发者：读完 README 就够了。知道生产级长什么样，比在自己那张卡上跑起来有用。

它不是 vLLM 的替代品。只支持一个模型，换模型要改内核，公开版还是离线推理。它更像“DeepSeek 模型的最优解说明书”，不是“通用推理框架”。

DeepSeek 在 README 里承认，这套东西最早基于 vLLM，也参考了 SGLang 和 TensorRT-LLM。美国公司写的框架，成了中国公司生产引擎的起点；中国公司把引擎开出来，又回到同一个池子。这个循环挺有意思。

我的判断

三句话。

第一，这次开源不会让 DeepSeek 的 API 收入掉多少。够得着 128 卡门槛的人，本来就会自己买卡；够不着的人，看完只会更清楚为什么该买 API。开源在这里更像营销费用，不是收入让渡。

第二，竞争重心已经从“模型有多强”挪到“每个 token 多少钱”。谁先把成本曲线公开，谁就定义了价格锚。155 万亿和 38 美元这两个数，会比很多 benchmark 活得久。

第三，对美国巨头来说，最难回答的不是“你们为什么不开源”，而是“如果推理栈不再是秘密，你们还剩下什么”。

答案可能是产品、分发、信任，也可能什么都不是。这个我不知道。

代码在 GitHub 上，Apache 2.0。真想验证，先看 doc/inference_deployment_qa.md，那份 Q&A 比 README 实在。

引用来源

DeepInfer 仓库（README、许可证、benchmark）：https://github.com/deepseek-ai/DeepInfer
DeepSeek，《Inference Deployment Q&A》（155 万亿、38 美元、128 卡、动态验证表格、缓存策略均出自此处）：https://github.com/deepseek-ai/DeepInfer/blob/main/doc/inference_deployment_qa.md
deepseek-recipe 仓库（MIT 许可、协议转换范围）：https://github.com/deepseek-ai/deepseek-recipe
量子位，《刚刚，DeepSeek 开源自家推理框架！》（2026-10-20，首字延迟、生成速度、缓存命中率）：https://m.sohu.com/a/1090300797_610300
36 氪，《DeepSeek：进一步将内部推理框架 DeepInfer 全面开源》（2026-10-20）：https://36kr.com/newsflashes/4033986510099335
CellCog，《DeepSeek Open-Sources DeepInfer: What It Takes to Run》（未开源组件、100 PiB、EP8/EP64 对比）：https://cellcog.ai/blog/deepseek-deepinfer-open-source
MarkTechPost，《DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash》（2026-10-20）：https://www.marktechpost.com/2026/10/20/deepseek-deepinfer-open-source-inference-framework
VentureBeat，《DeepSeek open sources DSpark, a new framework to speed up LLM inference by up to 85%》（2026-06）：https://venturebeat.com/ai/deepseek-open-sources-dspark-a-new-framework-to-speed-up-llm-inference-by-up-to-85
openai/gpt-oss（Apache 2.0 开放权重）：https://github.com/openai/gpt-oss
google/JetStream（仓库公告：2026-02-01 归档，迁移至 tpu-inference）：https://github.com/AI-Hypercomputer/JetStream
vLLM：https://github.com/vllm-project/vllm
SGLang：https://github.com/sgl-project/sglang
NVIDIA TensorRT-LLM：https://github.com/NVIDIA/TensorRT-LLM

日期与数字取自上述来源。Q&A 中的生产数据为厂商口径，本文未独立复测。

魔搭白嫖 192G 显存：24G 和 192G 都跑了，全程让 AI 自己搭

Sat, 17 Oct 2026 23:20:00 GMT

魔搭白嫖 192G 显存：24G 和 192G 都跑了，全程让 AI 自己搭

今天刷魔搭的算力页面，看到免费额度那栏有三种环境：CPU、NVIDIA GPU、AMD GPU。CPU 是长期的，GPU 按小时给额度，其中 AMD 那档标着 192G 显存，100 小时。

24G 那档跑 27B 得量化，这件事我知道。192G 是什么概念，想亲手试一下。

于是开了台实例，把 SSH 丢给 AI，剩下的它自己来。

三档免费算力

环境	显存	免费额度	适合
CPU	无	长期	数据处理、小模型、写代码
NVIDIA A10	24G（可用 23G）	100 小时	7B 到 14B 全精度，27B 必须量化
AMD MI308X	192G	100 小时	27B 全精度，还能再塞个生图模型

24G 和 192G 差八倍，这不是「跑得快一点」的区别，是模型规模差一个档位。

一个 27B 的 dense 模型，BF16 权重 54GB。24G 装不下，只能压到 4bit 左右，13GB 能塞进去。192G 装得下原样的，还能剩下 130 多 G 给上下文。

上下文也是钱。256K 的 KV cache 按这个架构算下来大约 17GB，24G 那台根本开不到这个数，192G 那台可以满开。

还有一点：这些都不是「送一张卡」，是按小时计的体验额度。实例一停，上面装的东西就没了，只有 /mnt/workspace 挂的 NAS 还在。额度烧完就得等下一次。

24G 那台：量化是唯一解

Qwen3.8-27B，BF16 权重 54GB，A10 只有 23G 可用。量化到 Q3_K_XL，13GB，再带一个 889MB 的视觉模块。

llama.cpp 编译时开 CUDA，A10 是 Ampere，arch 86。

llama-server \
  -m models/Qwen3.8-27B-Unleashed-UD-Q3_K_XL.gguf \
  --mmproj models/mmproj-model-bf16.gguf \
  --host 127.0.0.1 --port 8081 \
  -ngl 999 -c 262144 -np 1 \
  --flash-attn on \
  --cache-type-k q5_1 --cache-type-v q5_1 \
  --alias qwen3.8-27b

-ngl 999 是把所有层都放到 GPU 上，不够就分层，剩下的回 CPU，速度会掉一个数量级。

-c 262144 是上限，实际开多大看显存。13GB 权重压着，KV cache 再一挤，256K 跑不满。这个数别照抄，按剩余显存调。

--cache-type-k q5_1 是把 KV cache 也量化，省显存，代价是长上下文里精度掉一点。

实测生成 16 token/s，prompt 处理 378 token/s。写代码能用，跑 agent 也能跑，秒回是别想。一次长回答要等几十秒，思考链一长更明显。

192G 那台

硬件是 MI308X，ROCm 7.2.3，单卡显存 205822885888 字节，191.7 GiB。23 vCPU，200 GiB 内存，无 swap。Ubuntu 22.04.5，内核 5.10.134。/mnt/workspace 挂在 NFS 上，池子 1 PB，剩 972 TB；/tmp 是本地盘，30 GB。

有两个地方容易误判。

amd-smi 只列 GPU 0，容器里 torch.cuda.device_count() 返回 1。PCI 上能看到多张卡，实际只给一张切片。所以 --tensor-parallel-size 8 这种想法可以直接放弃，单卡跑。

/mnt/workspace 是 NFS。编译放 /tmp，源码可以留 NFS。在 NFS 上编译又慢又容易踩文件锁。

模型选的是 Qwen3.8-27B-abliterated，BF16，55.56GB，18 个 shard。魔搭上没有这个模型，HF 直连超时，走 hf-mirror.com 拉到 /mnt/workspace/models/Qwen3.8-27B-abliterated。

本来想沿用 llama.cpp，省事。走不通，两条路都堵。

convert_hf_to_gguf.py 没注册 qwen3_5 架构，转换脚本不认这个模型。仓库里现成的 llama-cli 是 CUDA 编的，libggml-cuda.so 在 ROCm 机器上加载就报错。要重编，得加 -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx942。

那就换 vLLM。0.28.0，torch 2.12.0（hip 7.2.53211）。模型注册表里 Qwen3_5ForConditionalGeneration 是认识的。

vllm serve /mnt/workspace/models/Qwen3.8-27B-abliterated \
  --served-model-name qwen3.8-27b-abliterated \
  --max-model-len 262144 \
  --gpu-memory-utilization 0.92 \
  --reasoning-parser qwen3 \
  --enable-prefix-caching \
  --async-scheduling

--max-model-len 262144 是模型支持的最大上下文，直接拉满。显存够就不用缩。

--gpu-memory-utilization 0.92 是允许 vLLM 占用 92% 的显存，剩下的留给系统和其他进程。这台机器只有模型在跑，可以给高一点。

--reasoning-parser qwen3 是让 vLLM 认识这个模型的思考格式，把思考内容和正文分开。不加的话，思考链会混在正文里返回。

--enable-prefix-caching 是前缀缓存。同一段 system prompt 反复用的时候，不用每次重算，首字延迟会低很多。

--async-scheduling 是异步调度，并发请求下吞吐会好一些。

单卡加载 51.1 GiB，262144 上下文没炸。显存账：权重 55.56G，256K KV 大约 17G，合计 73G，占 192G 的 38%。余量很大，这台机器再跑一个模型都行。

速度：TTFT 0.06 秒，decode 52 到 54 token/s，思考模式关掉，端到端快 24%。

TTFT 0.06 秒这个数有点夸张，是因为 prefix caching 生效了，同一段系统提示词不用重算。冷启动第一次请求会慢一些。

两边对比：

	A10 24G	MI308X 192G
权重	Q3_K_XL 13GB	BF16 55.56GB
框架	llama.cpp	vLLM
生成	16 tok/s	52-54 tok/s
prompt	378 tok/s	TTFT 0.06s
上下文	256K 开不满	262144 满开
显存占用	接近打满	73G / 192G

两个框架不一样，速度差不能全算在显存头上。llama.cpp 的 GGUF 推理和 vLLM 的 PagedAttention 本来就是两种设计。

但 24G 那台就算换成 vLLM，13GB 的量化权重也装不出全精度的效果。量化损失在长上下文和复杂推理里会放大，尤其是代码和数学。

中间层

vLLM 的接口是 OpenAI 兼容的，但「兼容」不等于「一样」。客户端和上游之间有三处不一致，需要在中间加一层代理处理。

字段名。vLLM 把思考内容放在 reasoning，很多客户端读的是 reasoning_content。这是两套约定，不是谁写错了。代理里做一次字段重命名，流式和非流式都要处理。

思考 token 算进预算。max_tokens 给小的时候，思考把预算吃完，正文一个字没有，返回的 content 是 null。客户端不报错，就是空回复。处理方式有两种：给足预算，或者在代理里把思考内容分离出去，不占正文的额度。

流式分块的结构。SSE 每一块都要是合法的 JSON，思考内容和正文可能在同一块里交替出现。代理要按块解析，改完再拼回去，不能整段读完了再一次性发。

这一层不复杂，但必须有。没有它，客户端要么连不上，要么拿到空回复，要么流式断在半路。

顺手把生图接上

192G 空着也是空着。

选的是 Qwen-Image 2.1 Turbo 的 abliterated 版，8 步出图。三个文件：

文件	大小
扩散模型 Q5_K_M	4.94 GB
Text Encoder 4bit	5.03 GB
VAE bf16	675 MB

先试的 ComfyUI。Radeon 上 1024x1024 一步超过五分钟，不可用。换 stable-diffusion.cpp，源码编 HIP 版：

cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx942

产物 sd-cli，直接命令行出图：

sd-cli --diffusion-model models/qwen-image/Q5_K_M.gguf \
  --llm models/qwen-image/TE-4bit.gguf \
  --vae models/qwen-image/vae.safetensors \
  --steps 8 --cfg-scale 1.0 --sampling-method euler \
  --diffusion-fa --vae-tiling \
  -W 1024 -H 1024 -p "prompt" -o out.png

--steps 8 是这个 Turbo 版本的特点，普通扩散模型要 20 到 30 步。--cfg-scale 1.0 是蒸馏模型的标准值，不需要 classifier-free guidance 的放大。--diffusion-fa 开 flash attention，--vae-tiling 把 VAE 解码分块做，省显存。

1024x1024 八步的耗时分解：每步 1.62 秒，采样总计 23.75 秒，VAE 解码 7.78 秒，冷启动 43.5 秒。

和 27B 的 vLLM 同时开着，不 OOM。两个模型加起来占用不到 80G。

命令行不好用，包了一层 FastAPI，暴露 /v1/images/generations，返回 b64。端口选 8083，因为 8082 被 code-server 占了。开服务之前先 ss -ltn 看一眼，别硬撞。

把服务接出来

实例没有公网 IP，也不给开入站。只能让实例主动连出来，在自己的服务器上开监听。

ssh -N -p 14413 -i ~/.ssh/dsw_key \
  -R 172.21.0.1:16384:127.0.0.1:2222 \
  -R 172.21.0.1:16385:127.0.0.1:8000 \
  root@tunnel.example.com

16384 转发到实例的 22，16385 转发到模型端口。从服务器上看，模型就像跑在本地。

绑定地址写 127.0.0.1 只有服务器本机能连，容器里的网关连不上，得写网关 IP。这个地址在实例里看到的是 172.21.0.1。

加第三个端口给生图的时候，一直报 remote port forwarding failed for listen port 16386。

服务器上 ss -ltn 看，端口空着。sshd_config 里 GatewayPorts clientspecified，permitlisten 是 any。改了配置、reload 了 sshd，还是不行。

日志里有一行关键：

Received request from x.x.x.x port xxxxx to remote forward to host 172.21.0.1 port 16386, but the request was denied.

denied，不是 bind 失败。开 LogLevel DEBUG1：

debug1: active: permitted listen: 172.21.0.1:16384
debug1: active: permitted listen: 172.21.0.1:16385

原因在 authorized_keys。当初为了安全，那把 key 前面挂了 restrict,port-forwarding,permitlisten="172.21.0.1:16384",permitlisten="172.21.0.1:16385"，白名单只有两个端口。新端口不在名单里，sshd 直接拒。

补一条 permitlisten="172.21.0.1:16386"，立刻通。

这是安全配置的副作用：白名单越严，加新端口越容易忘。报错只到 denied，不会说哪条规则拒的。LogLevel DEBUG1 一行就能定位，比翻配置快。

客户端怎么用

任何 OpenAI 兼容的客户端都行，Base URL 填服务器上隧道的地址：

http://172.21.0.1:16385

密钥填模型启动时的 --api-key，模型名填 --served-model-name 的值。

Base URL 不要带 /v1，客户端自己会拼。带了就是 404，很容易顺手加上。

生图走 http://172.21.0.1:16386/v1/images/generations，参数是 prompt、size（WxH）、n（最多 4）、negative_prompt、seed、steps。

实测：512x512 直连 7 秒，1024x1024 约 25 秒。请求是串行的，同时发会排队。

值不值

免费 192G 是真的，但不是免费 API。

额度按小时烧，实例会停，重开一台 IP 和端口全变，脚本得重跑。适合试模型、跑一次性任务、给 agent 当备用后端。不适合长期在线、对外服务、对延迟敏感。

还有，别把 0.0.0.0 开到公网。全程监听 127.0.0.1，出口走 SSH，入口是带 restrict 的 key。免费算力是别人的，机器上的东西泄了，麻烦是自己的。

真正的变化不是显存，是门槛。

以前要查文档、试环境、踩驱动坑，一个模型折腾一天。现在把 SSH 丢给 AI，探环境、下模型、选框架、配参数、排协议差异，它自己一条条过。我只开了个实例，回了两句话。

免费算力是别人的，时间和试错才是自己的。

难绷！大肥鱼更新完变沉默了，只框框干活不说话

Sat, 17 Oct 2026 12:10:00 GMT

难绷！大肥鱼更新完变沉默了，只框框干活不说话

10 月 17 日，DeepSeek 把 V4.1 Flash 更新到了 V4.1-Flash-1017。网页、App、API 同步换新，模型名还是 deepseek-flash，调用代码不用改。

分数涨了，话变少了，钱没多花。

分数

官方给了一张对比表，1017 对上一版 V4.1 Flash：

基准测试	1017	上一版	变化
HLE（无工具）	42.6	36.8	+5.8
Terminal-Bench 4.0	42.3	31.2	+11.1
DeepSWE v1.1	77.0	74.2	+2.8
ProgramBench	29.1	20.3	+8.8
NL2Repo-Bench	68.2	65.4	+2.8
Automation-Bench v1.0.6	60.5	54.8	+5.7
Agents' Last Exam	35.4	31.8	+3.6
Apex Bench v1.1	72.1	64.6	+7.5

Terminal-Bench 4.0 从 31.2 跳到 42.3，是最大的一跳。这项考的是在终端里真干活：读文件、跑命令、改环境、把任务收尾。天天用 agent 写代码的人，看这项比看 HLE 有用。

DeepSWE v1.1 是 77.0。同一张表里，Opus 5 是 74.0，GPT-5.6 Sol 是 73.0。这些数字是厂商自己跑的，不是第三方复测，看趋势可以，别当成你手上项目的保证。

Terminal-Bench 用 Claude Code 跑，DeepSWE 用 mini-SWE-v2 跑。

钱花在哪

Agent 任务的钱，很大一部分花在模型来回说话上。每一步多写两百字，几十步下来就是一笔账。官方说 1017 在涨分的同时，把任务运行时间和输出长度都压了下来，所以在多个 Harness 下做到了更低的单任务成本。

底子还是 9 月那套：552B 参数的 MoE，非对称的 Causal-Encoder-Decoder，输入激活 8B，输出激活 16B。KV Cache 比上一代省，HBM 占用降到四分之一，SSD 降到八分之一。

价格没涨：

每百万 token	闲时	高峰
输入（缓存命中）	$0.003	$0.006
输入（缓存未命中）	$0.15	$0.30
输出	$0.60	$1.20

高峰是北京时间周一到周五的 09:00–12:00、14:00–18:00，法定节假日不算。其余时间按闲时价，正好一半。

上下文窗口 1M，最大输出 384K。窗口大是好事，但不控制输入的话，一次请求带几十万 token 也是它。便宜的前提是别把整个仓库无脑塞进去。

四个从零开始的例子

这次主打的演示不是补代码，是直接交项目：故宫的 3D 建模、一个网页版赛车游戏、用 Godot 复刻的《传送门 2》，还有「Valley of Ages」，用 3D 场景从史前演到现代。

训练方法是带自反馈的强化学习。模型做完一步，自己检查结果，再决定下一步怎么改。官方说这让它在提示词少、素材少、交互轮次短的情况下，能直接把完整项目做出来。

演示是挑过的，别拿它当交付标准。但它说明了一件事：模型厂商现在比的不是谁更会聊天，是谁能一次把活干完。

搜索 API

DeepSeek 把自研搜索开放成了两个接口：Search 和 Fetch，各 5 元 / 千次（美元价 $0.75 / 千次）。

官方说索引了全球千亿级网页，支持多语言，专门过滤三类东西：SEO 作弊、GEO 操纵、低质 AIGC。对做内容的人来说这是好事，被搜到的门槛回到了「写给人看」。

有个时间点要记：在 DeepSeek Harness、Claude Code、Codex 里通过服务端工具调用 Search/Fetch，北京时间 11 月 1 日 00:00 前不收费，之后按次计费。

接入

用 DeepSeek Harness 的，升到 0.2.1-rc.1 或更高，否则拿不到新模型的最佳效果。

调用名没变，还是 deepseek-flash。旧的 deepseek-v4-flash 和 deepseek-v4-flash-vision-exp 也还能用，但请求会被转到 1017，按 Flash 价计费。

模型权重同步开源，Hugging Face 和 ModelScope 都能下，MIT 许可。

值不值得换

做 agent 开发的，值得。Terminal-Bench 和 DeepSWE 涨得实在，输出变短会直接反映在账单上。原来嫌它话多的，可以再试一次。

只拿它聊天的，感知不会太强。分数主要涨在工具调用和长任务上，日常问答没那么明显。

上下文成本还是要注意。1M 窗口不是让你每次都塞满。该裁的历史、该丢的文件、该分段的活，还是得做。

这次更新最值钱的地方不是榜单，是同样的任务花更少的钱和时间。模型竞争打到这个阶段，便宜已经不算优势了，又便宜又能把活干完才算。

Qoder 和 WorkBuddy 也已经全量接入 1017，不用自己折腾接入。

引用来源

DeepSeek-V4.1-Flash-1017 发布公告：https://api-docs.deepseek.com/zh-cn/news/news261017
模型与价格：https://api-docs.deepseek.com/zh-cn/quick_start/pricing
模型卡（基准测试、MIT 许可）：https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017
DeepSeek-V4.1-Flash 发布公告（552B MoE、8B/16B 激活、KV Cache）：https://api-docs.deepseek.com/zh-cn/news/news260910
Qoder 接入文档：https://api-docs.deepseek.com/zh-cn/quick_start/agent_integrations/qoder
WorkBuddy/CodeBuddy 接入文档：https://api-docs.deepseek.com/zh-cn/quick_start/agent_integrations/workbuddy
Search & Fetch 指南：https://api-docs.deepseek.com/zh-cn/guides/search

大模型要进出口管制目录了，开源还开得了吗？

Sat, 17 Oct 2026 03:00:00 GMT

大模型要进出口管制目录了，开源还开得了吗？

开源没被禁。

这两天有张截图在传，说以后大模型不让开源了。截图里的数字大多对得上，结论读反了。

10 月 16 日，商务部和科技部发了份征求意见稿，准备往《中国禁止出口限制出口技术目录》里加东西。这份目录管的是哪些技术不能卖到国外、哪些得先申请批准。

这次一共加 40 项：人工智能 23 项、生物医药 5 项、光伏 12 项。征求意见到 11 月 15 日截止。但有一条已经生效了——从现在起，相关技术出口前要先做临时登记。稿子还没定，手续先走起来了。

具体指标不写在公告正文里，全在附件那个 .wps 文件里。下面的数字都是从附件原文逐条对的。

管的是技术，不是产品。附件里写得很直白：用这些技术造出来的产品，不在管理范围内。

人工智能这 23 项分两类，禁止出口和限制出口，后者松一些。禁止出口那部分里，跟模型有关的一条是：用我国核心数据训练、然后对外提供服务的大模型。

对做模型的人来说，真正要看的是三条线。踩中任意一条就在范围内：

训练算力 ≥ 10²⁶ 次浮点运算
参数量 ≥ 2 万亿
公开评测全球排名前 10

管的内容包括模型权重、关键检查点、底层源代码、架构设计，以及训练优化、推理加速的技术。另外还有智能体、算力集群、芯片设计几条线，门槛更细，离普通人远，图 1 里都有。

开源还能不能？能。

已经开源、论文已经发了的，不归它管。进了公共领域的技术，不纳入出口管理。现在要开源的，属于便利情形，走自动许可，基本报一下就能出。把技术授权给别人，或者公司实控人变成境外主体，这个要登记；目录正式落地后还要申请许可。

答记者问里，跟开源并列的便利情形还有一串：去境外自建算力中心、去境外做芯片流片、跟境外联合研发、参与国际标准制定。把技术交出去，和自己出去做，是两码事，后者走便利。

三条线里，前两条企业自己心里有数，第三条只能猜。

附件的定义是「出口活动发生时，国内外主流测评机构、大规模产业平台等公开评估全球排名前 10」。哪个榜单算数、谁说了算，没写。

这是征求意见期最值得提的一条。

引用来源

商务部科技部公告 2026 年第 48 号（正文与附件下载入口）：https://www.mofcom.gov.cn/zwgk/zcfb/art/2026/art_0a31a3c9ac404f7a9b0e917ce3412997.html
附件1《拟列入〈中国禁止出口限制出口技术目录〉的人工智能、生物医药、光伏技术范围（征求意见稿）》——本文指标数字均出自该文件原文（.wps，下载入口在上一条公告页内）
商务部新闻发言人答记者问：https://www.mofcom.gov.cn/syxwfb/art/2026/art_a4acff07e134447fbe7bbeb486df3ea6.html
新华社通稿：https://www.news.cn/20261016/1a2537e95a6148c896e4c7543f48ceb3/c.html
登记平台：https://ecomp.mofcom.gov.cn
截图原始出处：https://x.com/MaxForAI/status/2111089608020664680

附件还在征求意见阶段，最终以正式发布的目录为准。提意见的邮箱是 jinxianmulu@mofcom.gov.cn，截止 11 月 15 日。

Gemini 把新旗舰锁进订阅了，免费用户还剩什么？

Tue, 13 Oct 2026 02:00:00 GMT

Gemini 把新旗舰锁进订阅了，免费用户还剩什么？

10 月 13 日，Gemini 4 Argon 进了 Gemini 应用，只对 AI Pro 和 Ultra 开放。免费用户和 AI Plus 用户看不到这个选项。

这是第三刀。10 月 9 日已经砍过一刀，没订阅的个人账号只剩 Flash-Lite；11 月 2 日还有一刀，Antigravity 里免费档能用的两个非 Google 模型也要下架。

Gemini 正在从「一个模型给所有人」变成「按订阅分档」。

Argon 值不值得在意

9 月 30 日，Google 发布 Gemini 4 Argon。最显眼的数字是单次输出上限从 6.4 万 token 提到 100 万 token。以前模型写长东西容易断在半路，这一档就是冲长任务去的：跨文件重构、长文档分析、多步骤自动化。

按 Google 自己公布的数据，它在几个榜上位置不错：Vals Index 第一，Artificial Analysis 智能指数（high 档）53 分，和 GPT-6 Astra、Claude Fable 5.1 打平，比 Claude Opus 5.5 的 58 分低 5 分。这些都是厂商自己公布或第三方机构实测的数字，不是实际体验保证。榜单强不代表你手上的活干得好，反过来也一样。

发布当天它不对外开放，只给 Fairwind 计划里的安全防御团队用。Google 的说法是这一档能力要先收着放，边用边调护栏。

到 10 月 13 日才进 Gemini 应用，全球开放，但只对 Google AI Pro 和 Ultra 订阅者。

价格方面，据多家媒体报道：API 介绍价是输入 2 美元 / 百万 token、输出 10 美元 / 百万 token，缓存输入打 95% 折（0.1 美元）。这个价格 11 月 30 日到期，之后回到 4 美元 / 20 美元，正好和 Claude Opus 5.5 持平。

免费用户被砍了两刀

第一刀在 10 月 9 日。个人账号的模型权限重新分层：

方案	能用什么
未订阅	只有 Flash-Lite
AI Plus	Flash-Lite + Flash
AI Pro / Ultra	Flash-Lite + Flash + Pro（以及 Argon）

以前免费账号偶尔能碰到的 Pro，现在要付费才有。Google 在支持文档里写得很直接：「从 2026 年 10 月起，个人账号使用 Gemini 应用时的模型可用性会有变化，先从没有订阅 AI 方案的用户开始生效。」

两点要注意。一是只管个人账号的网页版和 App，Gemini API、AI Studio、Workspace 不受影响。二是订阅用户也不是永远安全，撞到用量上限后会被降回 Flash-Lite 继续对话。Flash-Lite 现在成了所有人的兜底模型。

第二刀在 11 月 2 日，落在 Antigravity 上，下面单独说。

Antigravity：模型明码分档

Antigravity 是 Google 的 agent 编程平台，就是「反重力」，含桌面应用、CLI、IDE 扩展，免费就能下载。但能选哪个模型，完全看订阅档位。官方文档给得很直白：

模型	免费 / AI Plus	AI Pro	AI Ultra	Enterprise
Gemini 4 Argon	不能	能（限正价 Pro）	能	能
Gemini 3.8 Flash	能	能	能	能
Gemini 3.7 / 3.6 Flash	不能	不能	不能	能
Gemini 3.1 Pro	不能	不能	不能	能
Claude Sonnet 5.5（思考版）	不能	能（限正价 Pro）	能	能
Claude Opus 5.5（思考版）	不能	能（限正价 Pro）	能	能
Claude Sonnet / Opus 4.6	能	能	不能	不能
GPT-OSS-120b	能	能	能	不能

这张表里有三个坑。

第一个，低价 Pro 不算数。同样是 AI Pro，正价 Pro 和低价 Pro 的权限不一样：自己按月付正价订的，Argon 和 Claude 5.5 都能用；通过运营商捆绑、活动赠送、试用期拿到的低价 Pro，用不了。

官方文档的措辞是「Available on Google AI Pro for non-trial subscriptions only」，直译就是只对非试用订阅开放，后面还跟了一句：要从试用换成正价 Pro，得提交升级申请。所以低价 Pro 的账号在 Antigravity 里只会看到 Claude 4.6，Argon 和 Opus 5.5 都是灰的。这不是 bug，是规则。

低价 Pro 一般从四个渠道来：

运营商捆绑。印度 Jio 的无限 5G 用户（月费 ₹349 及以上、年满 18 岁）可以免费领 18 个月的 AI Pro，官方给的估值是 ₹35,100，约 396 美元。
买手机赠送。买 Pixel 10 Pro / Pro XL / Pro Fold 送 12 个月 AI Pro（Pixel 9 Pro 系列同样有），需要在 2026 年 11 月 1 日前兑换；美国 Verizon 那边是买 Pixel 10 系列送 6 个月，之后每月 10 美元，正价 19.99 美元的一半。
学生优惠。2026 年 8 月 19 日起，美国大学生免费领 12 个月 AI Pro，其他 140 多个市场给 12 个月 AI Plus，需要过 SheerID 学籍验证。
免费试用。AI Pro 本身有一个月试用。

这几种都挂着「AI Pro」的名头，但在 Antigravity 里一律按试用对待。名字一样，权限不一样。

第二个坑，Argon 在 Antigravity 的 IDE 里没有。文档标了星号：Argon 只在 Antigravity 桌面应用、CLI 和 IDE 扩展里可选，Antigravity IDE 本体反而用不了。

第三个，11 月 2 日会掉两个模型。Claude Sonnet / Opus 4.6 和 GPT-OSS-120b 都是「will be removed on November 2, 2026」。这两个正好是免费档和 AI Plus 现在唯二能用的非 Google 模型，下架之后，免费档就只剩 Gemini 3.8 Flash 一个选项了。

额度方面，Pro 和 Ultra 的配额每 5 小时刷新一次，另外还有周上限；Ultra 的档位是 100 美元一个月，容量是 Pro 的 5 倍。

Gems 退场，skills 顶上

配过 Gems 的人应该有印象：把一段常用指令存起来，下次直接调用。这个功能要被 skills 取代。

9 月 30 日 skills 上线，个人账号（18 岁以上）可用。官方会自动把你已有的 Gems 搬成 skills，不用手动重建。时间表是 2026 年 11 月起个人账号过渡，2027 年轮到工作 / 学校账号。

用法上有区别：在聊天框输入 /（之后会改成 @）加名字就能调用，Gemini 也会自己判断什么时候该用哪个，多个 skill 可以叠着用。

企业侧：一个能进你邮箱干活的 agent

10 月 8 日，Google Cloud 在 Gemini at Work 2026 上发布 Gemini agent：给一个目标，它在 Gmail、Drive、Docs、Slides、Sheets、Chat、Calendar 里自己把活干完，也能进 Slack 和 Microsoft 365。

两个设计值得记一下。一是「同事型 agent」有自己的 Workspace 账号、邮箱、日历和云盘，以它自己的身份行动，操作全部留日志。二是它会在多个模型之间按任务挑，配实时花费上限，据媒体报道，备选模型里也包括 Anthropic 的 Claude。

Google 给的数据：过去一年里，近 500 家 Google Cloud 客户各自处理了超过 1 万亿 token；约 80% 的 Cloud 客户在用它的 AI 产品；Fortune 100 里约 90% 在用 Gemini Enterprise。

还有几件小的

9 月，Gemini 3.8 Flash 上线，速度和成本与 3.7 持平；同时有面向安全场景的 3.8 Flash Cyber。

10 月 6 日，图像模型 Nano Banana 2.1 上线，底子是 Gemini 3.6 Flash。同一天 Google 发了一个免费的 Mac 应用（AI Edge Foresight），会议记录和整理都在本机跑，用 Gemma 4 和 EmbeddingGemma 2，不上云。

10 月 13 日，Antigravity 进了 Gemini 的 macOS 应用；设置里多了 Customize，能一次连 40 多个第三方应用，对所有档位开放。

10 月 20 日，Gemini 2.5 系列在 Google Cloud 的 Agent Platform 上停用，还在用的要换模型。

引用来源

Gemini 应用发布说明（2026.10.13、09.30 等条目）：https://gemini.google/release-notes
Gemini 4 Argon 官方发布稿：https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-argon
2026 年 9 月 AI 更新汇总（3.8 Flash、Live、TTS、Connected Apps 等）：https://blog.google/innovation-and-ai/technology/ai/google-ai-updates-september-2026
Antigravity 模型可用性（按订阅档位，含 11 月 2 日下架与「非试用订阅」脚注，即正价 Pro 与低价 Pro 的区别）：https://antigravity.google/docs/models
Antigravity 方案与额度：https://antigravity.google/docs/plans
Google Cloud：Gemini agent 发布（10 月 8 日）：https://cloud.google.com/blog/products/ai-machine-learning/welcome-to-gemini-at-work-2026
Gems 转 skills 官方说明：https://support.google.com/gemini/answer/18560919
Gemini 应用用量限额与方案：https://support.google.com/gemini/answer/16275805
模型停用时间表（Nano Banana 2.1、Gemini 2.5 系列）：https://ai.google.dev/gemini-api/docs/deprecations
AI Edge Foresight 与 EmbeddingGemma 2：https://developers.googleblog.com/google-ai-edge-with-embeddinggemma-2/
免费层模型权限调整（Google 支持文档，经媒体转引）：https://www.indiatoday.in/technology/news/story/google-is-changing-gemini-ai-plans-from-october-9-here-is-what-it-means-for-you-3009656-2026-10-05
Jio 的 Google AI Pro 捆绑方案（18 个月免费，₹349 及以上 5G 套餐）：https://www.jio.com/google-gemini-offer
Pixel 购机赠送 AI Pro（Pixel 9 / 10 Pro 系列 12 个月，兑换截止 2026-11-01）：https://support.google.com/pixelphone/answer/13529884
学生优惠（美国 AI Pro 12 个月，其他市场 AI Plus，SheerID 验证）：https://blog.google/innovation-and-ai/products/gemini-app/student-offer-google-ai
Argon 的 API 介绍价与恢复价（Google 官方脚注，经媒体转引）：https://medium.com/data-science-collective/gemini-4-argon-is-now-available-plans-price-and-how-it-compares-3064118baa8c

日期与数字均取自上述来源。标注「据报道」的部分为媒体转引，官方尚未在同一页面确认；榜单分数为厂商公布或第三方机构实测，不代表实际使用体验。

换了套新系统

Mon, 05 Oct 2026 12:00:00 GMT

换了套新系统

这里换了套新系统。

旧的那套用了挺久，功能不少，但改起来越来越费劲：调一个间距要翻三层配置，加一个页面得先搞明白它的模板继承关系。攒着攒着就成了「能跑，但不想碰」的状态。

新的这套走静态生成——构建一次出一份纯 HTML，服务器只负责把文件发出去。好处很直接：

打开快。 没有后端渲染，页面本身就是文件。
改起来简单。 想改哪儿改哪儿，改完重新构建，一条命令的事。
出问题好退。 每次发布都是独立版本，切回上一版只是改个软链接。

搬的过程中顺手清了一批东西：主题自带的示例内容全删了，用不上的功能页关掉，导航、侧栏、标签重新理了一遍，以前文章里显示不对的日期也修了。

文章现在从头开始。旧的那些先归档放着，之后有空再慢慢挑回来。

就这样，慢慢更新。