DeepSeek V3V3

DeepSeek V3 是杭州深度求索公司 2024 年 12 月开源的大语言模型,能聊天、写文章、写代码、解数学题,发布时的评测成绩在开源模型中处于第一梯队,与当时的顶级闭源模型接近。普通用户在官网 chat.deepseek.com 免费注册就能对话体验;开发者可以免费下载全部模型权重,部署到自己的服务器上商用,不需要向官方付费。

版本与参数

DeepSeek V3 采用混合专家(MoE)架构,总参数 6710 亿,每个 token 只激活 370 亿参数,推理成本远低于同规模稠密模型。它在 14.8 万亿 token 上完成预训练,再经过监督微调与强化学习,整个训练只用了 278.8 万 H800 GPU 小时;架构上沿用 DeepSeek-V2 验证过的多头潜在注意力(MLA)与 DeepSeekMoE,并首次在超大规模模型上验证了 FP8 混合精度训练。开源权重分两个:DeepSeek-V3-Base(基座)与 DeepSeek-V3(对话版),上下文长度均为 128K;Hugging Face 上的权重总量为 6850 亿参数,含 140 亿多 token 预测(MTP)模块权重。

能力与榜单成绩

据官方 GitHub 仓库公布的评测,对话版在 MMLU 得 88.5、MATH-500 得 90.2、C-Eval 得 86.5,Codeforces 编程竞赛百分位 51.6,均领先当时的各开源模型;英文开放式对话评测 Arena-Hard 得 85.5、AlpacaEval 2.0 长度控制胜率 70.0,与 Claude Sonnet 3.5 属同一水平。官方技术报告发布在 arXiv,编号 2412.19437。

开源许可

代码仓库采用 MIT 许可;模型权重适用仓库内的 DeepSeek 模型许可(Model License),官方在仓库中注明 V3 系列(含 Base 与对话版)支持商用。商用前建议通读许可全文确认限制条款。

API 价格

官方开放平台 platform.deepseek.com 提供与 OpenAI、Anthropic 格式兼容的 API,但按官方文档当前页面,在售模型已更新为 V4 系列(deepseek-v4-flash、deepseek-v4-pro),V3 已不在官方 API 售卖列表中。想调用 V3 本体只能自行部署或选择第三方推理平台,价格以各平台实时页面为准,此处不做转述。

国内可用性

深度求索是国内公司,对国内用户没有访问门槛:官网对话、开放平台均可直接访问;模型权重除 Hugging Face 外,魔搭 ModelScope 也有官方仓库,国内下载速度更稳定。需要留意的是官网对话产品会随版本迭代,现在体验到的未必是 V3 这一版。

本地部署

先说结论:671B 的体量决定了它只适合服务器,普通电脑跑不动。Ollama 库收录了社区量化版:

ollama run deepseek-v3

该量化版体积约 404GB、上下文 160K,需要内存数百 GB 的多卡服务器才能运行。vLLM 自 v0.6.6 起支持 V3 的 FP8 与 BF16 推理,支持张量并行与多机流水线并行:

vllm serve deepseek-ai/DeepSeek-V3 --trust-remote-code --tensor-parallel-size 8

并行参数按机器卡数与 vLLM 官方文档调整。官方 README 还给出 SGLang、LMDeploy、TensorRT-LLM、LightLLM 等途径,并附 FP8 权重转 BF16 的脚本;昇腾 NPU 可走 MindIE 框架。

适用场景

• 中英文内容生产:写作、翻译、摘要,中文基准 C-Eval、CLUEWSC 成绩在开源模型中领先。
• 编程辅助:代码生成与算法题求解,Codeforces 与 LiveCodeBench 成绩当时居开源首位。
• 数学与推理:训练中蒸馏了 DeepSeek R1 系列的长链推理能力,MATH-500 得分 90.2。
• 企业私有化部署:MoE 架构激活参数少,大规模服务的推理成本低,许可支持商用。

相关工具与教程

只想直接使用成品应用,可以看站内的 DeepSeek 官网工具页,网页版与手机 App 免费对话;想比较同类开源模型,可以参考 Qwen3 模型页,后者尺寸选择更多,普通电脑也能跑小版本。

常见问题

DeepSeek V3 可以免费商用吗?

可以。代码 MIT 许可,模型权重按 DeepSeek 模型许可使用,官方注明支持商用,无需付费授权。

普通电脑能本地运行吗?

不能。量化后仍约 404GB,需要多卡服务器。个人想体验直接用官网对话,或在第三方平台调用 API。

V3 和 DeepSeek R1 是什么关系?

V3 是通用对话模型,追求各任务均衡;R1 是专注深度推理的模型。V3 在后训练阶段蒸馏了 R1 的推理与反思模式,兼顾了回答长度与风格控制。