DeepSeek-V4.1-Flash
更新时间:2026-10-27
模型简介
DeepSeek-V4.1-Flash 是 DeepSeek 发布的 MoE 大模型(原生 fp8 权重),面向高并发、长上下文的在线推理场景,支持最长 1048576(1M)token 上下文,自带 DSpark 三级草稿,配合投机解码可显著提升单流吞吐。模型自带视觉模块(多模态),可处理图文输入。权重约 475 GiB。
部署步骤
- 在百舸「快速开始」中选择 DeepSeek-V4.1-Flash 卡片。
- 选择加速芯片,规格按上表自动带出,确认队列有不少于 4 张空闲卡。
- 提交部署。首次冷启动需从 BOS 拉取约 475 GiB 权重并加载,耗时较长(分钟级到小时级,视 BOS 冷读速度),启动探针已为冷读预留充足窗口,耐心等待服务就绪即可。
- 服务就绪后,通过网关地址 + 鉴权 token 调用,
model字段填DeepSeek-V4.1-Flash。
调用示例
基础对话(将 <GATEWAY>、<TOKEN> 替换为部署后分配的网关地址与鉴权 token):
Bash
1curl -s https://<GATEWAY>/v1/chat/completions \
2 -H 'Content-Type: application/json' \
3 -H 'Authorization: Bearer <TOKEN>' \
4 -d '{
5 "model": "DeepSeek-V4.1-Flash",
6 "messages": [{"role": "user", "content": "请用中文简要解释:为什么天空是蓝色的?"}],
7 "max_tokens": 2048,
8 "temperature": 0.6
9 }'
function call:
Bash
1curl -s https://<GATEWAY>/v1/chat/completions \
2 -H 'Content-Type: application/json' \
3 -H 'Authorization: Bearer <TOKEN>' \
4 -d '{
5 "model": "DeepSeek-V4.1-Flash",
6 "messages": [{"role": "user", "content": "今天山东济南的天气如何?"}],
7 "tools": [{"type": "function", "function": {"name": "get_weather", "description": "Get the current weather in a given location", "parameters": {"type": "object", "properties": {"location": {"type": "string"}, "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]}}, "required": ["location"]}}}],
8 "tool_choice": "auto"
9 }'
注意事项
model名称必须填DeepSeek-V4.1-Flash(与卡片一致),否则按名调用会 404。- 该模型的思考内容并入正文
content返回,没有单独的reasoning_content通道;按常规对话解析即可。 - 不建议强制模型"只给最终答案、不要推理":实测在禁推理约束下多步算术易出错,放开后恢复正常。涉及计算、推理的提问建议允许模型分步作答。
- 已验证能力:中文无乱码、function call、流式输出、监控指标、长上下文检索(1M 上下文内暗号可准确召回)。
- 首次部署冷启动较慢属正常现象,根因是大体积权重首次 BOS 冷读;同节点二次部署因页缓存变热会明显加快。
评价此篇文章
