DeepSeek-V4 Pro 登陆 Together AI：512K 上下文、可控推理与缓存定价

最新动态

• Together AI 上的 DeepSeek V4 Pro：DeepSeek V4 Pro 现已在 Together AI 上线，提供 512K token 的上下文窗口，适用于长上下文推理负载。
• 大规模 MoE 架构：DeepSeek V4 Pro 采用 1.6T 参数的混合专家（Mixture-of-Experts）架构，激活参数为 49B。
• 可控的推理模式：Non-Think、Think High 和 Think Max 三种模式，让团队可以在快速响应、更深入的推理和最大推理强度之间进行选择。
• ‍透明的 Serverless 定价：DeepSeek V4 Pro 的价格为每 100 万输入 token \$2.10，每 100 万缓存输入 token \$0.20，每 100 万输出 token \$4.40。

长上下文推理改变了团队可以让模型做的事情。整个代码仓库、大批文档、冗长的智能体轨迹和工具输出，都可以放进模型的工作上下文，而不必被压缩成脆弱的摘要。但能用上这么长上下文的模型，也最难服务：一个拥有百万 token 上下文的 1.6T 参数 MoE 模型，大多数团队并不想自己部署、调优和运维。

DeepSeek-V4 Pro 现已在 AI Native Cloud 即 Together AI 上线，团队可以先从 512K 上下文的 Serverless 推理起步，再迁移到专用基础设施，以获得完整的 1M 上下文、预留容量和生产环境的控制权。DeepSeek-V4 Flash 即将上线，为速度和成本比最大推理深度更重要的负载提供 V4 系列的另一个选择。

概览

为长上下文推理而生

DeepSeek V4 Pro 面向的是模型需要在不止一段短提示词上进行推理的负载：大型代码仓库、长篇技术文档、密集的检索结果集、工具调用历史和研究语料库。

DeepSeek V4 Pro 在模型层面支持百万 token 上下文；在 Together AI 上，目前提供 512K token 的上下文窗口。这个区别很重要，因为模型能力和实际部署的服务配置并不总是一回事。Together AI 上线 DeepSeek V4 Pro 时采用的上下文窗口，是为可靠的生产服务而设计的，同时仍为严肃的长上下文负载留足了空间。

架构同样重要，因为长上下文不仅仅是一项产品规格。随着上下文增长，服务成本、内存压力、KV 缓存占用、延迟和并发都成为系统设计的一部分。DeepSeek V4 Pro 采用混合注意力，结合了压缩稀疏注意力（Compressed Sparse Attention）和重度压缩注意力（Heavily Compressed Attention）。据 DeepSeek 报告，在百万 token 上下文下，其单 token 推理 FLOPs 仅为 DeepSeek V3.2 的 27%，KV 缓存仅为 10%。

按负载选择推理强度

DeepSeek V4 Pro 支持三种推理模式，团队可以让推理深度与任务难度相匹配，而不是对每个请求一视同仁。

一个文档助手可能用 Non-Think 做简单抽取，用 Think High 分析各项政策之间的冲突，只有在模型需要对一个困难的决策进行推理时才用 Think Max。一个代码智能体可能用 Think High 规划迁移，用 Think Max 调试一个隐蔽的跨服务故障。

DeepSeek 报告了在编程、推理、长上下文和智能体任务上的基准测试结果，包括 LiveCodeBench 93.5%、GPQA Diamond 90.1%、SWE-bench Verified 80.6%、MRCR 1M 83.5% 和 CorpusQA 1M 62.0%。

用缓存输入定价降低重复长上下文查询的成本

长上下文系统经常会在多个问题之间复用同一份庞大的上下文：代码仓库快照、文档集合、政策档案、检索载荷或冗长的智能体轨迹。缓存输入定价让这类重复负载更加切实可行。

DeepSeek V4 Pro 的定价为输入每 100 万 token \$2.10，缓存输入每 100 万 token \$0.20，输出每 100 万 token \$4.40。对被复用的上下文来说，这意味着成本降低 90%。当请求中最昂贵的部分是一大块稳定的文本，并且会在后续分析中反复使用时，这一点尤为重要。

示例模式：

1. 加载一份大而稳定的上下文，例如 300K token 的仓库摘要、合同集或政策档案。
2. 针对同一份上下文提出多个后续问题。
3. 在适用的情况下使用缓存输入定价，大幅降低重复分析的成本。

负载模式

代码智能体

当智能体需要跨仓库片段、问题追踪记录、内部文档、先前的工具调用和拟议补丁进行推理时，可以使用 DeepSeek V4 Pro。Think High 或 Think Max 在规划变更、调试故障或解决跨文件依赖时最有用。

文档智能

对于需要在一次请求中比较的合同、政策集、技术手册或研究文献集，可以利用长上下文。Non-Think 可以处理抽取和简单 Q&A；Think High 更适合冲突分析、解读和综合。

长上下文智能体轨迹

用 DeepSeek V4 Pro 检查冗长的工具调用历史、中间结果和执行轨迹。较高的推理模式在决策点上最有用：也就是智能体需要决定是继续、调用另一个工具、修改计划还是停止的时候。

研究综合

将论文、笔记、基准测试报告、检索到的文档和先前的分析结合起来的工作流，可以使用 DeepSeek V4 Pro。当同一组证据在多个问题中被复用时，缓存输入定价尤其有用。

从 Serverless 起步，再转向预留容量

DeepSeek V4 Pro 已在 Together AI 的 Serverless 推理和月度预留基础设施上提供。Serverless 是评估、开发和流量波动场景的合适起点。月度预留则更适合需求较为稳定的生产环境，团队在其中需要更可预测的容量和成本控制。

对于长上下文负载，部署路径很关键。团队选的不只是一个模型，还要选择随着上下文规模增长，如何管理吞吐量、并发、延迟、KV 缓存压力和成本。Together AI 为团队提供了一条从评估到生产的路径，无需自己搭建服务栈。

立即试用

DeepSeek-V4 Pro 现已在 Together AI 的 Serverless 推理和专用端点上提供。

from together import Together

client = Together()

stream = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Pro",
    messages=[
        {
            "role": "user",
            "content": "Prove that the square root of 2 is irrational.",
        }
    ],
    stream=True,
)

for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta

    if hasattr(delta, "reasoning") and delta.reasoning:
        print(delta.reasoning, end="", flush=True)
    if hasattr(delta, "content") and delta.content:
        print(delta.content, end="", flush=True)

开发和评估阶段，请从 Serverless 推理开始。对于需要完整 1M 上下文、预留容量、负载隔离或更可预测吞吐量的生产负载，请联系销售团队，在 Together AI 专用推理上部署 DeepSeek-V4 Pro。

开始使用

→ 按照我们的 DeepSeek-V4 快速入门，几分钟内即可上手

→ 查看 DeepSeek-V4 Pro 模型页面

→ 在 Playground 中试用 DeepSeek-V4 Pro

→ 联系销售，了解专用推理部署和批量定价

‍