DeepSeek api开放平台多语言调度示意

1. OpenAI 协议接入

DeepSeek api开放平台走标准 REST 与 SSE。已有 LangChain、LlamaIndex 或原生 SDK 的项目,只换 BaseURL 和模型名。多语言任务把语种和词表放进系统提示,不要写进用户每轮闲聊。

PYTHON_CLIENT.PYOPENAI SDK
from openai import OpenAI

client = OpenAI(
    api_key="sk-deepseek-your-key",
    base_url="official-gateway"
)
response = client.chat.completions.create(
    model="deepseek-reasoner",
    messages=[{"role": "user", "content": "按词表译排他条款"}],
    stream=True
)

2. 64-Token 前缀缓存与资费

术语表、语种路由和系统提示按 64-Token 对齐写入硬盘缓存。命中后输入按每百万 Tokens ¥0.14 计,译名不会每轮重写。这是网页版试完以后接到生产队列的关键。

模型输入(未命中)输入(缓存命中)输出窗口
DeepSeek-R1¥1.00 / 1M¥0.14 / 1M¥2.19 / 1M128,000
DeepSeek-V3¥0.50 / 1M¥0.07 / 1M¥1.00 / 1M128,000

3. DeepSeek Harness 离线规程

DeepSeek Harness 查语法树、数字和术语漂移。不要用“读起来通顺”代替断言。多语言项用 glossary_lock,中英对照的金额、单位、条款号必须原样回来。

HARNESS_CLIBENCHMARK
python3 -m harness.benchmark \
    --engine local_cluster \
    --dataset glossary_lock \
    --lang zh,en \
    --ast_verification strict
DeepSeek Harness 术语锁定评测配图

4. 本地权重离线部署

涉密译稿不出域时,用开源蒸馏权重在内网跑对照。完整 MoE 满血版仍建议走开放平台集群,由手册里的限速和重试兜住。

OLLAMAONE_LINE
$ ollama run deepseek-r1:14b
DeepSeek 离线部署与多语言节点示意