中文 ▾
获取 API 密钥
https://api.deepseekapipricing.com/v1

DeepSeek API LangChain 配置:Python 和 Node

进行 DeepSeek API LangChain 配置,你只需要 ChatOpenAI 类、base URL、密钥和模型名称。本指南涵盖用于聊天、流式输出、函数调用、JSON 输出和并发处理的 Python 和 Node 代码,使用的是独立的兼容 OpenAI 的接口,而非供应商自己的 API。

更新于

发光的链条连接服务器和聊天气泡,代表与 API 的 LangChain 集成

要点

  1. 使用 ChatOpenAI,将 base_url 设置为 https://api.deepseekapipricing.com/v1,模型设为 uncensored。
  2. 显式传递 api_key,这样环境中的 OpenAI 密钥就不会被发送到此处。
  3. 流式输出、bind_tools 和 JSON 模式通过标准的 OpenAI 格式参数工作。
  4. 将 max_concurrency 限制为 8(完整密钥)或 2(试用密钥),以避免 429 错误。

开始前的准备工作

LangChain 可以与实现 OpenAI 聊天补全协议的任何服务器通信,因此无需安装特殊集成。你的起点与用于 OpenAI 本身的包相同:Python 使用 langchain-openai,Node 使用 @langchain/openai。只有三个值需要更改。

  • Base URL: https://api.deepseekapipricing.com/v1
  • 模型: uncensored
  • 密钥: 作为 Authorization: Bearer <key> 发送,客户端会自动为你完成此操作

关于命名的说明。此接口是一项独立服务,运行一个开放权重模型,针对合法成人用途进行调优,以无内容拒绝的方式回答。它不是官方的 DeepSeek API,也不是跨供应商的路由器,因此模型名称始终是 uncensored,而不是供应商模型 ID。如果需要密钥,API 密钥页面 显示了注册步骤和一键式 $0.50 试用。

在 Python 中安装并进行首次调用

安装软件包:

pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"

然后创建模型对象。显式传递密钥,而不是依赖 OPENAI_API_KEY 环境变量,该变量可能包含你不想发送到不同主机的真实 OpenAI 密钥。

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    temperature=0.7,
    max_retries=2,
)

print(llm.invoke("Say hello in five words.").content)

如果打印出问候语,则连接、密钥和模型名称均正确。此阶段最常见的错误是在 base URL 中遗漏了 /v1,这通常会导致未找到错误。

提示词、链和流式输出

从这里开始,LangChain 照常工作。提示词模板、模型和输出解析器通过管道运算符组合成链:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

prompt = ChatPromptTemplate.from_messages([
    ("system", "You write tight, vivid scene descriptions for adult fiction."),
    ("human", "Describe this setting in under 80 words: {setting}"),
])

chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))

流式输出通过服务器发送事件进行。在 LangChain 中,你调用 stream,每个块携带一部分文本。如果希望在流末尾获取 token 计数,请在模型上设置 stream_usage=True;API 会在最后一个事件中发送使用情况。

llm_stream = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    stream_usage=True,
)

for chunk in llm_stream.stream("Write a four-line poem about a night train."):
    print(chunk.content, end="", flush=True)

流式请求会保留其并发槽位,直到流结束。如果你在不关闭流的情况下放弃流,该槽位会比你预期的占用更长时间。

Node 和 TypeScript

JavaScript 包在 configuration 对象中接受 base URL:

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "uncensored",
  apiKey: process.env.UNCENSORED_API_KEY,
  configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
  maxRetries: 2,
});

const res = await llm.invoke("Say hello in five words.");
console.log(res.content);

const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
  process.stdout.write(chunk.content);
}

将其作为 ES 模块运行(在 package.json 中设置 "type": "module",或使用 .mjs 文件)。Node API 中的其他所有内容,包括提示词模板和可运行对象,其行为与任何其他聊天模型相同。

函数调用和代理

API 支持 OpenAI 工具格式:tools 和 tool_choice 参数、流式 tool_calls,以及以 role: "tool" 消息形式返回的工具结果。在 LangChain 中,你使用装饰器声明工具,并使用 bind_tools 附加它们:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage

@tool
def order_status(order_id: str) -> str:
    """Return the shipping status of an order."""
    return f"Order {order_id} left the warehouse yesterday."

llm_tools = llm.bind_tools([order_status])

messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)

for call in ai.tool_calls:
    result = order_status.invoke(call["args"])
    messages.append(ToolMessage(content=result, tool_call_id=call["id"]))

print(llm_tools.invoke(messages).content)

手动编写一次循环值得花费十分钟。它向你展示模型返回了什么、为每次调用选择了哪些参数,以及糟糕的工具描述会导致错误的猜测。一旦清楚这一点,切换到预构建的代理,并将手动编写的版本保留为调试参考。

这就是整个手动循环:模型请求工具,你运行它,返回结果,模型写出最终答案。如果你更喜欢现成的代理循环,langgraph 包提供 create_react_agent(llm, [order_status]),并使用 {"messages": [("user", "Where is order 1042?")]} 调用它。

模型选择工具的效果取决于模型本身,因此请使用真实的工具架构进行测试。简短、具体的工具描述和低 temperature 会有所帮助。一个代理进行六次调用,历史记录总共约 27,000 个输入 token 和 1,800 个输出 token,成本约为 $0.00405 加上 $0.0009,即大约半美分。

使用 JSON 模式的结构化输出

JSON 模式通过 response_format 支持。将其绑定到模型,并在提示词中说明你想要具有特定键的 JSON,因为格式标志控制语法,而不是你的架构:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json

json_llm = llm.bind(response_format={"type": "json_object"})

msg = json_llm.invoke(
    "Return a JSON object with keys title (string) and tags (list of 3 strings) "
    "for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])

在信任结果之前,使用 Pydantic 或你自己的检查来验证解析结果,并使用一次重试处理 json.JSONDecodeError。对于大型提取任务,请防御性地解析每个响应,而不是假设第一个是干净的。

检索、记忆和回调

此 API 没有嵌入接口,因此检索管道需要单独的嵌入源。检索之后的所有内容都是普通聊天。典型的检索链从向量存储中提取最相关的片段,将其粘贴到提示词中,并要求模型根据该文本回答问题。由于上下文窗口为 100,000 token,你可以使用较长的片段,但请记住账单:检索到的上下文的每个 token 都是输入,价格为每百万 token $0.15,因此 20,000 token 的上下文每次提问成本为 $0.003。

对于聊天记忆,最简单的方法是使用消息列表,并在每次调用前按 token 计数进行修剪。LangChain 为此提供了诸如 trim_messages 之类的辅助工具。保留系统消息和最新的对话轮次,一旦历史记录达到你选择的限制,就丢弃或总结中间部分。较短的历史记录也能使回答更集中,并降低每次对话的成本,因为整个历史记录每次都会作为输入重新发送。

回调是记录调用成本的地方。每个响应都包含一个使用情况块,其中包含提示词和补全 token,在 LangChain 中,返回的消息在 usage_metadata 中携带它:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")

使用请求 ID 记录成本,以便将意外的账单追溯到特定的链。

系统提示词和语气

模型没有内置的内容拒绝,因此系统消息是你设置产品行为的地方:人格、语气、应避免的话题以及回复格式。就像为新同事写简报一样编写它。简短具体比冗长模糊效果更好。涉及未成年人的内容在此服务中是硬性限制,因此不要构建接近该限制的提示词。

发布前的简短检查清单

  • 密钥位于环境变量或密钥存储中,绝不在仓库中。
  • max_concurrency 设置为密钥的限制,如果其他服务共享密钥,则低于该限制。
  • 重试使用短退避,并遵守带有 Retry-After: 5 的 429 响应。
  • 客户端断开连接时关闭流,从而释放槽位。
  • JSON 输出经过防御性解析和验证。
  • 成本从使用情况块按链记录。
  • 存在一种后备机制,以防接口不可达,即使后备是错误消息。

遵循该列表,集成方式将与其他 LangChain 聊天模型一致。差异在于内容层面,其他模型因合法成人用途而拒绝的请求,此处会予以回答。

速率限制、并发和常见错误

完整密钥允许 8 个并发请求和每分钟 300 个请求。试用密钥允许 2 个并发请求和每分钟 60 个请求。请求体最多可达 8 MB,上下文窗口为 100,000 token,涵盖提示词和补全。

LangChain 的批处理辅助工具会扇出请求,因此设置与密钥匹配的上限:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})

在试用密钥上使用 2 而不是 8。当你超过限制时,API 返回 HTTP 429,错误代码为 rate_limited(每分钟请求过多)或 concurrency(同时请求过多)。在临时过载时,它还会返回 429,并带有 Retry-After: 5 头。客户端中的 max_retries 设置处理临时情况,但如果反复看到错误代码 concurrency,请降低 max_concurrency 而不是增加重试。

  • 每次调用都出现未找到错误: 检查 base URL 是否以 /v1 结尾。
  • 身份验证错误: 密钥缺失或有拼写错误;确认它通过 api_key 传递。
  • 模型错误:模型名称必须精确为 uncensored。
  • 批处理运行缓慢:停滞的流会占用并发槽位,因此请关闭它们或设置超时。

定价为每百万输入 token $0.15,每百万输出 token $0.50,失败或被拒绝的请求不收费。定价页面列出了充值选项,文档涵盖了所有参数和响应头,包括 X-Request-Id 和 X-Balance-USD,这些在 LangChain 回调中记录日志时很有用。

01

问答

我应该使用哪个 LangChain 类?

在 Python 中使用 langchain-openai 中的 ChatOpenAI,或在 Node 中使用 @langchain/openai 中的 ChatOpenAI。将 base URL 设置为 https://api.deepseekapipricing.com/v1,并将模型设置为 uncensored。

LangChain 支持流式输出吗?

支持。该 API 通过 SSE 进行流式输出并在末尾发送使用情况,因此 llm.stream 可用。如果你希望在流中包含 token 计数,请设置 stream_usage=True。

我可以在此处使用嵌入或向量存储吗?

不能通过此 API 使用。它仅支持文本,没有嵌入接口,因此请使用单独的嵌入源进行检索,并将检索到的文本发送到这里。

为什么我会收到 HTTP 429?

要么你超过了每分钟限制(rate_limited),要么一次性发送了过多请求(concurrency),要么提供商短暂过载。降低 max_concurrency 并遵守 Retry-After。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改base URL。这就是全部设置。

获取 API 密钥