繁中 ▾
取得 API 金鑰
https://api.deepseekapipricing.com/v1

DeepSeek API LangChain 設定:Python 與 Node

若要設定 DeepSeek API 與 LangChain,你只需要 ChatOpenAI 類別、Base URL、金鑰與模型名稱。本指南涵蓋聊天、串流輸出、函式呼叫、JSON 輸出與並行請求的 Python 與 Node 程式碼,使用的是獨立 OpenAI 相容端點,而非供應商自身的 API。

更新於

發光的鏈條將伺服器連接到聊天氣泡,代表與 API 的 LangChain 整合

重點摘要

  1. 使用 ChatOpenAI,將 base_url 設為 https://api.deepseekapipricing.com/v1,並將模型設為 uncensored。
  2. 明確傳遞 api_key,以免將環境中的 OpenAI 金鑰傳送至此。
  3. 串流輸出、bind_tools 和 JSON 模式透過標準 OpenAI 格式參數運作。
  4. 將 max_concurrency 限制為 8(完整金鑰)或 2(試用金鑰),以避免 429 錯誤。

開始前你需要準備的

LangChain 會連線至任何實作 OpenAI 聊天完成協定的伺服器,因此無需安裝特殊整合。起始套件與使用 OpenAI 時相同:Python 用 langchain-openai,Node 用 @langchain/openai。僅有三個值需要變更。

  • Base URL: https://api.deepseekapipricing.com/v1
  • 模型: uncensored
  • 金鑰: 以 Authorization: Bearer <key> 傳送,由用戶端為你處理

命名說明。此端點為獨立服務,運行單一開放權重模型,針對合法成人用途進行調校,可無審查地回答。它不是官方的 DeepSeek API,也不是跨供應商的轉發器,因此模型名稱始終為 uncensored,而非供應商模型 ID。若你需要金鑰,API 金鑰頁面顯示了註冊步驟與一鍵 $0.50 試用。

安裝並進行 Python 的第一次呼叫

安裝套件:

pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"

然後建立模型物件。明確傳遞金鑰,而非依賴 OPENAI_API_KEY 環境變數,該變數可能包含你不希望傳送到不同主機的真實 OpenAI 金鑰。

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    temperature=0.7,
    max_retries=2,
)

print(llm.invoke("Say hello in five words.").content)

如果這列印出問候語,表示連線、金鑰和模型名稱都正確。此階段最常見的錯誤是在 base URL 中遺漏 /v1,這通常會產生 not-found 錯誤。

提示詞、鏈結和串流輸出

從這裡開始,LangChain 運作如常。提示詞範本、模型和輸出解析器透過管道運算子組合成鏈結:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

prompt = ChatPromptTemplate.from_messages([
    ("system", "You write tight, vivid scene descriptions for adult fiction."),
    ("human", "Describe this setting in under 80 words: {setting}"),
])

chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))

串流輸出透過伺服器發送事件進行。在 LangChain 中,你呼叫 stream,每個區塊攜帶一部分文字。若要在串流輸出結尾取得 token 計數,請在模型上設定 stream_usage=True;API 會在最後一個事件中發送用量資訊。

llm_stream = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    stream_usage=True,
)

for chunk in llm_stream.stream("Write a four-line poem about a night train."):
    print(chunk.content, end="", flush=True)

串流請求會保留其並行請求槽位直到串流結束,因此如果你放棄串流但未關閉它,該槽位會比預期更久保持忙碌。

Node 和 TypeScript

JavaScript 套件在 configuration 物件內接受 base URL:

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "uncensored",
  apiKey: process.env.UNCENSORED_API_KEY,
  configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
  maxRetries: 2,
});

const res = await llm.invoke("Say hello in five words.");
console.log(res.content);

const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
  process.stdout.write(chunk.content);
}

將其作為 ES 模組執行("type": "module" 在 package.json 中,或 .mjs 檔案)。Node API 中的其他所有內容,包括提示詞範本和可執行物件,其行為與其他任何聊天模型相同。

函式呼叫和代理

API 支援 OpenAI 工具格式:tools 和 tool_choice 參數、串流輸出的 tool_calls,以及以 role: "tool" 傳回的工具結果。在 LangChain 中,你使用裝飾器宣告工具,並使用 bind_tools 附加它們:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage

@tool
def order_status(order_id: str) -> str:
    """Return the shipping status of an order."""
    return f"Order {order_id} left the warehouse yesterday."

llm_tools = llm.bind_tools([order_status])

messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)

for call in ai.tool_calls:
    result = order_status.invoke(call["args"])
    messages.append(ToolMessage(content=result, tool_call_id=call["id"]))

print(llm_tools.invoke(messages).content)

手寫一次迴圈值得十分鐘。它顯示模型返回了什麼、為每次呼叫選擇了哪些參數,以及錯誤的工具描述會導致錯誤猜測。一旦釐清這些,請切換到預建代理,並將手寫版本保留為除錯參考。

這就是整個手寫迴圈:模型要求工具,你執行它,返回結果,模型撰寫最終答案。如果你偏好現成的代理迴圈,langgraph 套件提供 create_react_agent(llm, [order_status]),並使用 {"messages": [("user", "Where is order 1042?")]} 呼叫它。

模型選擇工具的能力取決於模型本身,因此請使用真實的工具結構描述進行測試。簡短具體的工具描述和低 temperature 有幫助。進行六次呼叫、歷史記錄總計約 27,000 個輸入 token 和 1,800 個輸出 token 的代理,成本約為 $0.00405 加上 $0.0009,或約半美分。

使用 JSON 模式的結構化輸出

JSON 模式透過 response_format 支援。將其綁定到模型,並在提示詞中說明你想要具有特定鍵的 JSON,因為格式旗標控制語法,而非你的結構描述:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json

json_llm = llm.bind(response_format={"type": "json_object"})

msg = json_llm.invoke(
    "Return a JSON object with keys title (string) and tags (list of 3 strings) "
    "for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])

在信任結果之前,請使用 Pydantic 或你自己的檢查來驗證解析後的結果,並使用一次重試來處理 json.JSONDecodeError。對於大型擷取作業,請對每個回應進行防禦性解析,不要假設第一個就是乾淨的。

檢索、記憶和回呼

此 API 沒有嵌入端點,因此檢索管線需要獨立的嵌入來源。檢索之後的一切都是普通聊天。典型的檢索鏈結會從你的向量資料庫中提取最相關的片段,將它們貼到提示詞中,並要求模型根據該文字回答。由於上下文視窗為 100,000 個 token,你可以負擔較長的片段,但請記住帳單:每個檢索上下文的 token 輸入成本為每百萬 token $0.15,因此 20,000 個 token 的上下文每次提問成本為 $0.003。

對於聊天記憶,最簡單的方法是訊息清單,你在每次呼叫前根據 token 計數進行修剪。LangChain 提供 trim_messages 等輔助工具來達成此目的。保留系統訊息和最新的對話,一旦歷史記錄達到你設定的限制,請刪除或摘要中間部分。較短的歷史記錄也能讓回答更集中,並降低每次對話的成本,因為每次都會重新傳送整個歷史記錄作為輸入。

回呼是記錄呼叫成本的地方。每個回應都包含一個包含提示詞和完成 token 的用量區塊,在 LangChain 中,返回的訊息在 usage_metadata 中攜帶它:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")

使用請求 ID 記錄成本,以便追蹤令人驚訝的帳單來自哪個鏈結。

系統提示詞和語氣

模型沒有內建內容拒絕,因此系統訊息是你設定產品行為的地方:人格、語氣、它應避免的主題以及回覆格式。就像為新同事撰寫簡報一樣撰寫它。簡短具體比長篇大論更有效。涉及未成年人的內容是此服務的硬性限制,因此不要建立接近它的提示詞。

上線前的簡短檢查清單

  • 金鑰存放在環境變數或機密儲存庫中,絕不在儲存庫中。
  • max_concurrency 設為你的金鑰限制,或低於它(如果其他服務共用金鑰)。
  • 重試使用短延遲,並遵守帶有 Retry-After: 5 的 429 回應。
  • 客戶端斷開連線時關閉串流,以釋放槽位。
  • JSON 輸出以防禦方式解析並驗證。
  • 費用會根據使用區塊中的每個鏈分別記錄。
  • 存在備援機制,以防端點無法連線,即使備援是錯誤訊息。

遵循該清單,整合就會像其他任何 LangChain 聊天模型一樣運作。差異在於內容方面,其他模型因合法成人用途而拒絕的請求,這裡會得到回答。

速率限制、並行請求和常見錯誤

完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。請求主體最多可達 8 MB,上下文視窗為 100,000 個 token,涵蓋提示詞和完成總計。

LangChain 的批次輔助工具會分派請求,因此請設定與你的金鑰匹配的上限:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})

在試用金鑰上使用 2 而非 8。當你超過限制時,API 會返回 HTTP 429 和錯誤程式碼 rate_limited(每分鐘請求過多)或 concurrency(一次過多)。在暫時過載時,它也會返回 429,並帶有 Retry-After: 5 標頭。用戶端的 max_retries 設定處理暫時情況,但如果你反覆看到錯誤程式碼 concurrency,請降低 max_concurrency 而非增加重試。

  • 每次呼叫都出現找不到錯誤:檢查 Base URL 是否以 /v1 結尾。
  • 驗證錯誤:金鑰遺失或有拼寫錯誤;確認它已透過 api_key 傳遞。
  • 模型錯誤:模型名稱必須精確為 uncensored。
  • 批次執行緩慢:卡住的串流會佔用並行槽位,因此請關閉它們或設定逾時。

定價為每百萬個輸入 token $0.15,每百萬個輸出 token $0.50,失敗或被拒絕的請求不會收費。定價頁面列出儲值資訊,文件涵蓋所有參數與回應標頭,包括 X-Request-Id 和 X-Balance-USD,這些在 LangChain 回呼中記錄時很有幫助。

01

問答

我應該使用哪個 LangChain 類別?

在 Python 中使用 langchain-openai 的 ChatOpenAI,或在 Node.js 中使用 @langchain/openai 的 ChatOpenAI。將 Base URL 設定為 https://api.deepseekapipricing.com/v1,並將模型設定為 uncensored。

串流輸出在 LangChain 中運作嗎?

可以。API 透過 SSE 進行串流輸出,並在結尾傳送用量資訊,因此 llm.stream 可正常運作。若要在串流輸出中取得 token 計數,請設定 stream_usage=True。

我可以在此處使用嵌入或向量資料庫嗎?

無法從此 API 使用。它僅支援文字,且沒有嵌入端點,因此請使用獨立的嵌入來源進行檢索,並將檢索到的文字傳送至此處。

為什麼我會收到 HTTP 429?

不是你超過了每分鐘限制(rate_limited),就是你一次發送了太多請求(concurrency),或是供應商短暫過載。降低 max_concurrency 並遵守 Retry-After。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改Base URL。這就是整個設定過程。

取得 API 金鑰