開始前你需要準備的
LangChain 會連線至任何實作 OpenAI 聊天完成協定的伺服器,因此無需安裝特殊整合。起始套件與使用 OpenAI 時相同:Python 用 langchain-openai,Node 用 @langchain/openai。僅有三個值需要變更。
- Base URL:
https://api.deepseekapipricing.com/v1 - 模型:
uncensored - 金鑰: 以
Authorization: Bearer <key>傳送,由用戶端為你處理
命名說明。此端點為獨立服務,運行單一開放權重模型,針對合法成人用途進行調校,可無審查地回答。它不是官方的 DeepSeek API,也不是跨供應商的轉發器,因此模型名稱始終為 uncensored,而非供應商模型 ID。若你需要金鑰,API 金鑰頁面顯示了註冊步驟與一鍵 $0.50 試用。
安裝並進行 Python 的第一次呼叫
安裝套件:
pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"
然後建立模型物件。明確傳遞金鑰,而非依賴 OPENAI_API_KEY 環境變數,該變數可能包含你不希望傳送到不同主機的真實 OpenAI 金鑰。
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
temperature=0.7,
max_retries=2,
)
print(llm.invoke("Say hello in five words.").content)
如果這列印出問候語,表示連線、金鑰和模型名稱都正確。此階段最常見的錯誤是在 base URL 中遺漏 /v1,這通常會產生 not-found 錯誤。
提示詞、鏈結和串流輸出
從這裡開始,LangChain 運作如常。提示詞範本、模型和輸出解析器透過管道運算子組合成鏈結:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
prompt = ChatPromptTemplate.from_messages([
("system", "You write tight, vivid scene descriptions for adult fiction."),
("human", "Describe this setting in under 80 words: {setting}"),
])
chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))
串流輸出透過伺服器發送事件進行。在 LangChain 中,你呼叫 stream,每個區塊攜帶一部分文字。若要在串流輸出結尾取得 token 計數,請在模型上設定 stream_usage=True;API 會在最後一個事件中發送用量資訊。
llm_stream = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
stream_usage=True,
)
for chunk in llm_stream.stream("Write a four-line poem about a night train."):
print(chunk.content, end="", flush=True)
串流請求會保留其並行請求槽位直到串流結束,因此如果你放棄串流但未關閉它,該槽位會比預期更久保持忙碌。
Node 和 TypeScript
JavaScript 套件在 configuration 物件內接受 base URL:
import { ChatOpenAI } from "@langchain/openai";
const llm = new ChatOpenAI({
model: "uncensored",
apiKey: process.env.UNCENSORED_API_KEY,
configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
maxRetries: 2,
});
const res = await llm.invoke("Say hello in five words.");
console.log(res.content);
const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
process.stdout.write(chunk.content);
}
將其作為 ES 模組執行("type": "module" 在 package.json 中,或 .mjs 檔案)。Node API 中的其他所有內容,包括提示詞範本和可執行物件,其行為與其他任何聊天模型相同。
函式呼叫和代理
API 支援 OpenAI 工具格式:tools 和 tool_choice 參數、串流輸出的 tool_calls,以及以 role: "tool" 傳回的工具結果。在 LangChain 中,你使用裝飾器宣告工具,並使用 bind_tools 附加它們:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage
@tool
def order_status(order_id: str) -> str:
"""Return the shipping status of an order."""
return f"Order {order_id} left the warehouse yesterday."
llm_tools = llm.bind_tools([order_status])
messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)
for call in ai.tool_calls:
result = order_status.invoke(call["args"])
messages.append(ToolMessage(content=result, tool_call_id=call["id"]))
print(llm_tools.invoke(messages).content)
手寫一次迴圈值得十分鐘。它顯示模型返回了什麼、為每次呼叫選擇了哪些參數,以及錯誤的工具描述會導致錯誤猜測。一旦釐清這些,請切換到預建代理,並將手寫版本保留為除錯參考。
這就是整個手寫迴圈:模型要求工具,你執行它,返回結果,模型撰寫最終答案。如果你偏好現成的代理迴圈,langgraph 套件提供 create_react_agent(llm, [order_status]),並使用 {"messages": [("user", "Where is order 1042?")]} 呼叫它。
模型選擇工具的能力取決於模型本身,因此請使用真實的工具結構描述進行測試。簡短具體的工具描述和低 temperature 有幫助。進行六次呼叫、歷史記錄總計約 27,000 個輸入 token 和 1,800 個輸出 token 的代理,成本約為 $0.00405 加上 $0.0009,或約半美分。
使用 JSON 模式的結構化輸出
JSON 模式透過 response_format 支援。將其綁定到模型,並在提示詞中說明你想要具有特定鍵的 JSON,因為格式旗標控制語法,而非你的結構描述:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json
json_llm = llm.bind(response_format={"type": "json_object"})
msg = json_llm.invoke(
"Return a JSON object with keys title (string) and tags (list of 3 strings) "
"for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])
在信任結果之前,請使用 Pydantic 或你自己的檢查來驗證解析後的結果,並使用一次重試來處理 json.JSONDecodeError。對於大型擷取作業,請對每個回應進行防禦性解析,不要假設第一個就是乾淨的。
檢索、記憶和回呼
此 API 沒有嵌入端點,因此檢索管線需要獨立的嵌入來源。檢索之後的一切都是普通聊天。典型的檢索鏈結會從你的向量資料庫中提取最相關的片段,將它們貼到提示詞中,並要求模型根據該文字回答。由於上下文視窗為 100,000 個 token,你可以負擔較長的片段,但請記住帳單:每個檢索上下文的 token 輸入成本為每百萬 token $0.15,因此 20,000 個 token 的上下文每次提問成本為 $0.003。
對於聊天記憶,最簡單的方法是訊息清單,你在每次呼叫前根據 token 計數進行修剪。LangChain 提供 trim_messages 等輔助工具來達成此目的。保留系統訊息和最新的對話,一旦歷史記錄達到你設定的限制,請刪除或摘要中間部分。較短的歷史記錄也能讓回答更集中,並降低每次對話的成本,因為每次都會重新傳送整個歷史記錄作為輸入。
回呼是記錄呼叫成本的地方。每個回應都包含一個包含提示詞和完成 token 的用量區塊,在 LangChain 中,返回的訊息在 usage_metadata 中攜帶它:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")
使用請求 ID 記錄成本,以便追蹤令人驚訝的帳單來自哪個鏈結。
系統提示詞和語氣
模型沒有內建內容拒絕,因此系統訊息是你設定產品行為的地方:人格、語氣、它應避免的主題以及回覆格式。就像為新同事撰寫簡報一樣撰寫它。簡短具體比長篇大論更有效。涉及未成年人的內容是此服務的硬性限制,因此不要建立接近它的提示詞。
上線前的簡短檢查清單
- 金鑰存放在環境變數或機密儲存庫中,絕不在儲存庫中。
max_concurrency設為你的金鑰限制,或低於它(如果其他服務共用金鑰)。- 重試使用短延遲,並遵守帶有
Retry-After: 5的 429 回應。 - 客戶端斷開連線時關閉串流,以釋放槽位。
- JSON 輸出以防禦方式解析並驗證。
- 費用會根據使用區塊中的每個鏈分別記錄。
- 存在備援機制,以防端點無法連線,即使備援是錯誤訊息。
遵循該清單,整合就會像其他任何 LangChain 聊天模型一樣運作。差異在於內容方面,其他模型因合法成人用途而拒絕的請求,這裡會得到回答。
速率限制、並行請求和常見錯誤
完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。請求主體最多可達 8 MB,上下文視窗為 100,000 個 token,涵蓋提示詞和完成總計。
LangChain 的批次輔助工具會分派請求,因此請設定與你的金鑰匹配的上限:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})
在試用金鑰上使用 2 而非 8。當你超過限制時,API 會返回 HTTP 429 和錯誤程式碼 rate_limited(每分鐘請求過多)或 concurrency(一次過多)。在暫時過載時,它也會返回 429,並帶有 Retry-After: 5 標頭。用戶端的 max_retries 設定處理暫時情況,但如果你反覆看到錯誤程式碼 concurrency,請降低 max_concurrency 而非增加重試。
- 每次呼叫都出現找不到錯誤:檢查 Base URL 是否以
/v1結尾。 - 驗證錯誤:金鑰遺失或有拼寫錯誤;確認它已透過
api_key傳遞。 - 模型錯誤:模型名稱必須精確為
uncensored。 - 批次執行緩慢:卡住的串流會佔用並行槽位,因此請關閉它們或設定逾時。
定價為每百萬個輸入 token $0.15,每百萬個輸出 token $0.50,失敗或被拒絕的請求不會收費。定價頁面列出儲值資訊,文件涵蓋所有參數與回應標頭,包括 X-Request-Id 和 X-Balance-USD,這些在 LangChain 回呼中記錄時很有幫助。
