開始前に必要なもの
LangChain は OpenAI の Chat Completions プロトコルを実装するあらゆるサーバーと通信するため、特別な統合をインストールする必要はありません。OpenAI 自体に使用するのと同じパッケージから始めます:Python 用には langchain-openai、Node 用には @langchain/openai です。変更されるのは 3 つの値だけです。
- Base URL:
https://api.deepseekapipricing.com/v1 - モデル:
uncensored - キー:
Authorization: Bearer <key>として送信されます。これはクライアントが自動的に処理します。
命名に関する補足。このエンドポイントは、合合合合法的な成人利用においてコンテンツ拒否なしで回答するために調整されたオープンウェイトモデルを実行する独立したサービスです。公式の DeepSeek API ではなく、ベンダー間のルーターでもありません。そのため、モデル名は常に uncensored であり、ベンダーのモデル ID ではありません。キーが必要な場合は、API キーページで登録手順とワンクリックの $0.50 試用版をご覧ください。
Python でパッケージをインストールし、最初の呼び出しを行う
パッケージをインストールします:
pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"
次にモデルオブジェクトを作成します。異なるホストに送信したくない実際のOpenAIキーが含まれている可能性があるため、OPENAI_API_KEY環境変数に依存するのではなく、キーを明示的に渡してください。
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
temperature=0.7,
max_retries=2,
)
print(llm.invoke("Say hello in five words.").content)
挨拶が出力された場合、接続、キー、モデル名はすべて正しいです。この段階での最も一般的なミスは、Base URL に /v1 を付け忘れることで、これは通常「見つからない」エラーを引き起こします。
プロンプト、チェーン、ストリーミング
ここから、LangChain は通常どおり動作します。プロンプトテンプレート、モデル、出力パーサーはパイプ演算子でチェーンに結合されます:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
prompt = ChatPromptTemplate.from_messages([
("system", "You write tight, vivid scene descriptions for adult fiction."),
("human", "Describe this setting in under 80 words: {setting}"),
])
chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))
ストリーミングはサーバー送信イベント(SSE)経由で行われます。LangChain では stream を呼び出し、各チャンクにはテキストの一部が含まれます。ストリームの最後にトークン数を確認したい場合は、モデルに stream_usage=True を設定してください。API は最終イベントで使用状況を送信します。
llm_stream = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
stream_usage=True,
)
for chunk in llm_stream.stream("Write a four-line poem about a night train."):
print(chunk.content, end="", flush=True)
ストリーミングリクエストはストリームが終了するまで同時実行スロットを保持するため、ストリームを閉じずに破棄すると、スロットが予想より長く占有されたままになります。
Node と TypeScript
JavaScript パッケージは、Base URL を configuration オブジェクト内に設定します:
import { ChatOpenAI } from "@langchain/openai";
const llm = new ChatOpenAI({
model: "uncensored",
apiKey: process.env.UNCENSORED_API_KEY,
configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
maxRetries: 2,
});
const res = await llm.invoke("Say hello in five words.");
console.log(res.content);
const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
process.stdout.write(chunk.content);
}
ES モジュールとして実行します(package.json に "type": "module" を設定するか、.mjs ファイルを使用)。Node API の他のすべての部分(プロンプトテンプレートやランナブルを含む)は、他のチャットモデルと同様に動作します。
関数呼び出しとエージェント
API は OpenAI ツール形式をサポートしています:tools と tool_choice パラメータ、ストリーミングされる tool_calls、および role: "tool" メッセージとして返されるツール結果です。LangChain では、デコレータでツールを宣言し、bind_tools で結合します:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage
@tool
def order_status(order_id: str) -> str:
"""Return the shipping status of an order."""
return f"Order {order_id} left the warehouse yesterday."
llm_tools = llm.bind_tools([order_status])
messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)
for call in ai.tool_calls:
result = order_status.invoke(call["args"])
messages.append(ToolMessage(content=result, tool_call_id=call["id"]))
print(llm_tools.invoke(messages).content)
ループを手書きで一度書く価値はあります。モデルが何を返したか、各呼び出しにどの引数を選択したか、悪いツール説明が誤った推測にどうつながるかが明確になります。これが明確になったら、ビルド済みエージェントに切り替え、手書きバージョンをデバッグリファレンスとして維持します。
これが手書きのループ全体です:モデルがツールを要求し、あなたがそれを実行し、結果を返し、モデルが最終回答を記述します。準備完了のエージェントループを好む場合は、langgraph パッケージが create_react_agent(llm, [order_status]) を提供しており、{"messages": [("user", "Where is order 1042?")]} で呼び出します。
モデルがツールをどのように選択するかはモデルに依存するため、実際のツールスキーマでテストしてください。短く具体的なツール説明と低い temperature が役立ちます。合計約 27,000 の入力トークンと 1,800 の出力トークンを持つ履歴で 6 回の呼び出しを行うエージェントは、約 $0.00405 に $0.0009 を加算した、約 0.5 セントかかります。
JSON モードによる構造化出力
JSON モードは response_format を通じてサポートされています。モデルにバインドし、プロンプトで特定のキーを持つ JSON を望むことを明示してください。フォーマットフラグはスキーマではなく構文を制御するためです:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json
json_llm = llm.bind(response_format={"type": "json_object"})
msg = json_llm.invoke(
"Return a JSON object with keys title (string) and tags (list of 3 strings) "
"for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])
信頼する前に、Pydantic や独自のチェックで解析結果を検証し、json.JSONDecodeError をリトライで処理してください。大規模な抽出ジョブでは、最初の応答がクリーンであると想定するのではなく、すべての応答を防御的に解析してください。
取得、メモリ、コールバック
この API には埋め込みエンドポイントがないため、取得パイプラインには別の埋め込みソースが必要です。取得後の処理は通常のチャットです。典型的な取得チェーンは、ベクトルストアから上位の断片を取得し、プロンプトに貼り付け、モデルにそのテキストから回答を求めます。コンテキストウィンドウは 100,000 トークンであるため、長めの断片を使用できますが、請求額に注意してください。取得されたコンテキストのすべてのトークンは入力として扱われ、100 万トークンあたり $0.15 かかるため、20,000 トークンのコンテキストは質問ごとに $0.003 かかります。
チャットメモリについては、各呼び出し前にトークン数でトリミングするメッセージリストが最も簡単なアプローチです。LangChain にはこれ用の trim_messages などのヘルパーがあります。システムメッセージと最新の会話を保持し、履歴が選択した制限に達したら、中間の会話を削除または要約します。短い履歴は回答を集中させ、履歴全体が毎回入力として再送信されるため、各ターンのコストも削減されます。
コールバックは呼び出しのコストを記録する場所です。各応答には、プロンプトトークンと完了トークンを含む使用状況ブロックが含まれており、LangChain では返されたメッセージに usage_metadata として格納されています:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")
リクエスト ID を使用してコストをログに記録し、予期しない請求を 1 つのチェーンにトレースできるようにします。
システムプロンプトとトーン
モデルには組み込みのコンテンツ拒否がないため、システムメッセージは製品の動作(ペルソナ、トーン、回避すべきトピック、返信の形式)を設定する場所です。新しい同僚への指示のように記述します。短く具体的であることが、長く曖昧であるよりも優れています。未成年者に関するコンテンツはこのサービスのハードリミットであるため、それに近づくプロンプトを構築しないでください。
出荷前の短いチェックリスト
- キーは環境変数またはシークレットストアに保存し、リポジトリには含めないでください。
max_concurrencyはキーの制限に設定するか、他のサービスがキーを共有する場合はそれ以下に設定します。- リトライは短いバックオフを使用し、
Retry-After: 5付きの 429 応答は尊重されます。 - ストリームはクライアントの切断時に閉じられ、スロットが解放されます。
- JSON 出力は防御的に解析され、検証されます。
- コストは使用状況ブロックからチェーンごとにログに記録されます。
- エンドポイントに到達できない場合のフォールバックが存在します。フォールバックがエラーメッセージであっても構いません。
そのリストに従えば、統合は他のLangChainチャットモデルと同様に動作します。違いはコンテンツ側で、他のモデルが合合合法的な成人利用に対して拒否するリクエストにも回答します。
レート制限、同時実行数、一般的なエラー
フルキーは8つの同時リクエストと1分あたり300リクエストを許可します。トライアルキーは2つの同時リクエストと1分あたり60を許可します。リクエストボディは最大8 MBまで可能で、コンテキストウィンドウはプロンプトと補完を合わせて100,000トークンをカバーします。
LangChain のバッチヘルパーはリクエストを分散するため、キーに一致する上限を設定してください:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})
トライアルキーでは 8 の代わりに 2 を使用してください。制限を超えると、API はエラーコード rate_limited(1 分あたりのリクエストが多すぎる)または concurrency(一度に多すぎる)付きの HTTP 429 を返します。一時的な過負荷時には、Retry-After: 5 ヘッダー付きで 429 も返します。クライアントの max_retries 設定は一時的なケースを処理しますが、エラーコード concurrency が繰り返し表示される場合は、リトライを追加するのではなく max_concurrency を下げてください。
- すべての呼び出しで「見つからない」エラー: Base URL が
/v1で終わっていることを確認してください。 - 認証エラー: キーが不足しているか誤字があります。
api_keyを通じて渡されていることを確認してください。 - モデルのエラー:モデル名は正確に
uncensoredでなければなりません。 - バッチ処理の遅延:ストリームが停止すると同時実行数の枠を占有するため、ストリームを閉じるかタイムアウトを設定してください。
料金は入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50で、失敗または拒否されたリクエストには課金されません。料金ページにはチャージ方法が、ドキュメントにはLangChainのコールバックでログに記録するのに便利なX-Request-IdやX-Balance-USDを含むすべてのパラメータとレスポンスヘッダーが記載されています。
