RU ▾
Получить API-ключ
https://api.deepseekapipricing.com/v1

Настройка DeepSeek API с LangChain: Python и Node

Для настройки DeepSeek API в LangChain вам нужен только класс ChatOpenAI, базовый URL, ключ и имя модели. Это руководство охватывает код на Python и Node для чата, потоковой передачи, вызова функций, вывода в формате JSON и параллельных запросов, используя независимый эндпоинт, совместимый с OpenAI, а не API самого вендора.

Обновлено

Светящиеся звенья цепи, соединяющие серверы с пузырями чата, представляющие интеграцию LangChain с API

Ключевые моменты

  1. Используйте ChatOpenAI с base_url, установленным в https://api.deepseekapipricing.com/v1, и моделью uncensored.
  2. Передавайте api_key явно, чтобы ключ OpenAI из вашей среды никогда не отправлялся сюда.
  3. Потоковая передача, bind_tools и JSON-режим работают через стандартные параметры формата OpenAI.
  4. Ограничьте max_concurrency значением 8 для полного ключа или 2 для пробного ключа, чтобы избежать ошибок 429.

Что вам нужно перед началом

LangChain работает с любым сервером, реализующим протокол чата OpenAI, поэтому устанавливать специальную интеграцию не нужно. Ваша отправная точка — тот же пакет, который вы использовали бы для самого OpenAI: langchain-openai для Python или @langchain/openai для Node. Изменяются только три значения.

  • Базовый URL: https://api.deepseekapipricing.com/v1
  • Модель: uncensored
  • Ключ: отправляется как Authorization: Bearer <key>, что клиент делает за вас

Уточнение по названию. Этот эндпоинт — независимый сервис, запускающий одну модель с открытыми весами, настроенную на ответы без отказов по контенту для законного использования совершеннолетними. Это не официальный API DeepSeek и не роутер между поставщиками, поэтому имя модели всегда uncensored, а не идентификатор модели поставщика. Если вам нужен ключ, на странице API-ключ показаны шаги регистрации и пробный период за $0,50 в один клик.

Установка и первый вызов в Python

Установите пакеты:

pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"

Затем создайте объект модели. Передавайте ключ явно, а не полагайтесь на переменную среды OPENAI_API_KEY, которая может содержать настоящий ключ OpenAI, который вы не хотите отправлять на другой хост.

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    temperature=0.7,
    max_retries=2,
)

print(llm.invoke("Say hello in five words.").content)

Если выводится приветствие, значит подключение, ключ и имя модели верны. Самая распространенная ошибка на этом этапе — пропуск /v1 в базовом URL, что обычно приводит к ошибке not-found.

Промпты, цепочки и потоковая передача

Далее LangChain работает как обычно. Шаблон промпта, модель и парсер вывода объединяются в цепочку с помощью оператора pipe:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

prompt = ChatPromptTemplate.from_messages([
    ("system", "You write tight, vivid scene descriptions for adult fiction."),
    ("human", "Describe this setting in under 80 words: {setting}"),
])

chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))

Потоковая передача идет через server-sent events. В LangChain вы вызываете stream, и каждый чанк содержит часть текста. Установите stream_usage=True в модели, если хотите получать количество токенов в конце потока; API отправляет данные об использовании в последнем событии.

llm_stream = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    stream_usage=True,
)

for chunk in llm_stream.stream("Write a four-line poem about a night train."):
    print(chunk.content, end="", flush=True)

Запрос в потоковом режиме удерживает слот параллельных запросов до завершения потока, поэтому, если вы прерываете поток без его закрытия, этот слот остается занятым дольше, чем вы ожидаете.

Node и TypeScript

Пакет JavaScript принимает базовый URL внутри объекта configuration:

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "uncensored",
  apiKey: process.env.UNCENSORED_API_KEY,
  configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
  maxRetries: 2,
});

const res = await llm.invoke("Say hello in five words.");
console.log(res.content);

const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
  process.stdout.write(chunk.content);
}

Запустите его как ES-модуль ("type": "module" в package.json или файл с расширением .mjs). Все остальное в Node API, включая шаблоны промптов и runnables, ведет себя так же, как и с любой другой моделью чата.

Вызов функций и агенты

API поддерживает формат инструментов OpenAI: параметры tools и tool_choice, потоковые tool_calls и результаты вызовов инструментов, возвращаемые как сообщения с role: "tool". В LangChain вы объявляете инструменты с помощью декоратора и прикрепляете их с помощью bind_tools:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage

@tool
def order_status(order_id: str) -> str:
    """Return the shipping status of an order."""
    return f"Order {order_id} left the warehouse yesterday."

llm_tools = llm.bind_tools([order_status])

messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)

for call in ai.tool_calls:
    result = order_status.invoke(call["args"])
    messages.append(ToolMessage(content=result, tool_call_id=call["id"]))

print(llm_tools.invoke(messages).content)

Написание цикла вручную один раз стоит десяти минут. Это показывает вам, что именно вернула модель, какие аргументы она выбрала для каждого вызова и к чему приводит плохое описание инструмента. Как только это станет ясно, переключитесь на готового агента и сохраните версию, написанную вручную, в качестве справочника для отладки.

Это полный цикл вручную: модель запрашивает инструмент, вы его запускаете, возвращаете результат, и модель пишет финальный ответ. Если предпочитаете готовый цикл агента, пакет langgraph предлагает create_react_agent(llm, [order_status]), а вызываете его через {"messages": [("user", "Where is order 1042?")]}.

Насколько хорошо модель выбирает инструменты, зависит от самой модели, поэтому тестируйте с вашими реальными схемами инструментов. Короткие, конкретные описания инструментов и низкая температура помогают. Агент, делающий шесть вызовов с растущей историей примерно из 27 000 входных токенов в сумме и 1 800 выходных токенов, стоит примерно $0,00405 плюс $0,0009, или около полцента.

Структурированный вывод с JSON-режимом

JSON-режим поддерживается через response_format. Привяжите его к модели и также укажите в промпте, что вы хотите JSON с определенными ключами, так как флаг формата управляет синтаксисом, а не вашей схемой:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json

json_llm = llm.bind(response_format={"type": "json_object"})

msg = json_llm.invoke(
    "Return a JSON object with keys title (string) and tags (list of 3 strings) "
    "for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])

Проверяйте распарсенный результат с помощью Pydantic или ваших собственных проверок, прежде чем доверять ему, и обрабатывайте json.JSONDecodeError с одной попыткой повторения. Для крупных задач извлечения данных парсите каждый ответ с защитой от ошибок, а не полагайтесь на то, что первый будет чистым.

Поиск, память и обратные вызовы

В этом API нет эндпоинта для эмбеддингов, поэтому конвейер извлечения информации требует отдельного источника эмбеддингов. Всё, что следует после извлечения, — это обычный чат. Типичная цепочка извлечения информации получает лучшие фрагменты из вашего векторного хранилища, вставляет их в промпт и просит модель ответить на основе этого текста. Поскольку контекстное окно составляет 100 000 токенов, вы можете позволить себе большие фрагменты, но помните о счёте: каждый токен извлечённого контекста является входным и стоит $0,15 за миллион, поэтому 20 000 токенов контекста обойдутся в $0,003 за вопрос.

Для памяти чата самый простой подход — это список сообщений, который вы обрезаете по количеству токенов перед каждым вызовом. LangChain предлагает помощники, такие как trim_messages для этого. Сохраняйте системное сообщение и последние ходы, а среднюю часть удаляйте или суммируйте, когда история достигает выбранного вами лимита. Меньшая история также держит ответы в фокусе и снижает стоимость каждого хода, потому что вся история отправляется как входные данные каждый раз.

Обратные вызовы — это место для записи стоимости вызова. Каждый ответ содержит блок usage с токенами промпта и завершения, и в LangChain возвращенное сообщение содержит их в usage_metadata:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")

Записывайте стоимость с идентификатором запроса, чтобы неожиданный счет можно было отследить до одной цепочки.

Системные промпты и тон

У модели нет встроенных отказов по контенту, поэтому системное сообщение — это место, где вы задаете поведение вашего продукта: персону, тон, темы, которых следует избегать, и формат ответа. Напишите его так, как вы написали бы краткое задание для нового коллеги. Короткие и конкретные инструкции работают лучше, чем длинные и расплывчатые. Контент с участием несовершеннолетних — это жесткий лимит на этом сервисе, поэтому не создавайте промпты, которые к нему приближаются.

Короткий чек-лист перед запуском

  • Ключ хранится в переменной среды или хранилище секретов, никогда в репозитории.
  • max_concurrency установлен на лимит вашего ключа или ниже, если ключ делят другие сервисы.
  • Повторные попытки используют короткую задержку, а ответы 429 с Retry-After: 5 соблюдаются.
  • Потоки закрываются при отключении клиента, чтобы слоты освобождались.
  • Выводы JSON парсятся с защитой от ошибок и проверяются.
  • Стоимость регистрируется для каждой цепочки из блока usage.
  • Существует резервный вариант на случай, если эндпоинт недоступен, даже если резервный вариант — это сообщение об ошибке.

Следуйте этому списку, и интеграция будет вести себя как любая другая модель чата LangChain. Разница заключается на стороне контента, где запросы, которые другие модели отклоняют для законного использования взрослыми, получают ответ.

Лимиты запросов, параллельные запросы и распространенные ошибки

Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 параллельных запроса и 60 в минуту. Тело запроса может достигать 8 МБ, а контекстное окно составляет 100 000 токенов, охватывая промпт и сгенерированный текст вместе.

Пакетные помощники LangChain распределяют запросы, поэтому установите верхний предел, соответствующий вашему ключу:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})

Используйте 2 вместо 8 на пробном ключе. Когда вы превышаете лимит, API возвращает HTTP 429 с кодом ошибки rate_limited (слишком много запросов в минуту) или concurrency (слишком много одновременно). При временной перегрузке он также возвращает 429 с заголовком Retry-After: 5. Настройка max_retries в клиенте обрабатывает временные случаи, но если вы видите код ошибки concurrency повторно, уменьшите max_concurrency вместо добавления повторных попыток.

  • Ошибки not-found при каждом вызове: убедитесь, что базовый URL заканчивается на /v1.
  • Ошибка аутентификации: ключ отсутствует или содержит опечатку; подтвердите, что он передается через api_key.
  • Ошибки модели: имя модели должно быть точно uncensored.
  • Медленные пакетные запуски: зависшие потоки занимают слоты параллельных запросов, поэтому закрывайте их или задавайте тайм-аут.

Цены: $0,15 за миллион входных токенов и $0,50 за миллион выходных токенов, а неудачные или отклонённые запросы не оплачиваются. На странице тарифов перечислены способы пополнения, а в документации описаны все параметры и заголовки ответа, включая X-Request-Id и X-Balance-USD, которые удобно логировать в колбэке LangChain.

01

Вопросы и ответы

Какой класс LangChain мне использовать?

Используйте ChatOpenAI из langchain-openai в Python или ChatOpenAI из @langchain/openai в Node. Установите базовый URL в https://api.deepseekapipricing.com/v1 и модель в uncensored.

Работает ли потоковая передача с LangChain?

Да. API использует потоковую передачу через SSE и отправляет данные об использовании в конце, поэтому llm.stream работает. Установите stream_usage=True, если вам нужны подсчёты токенов в потоке.

Могу ли я использовать эмбеддинги или векторные хранилища здесь?

Нет, через это API нельзя. Оно работает только с текстом и не имеет эндпоинта для эмбеддингов, поэтому используйте отдельный источник эмбеддингов для поиска и передавайте найденный текст сюда.

Почему я получаю HTTP 429?

Либо вы превысили лимит запросов в минуту (rate_limited), либо отправили слишком много запросов одновременно (concurrency), либо провайдер был временно перегружен. Уменьшите max_concurrency и соблюдайте заголовок Retry-After.

До вашего ключа — всего одна форма

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключ