TR ▾
API anahtarı al
https://api.deepseekapipricing.com/v1

DeepSeek API LangChain Kurulumu: Python ve Node

Bir DeepSeek API LangChain kurulumu için yalnızca ChatOpenAI sınıfına, bir base URL'ye, bir anahtara ve model adına ihtiyacınız vardır. Bu kılavuz, bağımsız bir OpenAI uyumlu uç nokta kullanarak sohbet, akış, fonksiyon çağırma, JSON çıktısı ve eşzamanlılık için Python ve Node kodlarını kapsar.

güncellendi

Sunucuları sohbet balonlarına bağlayan parlayan zincir halkaları, bir API ile LangChain entegrasyonunu temsil eder

Temel noktalar

  1. Base URL'yi https://api.deepseekapipricing.com/v1 olarak ayarlayarak ve modeli uncensored olarak belirterek ChatOpenAI kullanın.
  2. Ortamınızdaki bir OpenAI anahtarının burada asla gönderilmemesi için api_key'i açıkça geçirin.
  3. Akış, bind_tools ve JSON modu standart OpenAI formatı parametreleri üzerinden çalışır.
  4. 429 hatalarından kaçınmak için tam anahtar için max_concurrency değerini 8'e, deneme anahtarı için 2'ye kadar sınırlayın.

Başlamadan önce ihtiyacınız olanlar

LangChain, OpenAI sohbet tamamlama protokolünü uygulayan herhangi bir sunucuya bağlanır, bu nedenle özel bir entegrasyon kurmanıza gerek yoktur. Başlangıç noktanız, OpenAI'nin kendisi için kullanacağınız aynı pakettir: Python için langchain-openai veya Node için @langchain/openai. Yalnızca üç değer değişir.

  • Base URL: https://api.deepseekapipricing.com/v1
  • Model: uncensored
  • Anahtar: Authorization: Bearer <key> olarak gönderilir, istemci bunu sizin için yapar

Adlandırma konusunda bir açıklama. Bu uç nokta, yasal yetişkin kullanımı için içerik reddetmeleri olmadan cevap verecek şekilde ayarlanmış tek bir açık ağırlıklı model çalıştıran bağımsız bir hizmettir. Resmi DeepSeek API'si değildir ve tedarikçiler arasında bir yönlendirici değildir, bu nedenle model adı her zaman uncensored olur, bir tedarikçi model kimliği değildir. Bir anahtara ihtiyacınız varsa, API anahtarı sayfası kayıt adımlarını ve tek tıklamayla $0,50 denemeyi gösterir.

Python'da paketleri yükleyin ve ilk çağrıyı yapın

Paketleri yükleyin:

pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"

Ardından model nesnesini oluşturun. Anahtarı açıkça geçin; OPENAI_API_KEY ortam değişkenine güvenmeyin, çünkü bu değişkende farklı bir ana sunucuya gönderilmesini istemediğiniz gerçek bir OpenAI anahtarı bulunabilir.

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    temperature=0.7,
    max_retries=2,
)

print(llm.invoke("Say hello in five words.").content)

Bu bir selamlama yazdırıyorsa, bağlantı, anahtar ve model adı doğrudur. Bu aşamada en yaygın hata, base URL'de /v1 eksik bırakmaktır; bu genellikle bulunamadı hatasına neden olur.

İstemler, zincirler ve akış

Buradan itibaren LangChain normal şekilde çalışır. Bir istem şablonu, model ve bir çıktı ayrıştırıcısı pipe işleciyle bir zincir oluşturur:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

prompt = ChatPromptTemplate.from_messages([
    ("system", "You write tight, vivid scene descriptions for adult fiction."),
    ("human", "Describe this setting in under 80 words: {setting}"),
])

chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))

Akış, sunucu tarafından gönderilen olaylar üzerinden gerçekleşir. LangChain'de stream çağırın; her parça metnin bir bölümünü taşır. Akışın sonunda token sayılarını almak istiyorsanız modele stream_usage=True ayarını verin; API kullanım bilgilerini son olayda gönderir.

llm_stream = ChatOpenAI(
    model="uncensored",
    base_url="https://api.deepseekapipricing.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
    stream_usage=True,
)

for chunk in llm_stream.stream("Write a four-line poem about a night train."):
    print(chunk.content, end="", flush=True)

Akış yapan bir istek, akış bitene kadar eşzamanlılık slotunu tutar, bu nedenle bir akışı kapatmadan bırakırsanız o slot beklediğinizden daha uzun süre meşgul kalır.

Node ve TypeScript

JavaScript paketi base URL'yi bir configuration nesnesi içine alır:

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "uncensored",
  apiKey: process.env.UNCENSORED_API_KEY,
  configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
  maxRetries: 2,
});

const res = await llm.invoke("Say hello in five words.");
console.log(res.content);

const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
  process.stdout.write(chunk.content);
}

Bunu bir ES modülü olarak çalıştırın (package.json içinde "type": "module" veya bir .mjs dosyası). Node API'sindeki diğer her şey, istem şablonları ve runnable'lar dahil, diğer herhangi bir sohbet modeliyle aynı şekilde davranır.

Fonksiyon çağırma ve ajanlar

API, OpenAI araç formatını destekler: tools ve tool_choice parametreleri, akışlı tool_calls ve role: "tool" rolüyle mesaj olarak döndürülen araç sonuçları. LangChain'de araçları bir dekoratörle tanımlarsınız ve bind_tools ile bağlarsınız:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage

@tool
def order_status(order_id: str) -> str:
    """Return the shipping status of an order."""
    return f"Order {order_id} left the warehouse yesterday."

llm_tools = llm.bind_tools([order_status])

messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)

for call in ai.tool_calls:
    result = order_status.invoke(call["args"])
    messages.append(ToolMessage(content=result, tool_call_id=call["id"]))

print(llm_tools.invoke(messages).content)

Döngüyü elle bir kez yazmak on dakikaya değerdir. Modelin tam olarak ne döndürdüğünü, her çağrı için hangi argümanları seçtiğini ve kötü bir araç açıklamasının yanlış tahmine nasıl yol açtığını gösterir. Bu netleştiğinde, önceden hazırlanmış bir ajana geçin ve hata ayıklama referansı olarak elle yazılmış sürümü koruyun.

Bu, tüm döngünün elle yazılmış hali: model bir araç ister, siz onu çalıştırırsınız, sonucu döndürürsünüz ve model nihai cevabı yazar. Hazır bir ajan döngüsü tercih ediyorsanız, langgraph paketi create_react_agent(llm, [order_status]) sunar ve onu {"messages": [("user", "Where is order 1042?")]} ile çağırırsınız.

Bir modelin araçları ne kadar iyi seçtiği modele bağlıdır, bu nedenle gerçek araç şemalarınızla test edin. Kısa, spesifik araç açıklamaları ve düşük bir sıcaklık yardımcı olur. Yaklaşık 27.000 girdi tokenı ve 1.800 çıktı tokenı içeren artan bir geçmişle altı çağrı yapan bir ajan, yaklaşık $0,00405 artı $0,0009'a mal olur, yani yaklaşık yarım sant.

JSON modu ile yapılandırılmış çıktı

JSON modu response_format üzerinden desteklenir. Bunu modele bağlayın ve ayrıca istemde belirli anahtarlarla JSON istediğinizi belirtin, çünkü format bayrağı sözdizimini kontrol eder, şemanızı değil:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json

json_llm = llm.bind(response_format={"type": "json_object"})

msg = json_llm.invoke(
    "Return a JSON object with keys title (string) and tags (list of 3 strings) "
    "for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])

Güvenmeden önce ayrıştırılan sonucu Pydantic veya kendi kontrollerinizle doğrulayın ve json.JSONDecodeError'i bir yeniden denemeyle işleyin. Büyük çıkarma işleri için, ilk cevabın temiz olduğunu varsaymak yerine her yanıtı savunmacı olarak ayrıştırın.

Geri getirme, bellek ve geri çağırmalar

Bu API'nin gömme uç noktası yoktur, bu nedenle bir geri çağırma (retrieval) hattı gömmeler için ayrı bir kaynağa ihtiyaç duyar. Geri çağırma sonrası her şey düz sohbet gibidir. Tipik bir geri çağırma zinciri vektör deponuzdan en alakalı pasajları çeker, bunları isteme ekler ve modelden o metne dayanarak cevap vermesini ister. Bağlam penceresi 100.000 token olduğundan uzun pasajlar kullanabilirsiniz, ancak faturayı unutmayın: geri çağrılan bağlamın her token'ı girdi olarak milyon başına $0,15 fiyatlandırılır, bu nedenle 20.000 token bağlam soru başına $0,003'e mal olur.

Sohbet belleği için en basit yaklaşım, her çağrı öncesi token sayısına göre kırpacağınız bir mesaj listesidir. LangChain bunun için trim_messages gibi yardımcı programlar sunar. Sistem mesajını ve en son dönüşleri koruyun ve geçmiş sizin belirlediğiniz bir sınıra ulaştığında ortadaki kısmı silin veya özetleyin. Daha kısa bir geçmiş, cevapları odaklı tutar ve her dönüşün maliyetini düşürür, çünkü tüm geçmiş her seferinde girdi olarak yeniden gönderilir.

Geri çağırmalar, bir çağrının neye mal olduğunu kaydetmek için yerdir. Her yanıt, girdi ve tamamlama tokenları içeren bir kullanım bloğu içerir ve LangChain'de döndürülen mesaj bunu usage_metadata içinde taşır:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")

Sürpriz bir faturanın bir zincire izlenebilmesi için maliyeti istek kimliğiyle günlüğe kaydedin.

Sistem istemleri ve ton

Modelin yerleşik içerik reddetmeleri yoktur, bu nedenle sistem mesajı ürününüzün davranışını belirlediğiniz yerdir: persona, ton, kaçınması gereken konular ve yanıt formatı. Bunu yeni bir meslektaşınız için kısa bir brif hazırlıyormuş gibi yazın. Kısa ve spesifik, uzun ve belirsizden daha iyi çalışır. Reşit olmayanlar içeren içerik bu hizmette katı bir sınırdır, bu nedenle buna yaklaşan istemler oluşturmayın.

Göndermeden önce kısa bir kontrol listesi

  • Anahtar bir ortam değişkeninde veya bir gizli depolamada bulunur, depoda asla bulunmaz.
  • max_concurrency anahtarınızın limitine ayarlanır veya diğer hizmetler anahtarı paylaşıyorsa bunun altına.
  • Yeniden denemeler kısa bir geri çekilme kullanır ve Retry-After: 5 ile 429 yanıtlarına uyulur.
  • İstemci bağlantısı koptuğunda akışlar kapatılır böylece slotlar serbest bırakılır.
  • JSON çıktıları savunmacı olarak ayrıştırılır ve doğrulanır.
  • Maliyetler, kullanım bloğundan zincir başına günlüğe kaydedilir.
  • Uç noktanın ulaşılamaz olduğu durumlar için bir yedek plan vardır, yedek plan bir hata mesajı bile olsa.

Bu listeye uyun ve entegrasyon diğer tüm LangChain sohbet modelleri gibi davranacaktır. Fark, diğer modellerin yasal yetişkin kullanım için reddettiği isteklerin cevaplandığı içerik tarafında yer alır.

Hız limitleri, eşzamanlılık ve yaygın hatalar

Tam bir anahtar 8 eşzamanlı istek ve dakika başına 300 istek izni verir. Bir deneme anahtarı 2 eşzamanlı istek ve dakika başına 60 istek izni verir. İstek gövdesi 8 MB'a kadar olabilir ve bağlam penceresi, istem ve tamamlama birlikte 100.000 token kapsar.

LangChain'in toplu yardımcı programları istekleri dağıtır, bu nedenle limitinizi anahtarınıza uygun bir tavanla ayarlayın:

# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})

Deneme anahtarında 2 değerini 8 yerine kullanın. Bir limite ulaştığınızda API, HTTP 429 döndürür ve rate_limited (dakika başına çok fazla istek) veya concurrency (aynı anda çok fazla) hata kodunu verir. Geçici aşırı yüklenmede de 429 döndürür ve Retry-After: 5 başlığını gönderir. İstemcinin max_retries ayarı geçici durumları yönetir, ancak concurrency hata kodunu tekrarlı olarak görürseniz, denemeleri artırmak yerine max_concurrency değerini düşürün.

  • Her çağrıda bulunamadı hataları: base URL'nin /v1 ile bittiğini kontrol edin.
  • Kimlik doğrulama hatası: anahtar eksik veya yazım hatası içeriyor; api_key üzerinden geçirildiğini onaylayın.
  • Model hataları: model adı tam olarak uncensored olmalıdır.
  • Yavaş toplu çalıştırmalar: takılan akışlar eşzamanlılık slotlarını işgal eder; bu akışları kapatın veya bir zaman aşımı ayarlayın.

Fiyatlandırma, milyon giriş token'ı başına $0,15 ve milyon çıktı token'ı başına $0,50'dir; başarısız veya reddedilen istekler için ücret alınmaz. fiyatlandırma sayfası bakiye yükleme işlemlerini listeler ve dokümantasyon X-Request-Id ve X-Balance-USD dahil olmak üzere her parametreyi ve yanıt başlıklarını kapsar; bunlar bir LangChain callback'inde günlüğe kaydetmek için kullanışlıdır.

01

Sorular ve cevaplar

Hangi LangChain sınıfını kullanmalıyım?

Python'da langchain-openai'dan ChatOpenAI'yi veya Node'da @langchain/openai'dan ChatOpenAI'yi kullanın. Base URL'yi https://api.deepseekapipricing.com/v1 olarak ve modeli uncensored olarak ayarlayın.

LangChain ile akış (streaming) çalışıyor mu?

Evet. API SSE üzerinden akış yapar ve kullanım bilgisini sonda gönderir; bu nedenle llm.stream çalışır. Akış içinde token sayıları almak istiyorsanız stream_usage=True ayarını kullanın.

Burada gömme (embeddings) veya vektör mağazaları kullanabilir miyim?

Bu API üzerinden hayır. Bu API yalnızca metin içindir ve gömme uç noktasına sahip değildir; bu nedenle bilgi erişimi için ayrı bir gömme kaynağı kullanın ve alınan metni buraya gönderin.

Neden HTTP 429 hatası alıyorum?

İster dakikalık limiti (rate_limited) aşmış olun, ister aynı anda çok fazla istek göndermiş olun (concurrency), ister sağlayıcı kısa süreli aşırı yüklenmiş olsun. max_concurrency değerini düşürün ve Retry-After başlığına uyun.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al