Başlamadan önce ihtiyacınız olanlar
LangChain, OpenAI sohbet tamamlama protokolünü uygulayan herhangi bir sunucuya bağlanır, bu nedenle özel bir entegrasyon kurmanıza gerek yoktur. Başlangıç noktanız, OpenAI'nin kendisi için kullanacağınız aynı pakettir: Python için langchain-openai veya Node için @langchain/openai. Yalnızca üç değer değişir.
- Base URL:
https://api.deepseekapipricing.com/v1 - Model:
uncensored - Anahtar:
Authorization: Bearer <key>olarak gönderilir, istemci bunu sizin için yapar
Adlandırma konusunda bir açıklama. Bu uç nokta, yasal yetişkin kullanımı için içerik reddetmeleri olmadan cevap verecek şekilde ayarlanmış tek bir açık ağırlıklı model çalıştıran bağımsız bir hizmettir. Resmi DeepSeek API'si değildir ve tedarikçiler arasında bir yönlendirici değildir, bu nedenle model adı her zaman uncensored olur, bir tedarikçi model kimliği değildir. Bir anahtara ihtiyacınız varsa, API anahtarı sayfası kayıt adımlarını ve tek tıklamayla $0,50 denemeyi gösterir.
Python'da paketleri yükleyin ve ilk çağrıyı yapın
Paketleri yükleyin:
pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"
Ardından model nesnesini oluşturun. Anahtarı açıkça geçin; OPENAI_API_KEY ortam değişkenine güvenmeyin, çünkü bu değişkende farklı bir ana sunucuya gönderilmesini istemediğiniz gerçek bir OpenAI anahtarı bulunabilir.
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
temperature=0.7,
max_retries=2,
)
print(llm.invoke("Say hello in five words.").content)
Bu bir selamlama yazdırıyorsa, bağlantı, anahtar ve model adı doğrudur. Bu aşamada en yaygın hata, base URL'de /v1 eksik bırakmaktır; bu genellikle bulunamadı hatasına neden olur.
İstemler, zincirler ve akış
Buradan itibaren LangChain normal şekilde çalışır. Bir istem şablonu, model ve bir çıktı ayrıştırıcısı pipe işleciyle bir zincir oluşturur:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
prompt = ChatPromptTemplate.from_messages([
("system", "You write tight, vivid scene descriptions for adult fiction."),
("human", "Describe this setting in under 80 words: {setting}"),
])
chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))
Akış, sunucu tarafından gönderilen olaylar üzerinden gerçekleşir. LangChain'de stream çağırın; her parça metnin bir bölümünü taşır. Akışın sonunda token sayılarını almak istiyorsanız modele stream_usage=True ayarını verin; API kullanım bilgilerini son olayda gönderir.
llm_stream = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
stream_usage=True,
)
for chunk in llm_stream.stream("Write a four-line poem about a night train."):
print(chunk.content, end="", flush=True)
Akış yapan bir istek, akış bitene kadar eşzamanlılık slotunu tutar, bu nedenle bir akışı kapatmadan bırakırsanız o slot beklediğinizden daha uzun süre meşgul kalır.
Node ve TypeScript
JavaScript paketi base URL'yi bir configuration nesnesi içine alır:
import { ChatOpenAI } from "@langchain/openai";
const llm = new ChatOpenAI({
model: "uncensored",
apiKey: process.env.UNCENSORED_API_KEY,
configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
maxRetries: 2,
});
const res = await llm.invoke("Say hello in five words.");
console.log(res.content);
const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
process.stdout.write(chunk.content);
}
Bunu bir ES modülü olarak çalıştırın (package.json içinde "type": "module" veya bir .mjs dosyası). Node API'sindeki diğer her şey, istem şablonları ve runnable'lar dahil, diğer herhangi bir sohbet modeliyle aynı şekilde davranır.
Fonksiyon çağırma ve ajanlar
API, OpenAI araç formatını destekler: tools ve tool_choice parametreleri, akışlı tool_calls ve role: "tool" rolüyle mesaj olarak döndürülen araç sonuçları. LangChain'de araçları bir dekoratörle tanımlarsınız ve bind_tools ile bağlarsınız:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage
@tool
def order_status(order_id: str) -> str:
"""Return the shipping status of an order."""
return f"Order {order_id} left the warehouse yesterday."
llm_tools = llm.bind_tools([order_status])
messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)
for call in ai.tool_calls:
result = order_status.invoke(call["args"])
messages.append(ToolMessage(content=result, tool_call_id=call["id"]))
print(llm_tools.invoke(messages).content)
Döngüyü elle bir kez yazmak on dakikaya değerdir. Modelin tam olarak ne döndürdüğünü, her çağrı için hangi argümanları seçtiğini ve kötü bir araç açıklamasının yanlış tahmine nasıl yol açtığını gösterir. Bu netleştiğinde, önceden hazırlanmış bir ajana geçin ve hata ayıklama referansı olarak elle yazılmış sürümü koruyun.
Bu, tüm döngünün elle yazılmış hali: model bir araç ister, siz onu çalıştırırsınız, sonucu döndürürsünüz ve model nihai cevabı yazar. Hazır bir ajan döngüsü tercih ediyorsanız, langgraph paketi create_react_agent(llm, [order_status]) sunar ve onu {"messages": [("user", "Where is order 1042?")]} ile çağırırsınız.
Bir modelin araçları ne kadar iyi seçtiği modele bağlıdır, bu nedenle gerçek araç şemalarınızla test edin. Kısa, spesifik araç açıklamaları ve düşük bir sıcaklık yardımcı olur. Yaklaşık 27.000 girdi tokenı ve 1.800 çıktı tokenı içeren artan bir geçmişle altı çağrı yapan bir ajan, yaklaşık $0,00405 artı $0,0009'a mal olur, yani yaklaşık yarım sant.
JSON modu ile yapılandırılmış çıktı
JSON modu response_format üzerinden desteklenir. Bunu modele bağlayın ve ayrıca istemde belirli anahtarlarla JSON istediğinizi belirtin, çünkü format bayrağı sözdizimini kontrol eder, şemanızı değil:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json
json_llm = llm.bind(response_format={"type": "json_object"})
msg = json_llm.invoke(
"Return a JSON object with keys title (string) and tags (list of 3 strings) "
"for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])
Güvenmeden önce ayrıştırılan sonucu Pydantic veya kendi kontrollerinizle doğrulayın ve json.JSONDecodeError'i bir yeniden denemeyle işleyin. Büyük çıkarma işleri için, ilk cevabın temiz olduğunu varsaymak yerine her yanıtı savunmacı olarak ayrıştırın.
Geri getirme, bellek ve geri çağırmalar
Bu API'nin gömme uç noktası yoktur, bu nedenle bir geri çağırma (retrieval) hattı gömmeler için ayrı bir kaynağa ihtiyaç duyar. Geri çağırma sonrası her şey düz sohbet gibidir. Tipik bir geri çağırma zinciri vektör deponuzdan en alakalı pasajları çeker, bunları isteme ekler ve modelden o metne dayanarak cevap vermesini ister. Bağlam penceresi 100.000 token olduğundan uzun pasajlar kullanabilirsiniz, ancak faturayı unutmayın: geri çağrılan bağlamın her token'ı girdi olarak milyon başına $0,15 fiyatlandırılır, bu nedenle 20.000 token bağlam soru başına $0,003'e mal olur.
Sohbet belleği için en basit yaklaşım, her çağrı öncesi token sayısına göre kırpacağınız bir mesaj listesidir. LangChain bunun için trim_messages gibi yardımcı programlar sunar. Sistem mesajını ve en son dönüşleri koruyun ve geçmiş sizin belirlediğiniz bir sınıra ulaştığında ortadaki kısmı silin veya özetleyin. Daha kısa bir geçmiş, cevapları odaklı tutar ve her dönüşün maliyetini düşürür, çünkü tüm geçmiş her seferinde girdi olarak yeniden gönderilir.
Geri çağırmalar, bir çağrının neye mal olduğunu kaydetmek için yerdir. Her yanıt, girdi ve tamamlama tokenları içeren bir kullanım bloğu içerir ve LangChain'de döndürülen mesaj bunu usage_metadata içinde taşır:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")
Sürpriz bir faturanın bir zincire izlenebilmesi için maliyeti istek kimliğiyle günlüğe kaydedin.
Sistem istemleri ve ton
Modelin yerleşik içerik reddetmeleri yoktur, bu nedenle sistem mesajı ürününüzün davranışını belirlediğiniz yerdir: persona, ton, kaçınması gereken konular ve yanıt formatı. Bunu yeni bir meslektaşınız için kısa bir brif hazırlıyormuş gibi yazın. Kısa ve spesifik, uzun ve belirsizden daha iyi çalışır. Reşit olmayanlar içeren içerik bu hizmette katı bir sınırdır, bu nedenle buna yaklaşan istemler oluşturmayın.
Göndermeden önce kısa bir kontrol listesi
- Anahtar bir ortam değişkeninde veya bir gizli depolamada bulunur, depoda asla bulunmaz.
max_concurrencyanahtarınızın limitine ayarlanır veya diğer hizmetler anahtarı paylaşıyorsa bunun altına.- Yeniden denemeler kısa bir geri çekilme kullanır ve
Retry-After: 5ile 429 yanıtlarına uyulur. - İstemci bağlantısı koptuğunda akışlar kapatılır böylece slotlar serbest bırakılır.
- JSON çıktıları savunmacı olarak ayrıştırılır ve doğrulanır.
- Maliyetler, kullanım bloğundan zincir başına günlüğe kaydedilir.
- Uç noktanın ulaşılamaz olduğu durumlar için bir yedek plan vardır, yedek plan bir hata mesajı bile olsa.
Bu listeye uyun ve entegrasyon diğer tüm LangChain sohbet modelleri gibi davranacaktır. Fark, diğer modellerin yasal yetişkin kullanım için reddettiği isteklerin cevaplandığı içerik tarafında yer alır.
Hız limitleri, eşzamanlılık ve yaygın hatalar
Tam bir anahtar 8 eşzamanlı istek ve dakika başına 300 istek izni verir. Bir deneme anahtarı 2 eşzamanlı istek ve dakika başına 60 istek izni verir. İstek gövdesi 8 MB'a kadar olabilir ve bağlam penceresi, istem ve tamamlama birlikte 100.000 token kapsar.
LangChain'in toplu yardımcı programları istekleri dağıtır, bu nedenle limitinizi anahtarınıza uygun bir tavanla ayarlayın:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})
Deneme anahtarında 2 değerini 8 yerine kullanın. Bir limite ulaştığınızda API, HTTP 429 döndürür ve rate_limited (dakika başına çok fazla istek) veya concurrency (aynı anda çok fazla) hata kodunu verir. Geçici aşırı yüklenmede de 429 döndürür ve Retry-After: 5 başlığını gönderir. İstemcinin max_retries ayarı geçici durumları yönetir, ancak concurrency hata kodunu tekrarlı olarak görürseniz, denemeleri artırmak yerine max_concurrency değerini düşürün.
- Her çağrıda bulunamadı hataları: base URL'nin
/v1ile bittiğini kontrol edin. - Kimlik doğrulama hatası: anahtar eksik veya yazım hatası içeriyor;
api_keyüzerinden geçirildiğini onaylayın. - Model hataları: model adı tam olarak
uncensoredolmalıdır. - Yavaş toplu çalıştırmalar: takılan akışlar eşzamanlılık slotlarını işgal eder; bu akışları kapatın veya bir zaman aşımı ayarlayın.
Fiyatlandırma, milyon giriş token'ı başına $0,15 ve milyon çıktı token'ı başına $0,50'dir; başarısız veya reddedilen istekler için ücret alınmaz. fiyatlandırma sayfası bakiye yükleme işlemlerini listeler ve dokümantasyon X-Request-Id ve X-Balance-USD dahil olmak üzere her parametreyi ve yanıt başlıklarını kapsar; bunlar bir LangChain callback'inde günlüğe kaydetmek için kullanışlıdır.
