Yang Anda butuhkan sebelum memulai
LangChain berbicara dengan server apa pun yang mengimplementasikan protokol penyelesaian obrolan OpenAI, sehingga tidak ada integrasi khusus yang perlu diinstal. Titik awal Anda adalah paket yang sama yang akan Anda gunakan untuk OpenAI itu sendiri: langchain-openai untuk Python atau @langchain/openai untuk Node. Hanya ada tiga nilai yang berubah.
- Base URL:
https://api.deepseekapipricing.com/v1 - Model:
uncensored - Kunci: dikirim sebagai
Authorization: Bearer <key>, yang dilakukan klien untuk Anda
Klarifikasi mengenai penamaan. Endpoint ini adalah layanan independen yang menjalankan satu model bobot terbuka yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API DeepSeek resmi dan bukan perutean antar vendor, sehingga nama model selalu uncensored, bukan ID model vendor. Jika Anda membutuhkan kunci, halaman kunci API menampilkan langkah-langkah pendaftaran dan uji coba $0,50 satu klik.
Instal dan buat panggilan pertama di Python
Instal paketnya:
pip install -U langchain-openai langchain-core
# then use base_url https://api.deepseekapipricing.com/v1 and model "uncensored"
Kemudian buat objek model. Lewatkan kunci secara eksplisit daripada mengandalkan variabel lingkungan OPENAI_API_KEY, yang mungkin berisi kunci OpenAI asli yang tidak ingin Anda kirim ke host lain.
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
temperature=0.7,
max_retries=2,
)
print(llm.invoke("Say hello in five words.").content)
Jika ini mencetak salam, koneksi, kunci, dan nama model semuanya benar. Kesalahan paling umum pada tahap ini adalah melewatkan /v1 di base URL, yang biasanya menghasilkan kesalahan not-found.
Prompt, rantai, dan streaming
Dari sini, LangChain bekerja seperti biasa. Template prompt, model, dan parser output menyusun rantai dengan operator pipa:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
prompt = ChatPromptTemplate.from_messages([
("system", "You write tight, vivid scene descriptions for adult fiction."),
("human", "Describe this setting in under 80 words: {setting}"),
])
chain = prompt | llm | StrOutputParser()
print(chain.invoke({"setting": "a flooded subway station at night"}))
Streaming berjalan melalui server-sent events. Di LangChain, Anda memanggil stream, dan setiap chunk membawa potongan teks. Atur stream_usage=True pada model jika Anda ingin menghitung token di akhir stream; API mengirimkan penggunaan di event terakhir.
llm_stream = ChatOpenAI(
model="uncensored",
base_url="https://api.deepseekapipricing.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
stream_usage=True,
)
for chunk in llm_stream.stream("Write a four-line poem about a night train."):
print(chunk.content, end="", flush=True)
Permintaan yang di-streaming menjaga slot concurrency-nya hingga stream selesai, jadi jika Anda meninggalkan stream tanpa menutupnya, slot itu tetap sibuk lebih lama dari yang Anda harapkan.
Node dan TypeScript
Paket JavaScript mengambil base URL di dalam objek configuration:
import { ChatOpenAI } from "@langchain/openai";
const llm = new ChatOpenAI({
model: "uncensored",
apiKey: process.env.UNCENSORED_API_KEY,
configuration: { baseURL: "https://api.deepseekapipricing.com/v1" },
maxRetries: 2,
});
const res = await llm.invoke("Say hello in five words.");
console.log(res.content);
const stream = await llm.stream("Write a four-line poem about a night train.");
for await (const chunk of stream) {
process.stdout.write(chunk.content);
}
Jalankan sebagai modul ES ("type": "module" di package.json, atau file .mjs). Segala sesuatu lainnya di API Node, termasuk template prompt dan runnables, berperilaku seperti pada model obrolan lainnya.
Pemanggilan alat dan agen
API mendukung format alat OpenAI: parameter tools dan tool_choice, tool_calls yang di-streaming, dan hasil alat yang dikembalikan sebagai pesan dengan role: "tool". Di LangChain, Anda mendeklarasikan alat dengan dekorator dan melampirkannya dengan bind_tools:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
from langchain_core.tools import tool
from langchain_core.messages import HumanMessage, ToolMessage
@tool
def order_status(order_id: str) -> str:
"""Return the shipping status of an order."""
return f"Order {order_id} left the warehouse yesterday."
llm_tools = llm.bind_tools([order_status])
messages = [HumanMessage("Where is order 1042?")]
ai = llm_tools.invoke(messages)
messages.append(ai)
for call in ai.tool_calls:
result = order_status.invoke(call["args"])
messages.append(ToolMessage(content=result, tool_call_id=call["id"]))
print(llm_tools.invoke(messages).content)
Menulis loop secara manual sekali sepadan dengan sepuluh menit. Ini menunjukkan kepada Anda apa yang dikembalikan model, argumen mana yang dipilihnya untuk setiap panggilan, dan di mana deskripsi alat yang buruk mengarah pada tebakan yang salah. Setelah itu jelas, beralihlah ke agen yang sudah jadi dan simpan versi yang ditulis tangan sebagai referensi debugging.
Itu adalah seluruh loop secara manual: model meminta alat, Anda menjalankannya, Anda mengembalikan hasilnya, dan model menulis jawaban akhir. Jika Anda lebih suka loop agen yang sudah jadi, paket langgraph menawarkan create_react_agent(llm, [order_status]), dan Anda memanggilnya dengan {"messages": [("user", "Where is order 1042?")]}.
Seberapa baik model memilih alat bergantung pada modelnya, jadi uji dengan skema alat asli Anda. Deskripsi alat yang singkat dan spesifik serta suhu rendah membantu. Agen yang membuat enam panggilan dengan riwayat yang tumbuh sekitar 27.000 token input secara total dan 1.800 token output menelan biaya sekitar $0,00405 ditambah $0,0009, atau sekitar setengah sen.
Output terstruktur dengan mode JSON
Mode JSON didukung melalui response_format. Bind ke model dan juga katakan di prompt bahwa Anda menginginkan JSON dengan kunci tertentu, karena flag format mengontrol sintaks, bukan skema Anda:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
import json
json_llm = llm.bind(response_format={"type": "json_object"})
msg = json_llm.invoke(
"Return a JSON object with keys title (string) and tags (list of 3 strings) "
"for a short story about a lighthouse keeper."
)
data = json.loads(msg.content)
print(data["title"], data["tags"])
Validasikan hasil yang diparsing dengan Pydantic atau pemeriksaan Anda sendiri sebelum mempercayainya, dan tangani json.JSONDecodeError dengan satu percobaan ulang. Untuk pekerjaan ekstraksi besar, parsing setiap respons secara defensif daripada mengasumsikan yang pertama bersih.
Retrieval, memori, dan callback
API ini tidak memiliki endpoint embedding, sehingga pipeline retrieval memerlukan sumber embedding terpisah. Segala sesuatu setelah pengambilan adalah obrolan biasa. Rantai pengambilan khas menarik bagian-bagian teratas dari vector store Anda, menempelkannya ke dalam prompt, dan meminta model untuk menjawab berdasarkan teks tersebut. Karena jendela konteks adalah 100.000 token, Anda dapat mengalokasikan bagian-bagian yang panjang, tetapi ingat tagihan: setiap token konteks yang diambil adalah input pada $0,15 per juta, sehingga 20.000 token konteks menelan biaya $0,003 per pertanyaan.
Untuk memori obrolan, pendekatan paling sederhana adalah daftar pesan yang Anda pangkas berdasarkan jumlah token sebelum setiap panggilan. LangChain menawarkan helper seperti trim_messages untuk ini. Simpan pesan sistem dan giliran terbaru, dan hapus atau ringkaskan bagian tengah begitu riwayat mencapai batas yang Anda pilih. Riwayat yang lebih kecil juga menjaga jawaban tetap fokus, dan menurunkan biaya setiap giliran, karena seluruh riwayat dikirim ulang sebagai input setiap kali.
Callback adalah tempat untuk mencatat biaya panggilan. Setiap respons mencakup blok penggunaan dengan token prompt dan penyelesaian, dan di LangChain pesan yang dikembalikan membawanya di usage_metadata:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
msg = llm.invoke("Name three rivers.")
u = msg.usage_metadata
cost = u["input_tokens"] * 0.15 / 1_000_000 + u["output_tokens"] * 0.50 / 1_000_000
print(u, f"${cost:.6f}")
Catat biaya dengan ID permintaan agar tagihan yang mengejutkan dapat dilacak ke satu rantai.
Prompt sistem dan nada
Model tidak memiliki penolakan konten bawaan, sehingga pesan sistem adalah tempat Anda menetapkan perilaku produk Anda: persona, nada, topik yang harus dihindari, dan format balasan. Tulis seperti yang Anda lakukan untuk rekan baru. Pendek dan spesifik bekerja lebih baik daripada panjang dan samar. Konten yang melibatkan anak di bawah umur adalah batas keras pada layanan ini, jadi jangan membuat prompt yang mendekati itu.
Daftar periksa singkat sebelum Anda meluncurkan
- Kunci berada di variabel lingkungan atau secret store, bukan di repositori.
max_concurrencydiatur ke batas kunci Anda, atau di bawahnya jika layanan lain berbagi kunci.- Percobaan ulang menggunakan back-off singkat, dan respons 429 dengan
Retry-After: 5dihormati. - Stream ditutup saat klien terputus sehingga slot dibebaskan.
- Output JSON diparsing secara defensif dan divalidasi.
- Biaya dicatat per rantai dari blok penggunaan.
- Ada fallback untuk kasus di mana endpoint tidak dapat dijangkau, meskipun fallbacknya adalah pesan kesalahan.
Ikuti daftar itu dan integrasi akan berperilaku seperti model obrolan LangChain lainnya. Perbedaannya ada di sisi konten, di mana permintaan yang ditolak model lain untuk penggunaan dewasa yang sah dijawab.
Batas laju, concurrency, dan kesalahan umum
Kunci penuh memungkinkan 8 permintaan konkuren dan 300 permintaan per menit. Kunci uji coba memungkinkan 2 permintaan konkuren dan 60 per menit. Body permintaan bisa hingga 8 MB, dan jendela konteks adalah 100.000 token mencakup prompt dan penyelesaian secara bersama.
Helper batch LangChain menyebarkan permintaan, jadi atur batas atas yang sesuai dengan kunci Anda:
# llm = ChatOpenAI(model="uncensored", base_url="https://api.deepseekapipricing.com/v1", ...)
inputs = [{"setting": s} for s in ["a rooftop garden", "a desert diner", "a quiet harbor"]]
results = chain.batch(inputs, config={"max_concurrency": 8})
Gunakan 2 bukan 8 pada kunci uji coba. Ketika Anda melebihi batas, API mengembalikan HTTP 429 dengan kode kesalahan rate_limited (terlalu banyak permintaan per menit) atau concurrency (terlalu banyak sekaligus). Saat kelebihan beban sementara, itu juga mengembalikan 429, dengan header Retry-After: 5. Pengaturan max_retries di klien menangani kasus sementara, tetapi jika Anda melihat kode kesalahan concurrency berulang kali, turunkan max_concurrency daripada menambahkan percobaan ulang.
- Kesalahan tidak ditemukan pada setiap panggilan: periksa apakah base URL berakhir dengan
/v1. - Kesalahan autentikasi: kunci hilang atau memiliki salah ketik; konfirmasi bahwa itu dilewatkan melalui
api_key. - Kesalahan model: nama model harus tepat
uncensored. - Eksekusi batch lambat: aliran yang macet menahan slot konkurensi, jadi tutup atau atur batas waktu.
Harga adalah $0,15 per juta token input dan $0,50 per juta token output, dan permintaan yang gagal atau ditolak tidak dikenakan biaya. Halaman harga mencantumkan isi saldo, dan dokumentasi mencakup setiap parameter dan header respons, termasuk X-Request-Id dan X-Balance-USD, yang berguna untuk dicatat dalam callback LangChain.
