Cara Menggunakan Model LLM Melalui API, Langkah demi Langkah
Menggunakan model bahasa yang di-hosting hanya memerlukan satu panggilan HTTP dengan kunci, nama model, dan daftar pesan. Panduan ini membawa Anda dari folder kosong hingga streaming, output JSON, dan panggilan alat.

Poin-poin utama
- API ini kompatibel dengan OpenAI: ubah URL dasar dan kunci, gunakan SDK Anda.
- Gunakan model ID uncensored dengan POST /v1/chat/completions.
- Streaming, mode JSON, dan pemanggilan fungsi semuanya berfungsi dengan parameter standar.
- 429 berarti batas telah terlampaui, dan kode kesalahan memberi tahu Anda mana yang tercapai.
Yang Anda butuhkan sebelum permintaan pertama
Jika Anda ingin tahu cara menggunakan endpoint model LLM dalam kode Anda sendiri, tiga hal sudah cukup: kunci, base URL, dan nama model. Tidak ada klien khusus yang perlu diinstal. SDK atau klien OpenAI apa pun bekerja setelah Anda mengarahkannya ke alamat lain.
- URL dasar:
https://api.llmmodelsapi.com/v1 - ID Model:
uncensored - Otentikasi: header
Authorization: Bearer YOUR_KEY, yang ditambahkan oleh SDK untuk Anda
Untuk mendapatkan kunci, daftar dengan Google atau dengan email dan kata sandi, lalu buka halaman kunci API. Akun baru dapat mengklaim kredit uji coba senilai $0,50 di sana dengan satu klik, tanpa kartu, berlaku selama 7 hari. Itu cukup untuk semua yang ada dalam artikel ini. Endpoint mendukung dua metode: POST /v1/chat/completions untuk generasi dan GET /v1/models untuk melihat apa yang tersedia.
Penting untuk mengetahui apa modelnya, agar ekspektasi Anda tepat. Ini adalah satu model bobot terbuka yang dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API resmi dari vendor besar mana pun, dan hanya menangani teks. Tidak ada generasi gambar atau audio, tidak ada embedding, dan tidak ada fine-tuning.
Langkah 1: periksa kunci dengan curl
Sebelum menulis kode aplikasi apa pun, konfirmasi bahwa kunci dan jalur jaringan berfungsi. Mendaftar model adalah pemeriksaan termurah karena tidak menghasilkan apa pun.
export LLM_KEY="paste-your-key-here"
# the list should include the model id: uncensored
curl https://api.llmmodelsapi.com/v1/models -H "Authorization: Bearer $LLM_KEY"
Anda harus mendapatkan daftar JSON yang mencakup uncensored. Jika Anda melihat 401, kunci salah atau hilang kata Bearer. Sekarang kirim permintaan chat yang sebenarnya.
curl https://api.llmmodelsapi.com/v1/chat/completions -H "Authorization: Bearer $LLM_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."}
],
"max_tokens": 150
}'
Respons berisi array choices, dan teks berada di choices[0].message.content. Header respons membawa X-Request-Id dan X-Balance-USD, sehingga Anda dapat melihat sisa kredit Anda pada setiap panggilan. Bidang usage menunjukkan token yang dihitung untuk penagihan.
Langkah 2: panggil dari Python atau Node
Dalam praktiknya, Anda akan menggunakan SDK. Instal paket OpenAI resmi, lalu atur base URL saat Anda membuat klien. Tidak ada perubahan lain pada kode Anda.
Python
from openai import OpenAI
client = OpenAI(
base_url="https://api.llmmodelsapi.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in plain language."},
{"role": "user", "content": "Give me three names for a fantasy tavern."},
],
temperature=0.9,
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Node
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.llmmodelsapi.com/v1",
apiKey: process.env.LLM_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Summarise HTTP caching in one paragraph." }],
});
console.log(resp.choices[0].message.content);
Simpan kunci dalam variabel lingkungan, bukan dalam file sumber. Jika kunci bocor, ganti di halaman kunci dan kunci lama tidak akan berfungsi.
Langkah 3: bentuk output dengan parameter
Model adalah prediktor teks, sehingga cara Anda merumuskan permintaan sama pentingnya dengan parameter. Beberapa kebiasaan memberikan hasil segera.
- Gunakan pesan sistem untuk aturan tetap. Masukkan nada, format, dan peran di sana, dan simpan pesan pengguna untuk tugas sebenarnya.
- Spesifikkan panjang. Minta "tiga poin" atau "di bawah 120 kata". Ini lebih andal daripada hanya menurunkan
max_tokens, yang memotong teks di tengah kalimat. - Sesuaikan suhu untuk pekerjaan. Sekitar 0,2 cocok untuk ekstraksi dan klasifikasi. Sekitar 0,8 hingga 1,0 cocok untuk fiksi dan bermain peran.
- Berikan yang Anda butuhkan.
top_p,stop,seeddan penalti frekuensi serta kehadiran diteruskan ke model.
Jendela konteks adalah 100.000 token, menghitung prompt dan hasil bersama-sama. Anda tidak perlu mengatur max_tokens, karena jawaban dapat menggunakan ruang yang tersisa. Mengaturnya tetap merupakan cara yang baik untuk menetapkan batas biaya.
Cara praktis untuk mempelajari pengaturan ini adalah menjalankan prompt yang sama tiga kali pada suhu berbeda dan membandingkannya. Ubah satu nilai per eksekusi dan biarkan sisanya tetap, menggunakan seed yang sama jika memungkinkan. Setelah sepuluh menit melakukan ini, Anda akan mengetahui perilaku model untuk tugas Anda jauh lebih baik daripada deskripsi mana pun dapat memberi tahu Anda, dan biaya eksperimen adalah sebagian kecil sen.
Harga adalah $0,15 per juta token input dan $0,50 per juta token output. Permintaan dengan 1.500 token input dan 400 token output berharga 1.500 x 0,15 / 1.000.000 = $0,000225 ditambah 400 x 0,50 / 1.000.000 = $0,0002, sehingga total $0,000425. Halaman harga memiliki opsi top up.
Langkah 4: alirkan respons
Menunggu jawaban lengkap terasa lambat di aplikasi interaktif. Dengan stream: true server mengirim token sebagai peristiwa yang dikirim server, dan UI Anda dapat mencetaknya saat tiba. Penggunaan dilaporkan di akhir aliran.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short story opening about a lighthouse."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
Satu hal yang perlu diingat tentang konkurensi: permintaan yang dialirkan menempati slotnya hingga aliran selesai. Kunci penuh memungkinkan 8 permintaan konkuren, kunci uji coba memungkinkan 2. Jika Anda membuka aliran di browser dan tidak pernah menutupnya, slot itu tetap sibuk.
Langkah 5: mode JSON dan pemanggilan alat
Ketika program lain harus membaca jawaban, teks bebas menjadi masalah. Mode JSON meminta model untuk mengembalikan objek JSON yang valid.
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Describe a post about growing tomatoes on a balcony."},
],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])
Jelaskan bentuk yang Anda inginkan dalam prompt juga, karena mode JSON menjamin sintaksis yang valid, bukan nama bidang yang tepat. Bungkus parsing dalam blok try dan coba lagi sekali jika gagal.
Tool calling memungkinkan model meminta kode Anda menjalankan fungsi. Anda mendeskripsikan alatnya, model membalas dengan entri tool_calls, Anda menjalankannya, dan mengirimkan hasilnya kembali sebagai pesan dengan role: "tool".
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
tools = [{
"type": "function",
"function": {
"name": "get_time",
"description": "Return the current time for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What time is it in Lisbon?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"time": "14:05"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
Dalam produksi, periksa apakah tool_calls ada sebelum mengaksesnya, karena model mungkin menjawab langsung alih-alih memanggil fungsi. Parameter tool_choice memungkinkan Anda memaksa atau melarang panggilan ketika Anda membutuhkannya.
Melanjutkan percakapan
API tidak memiliki memori antar panggilan. Jika Anda ingin model mengingat apa yang dikatakan dua giliran yang lalu, kirimkan giliran tersebut lagi. Aplikasi chat oleh karena itu adalah daftar yang tumbuh: Anda menambahkan pesan pengguna, memanggil API, menambahkan balasan asisten, dan mengulangi prosesnya.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a friendly writing coach."}]
def say(text):
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(model="uncensored", messages=history, max_tokens=300)
reply = resp.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
print(say("Give me a tip for opening a short story."))
print(say("Now apply it to a story about a night train."))
Karena setiap panggilan membawa seluruh daftar, biaya dan latensi bertambah seiring percakapan. Setelah riwayat menjadi panjang, hapus giliran tertua atau ganti dengan ringkasan satu paragraf. Anda memiliki banyak ruang, karena 100.000 token kira-kira sepanjang novel pendek, tetapi tidak ada alasan untuk membayar token yang tidak lagi membantu jawaban.
Untuk alasan yang sama, pertahankan pesan sistem agar pendek dan stabil. Ini dikirim pada setiap panggilan, sehingga prompt sistem 1.000 token selama 500 permintaan adalah 500.000 token input, yang berharga 500.000 x 0,15 / 1.000.000 = $0,075 saja.
Kesalahan yang sering dilakukan pemula
- Lupa menambahkan balasan asisten. Model kemudian hanya melihat pertanyaan Anda dan kehilangan alurnya.
- Menaruh rahasia di front end. Kunci di dalam kode browser terlihat oleh semua orang. Panggil API dari server Anda dan ekspos endpoint Anda sendiri sebagai gantinya.
- Mengharapkan fakta dari prediktor teks. Model dapat menyatakan detail yang salah dengan percaya diri. Berikan teks sumber dalam prompt ketika akurasi penting, dan periksa output penting.
- Menguraikan teks bebas. Jika kode harus membaca jawaban, gunakan mode JSON atau panggilan alat alih-alih ekspresi reguler.
Kesalahan, batas, dan langkah selanjutnya
Kebanyakan masalah masuk dalam daftar pendek.
| Gejala | Penyebab yang mungkin | Perbaikan |
|---|---|---|
| Respons 401 | Kunci hilang atau salah | Periksa header Bearer dan kunci di halaman kunci |
429, kode rate_limited | Lebih dari 300 permintaan per menit (60 pada kunci trial) | Perlambat atau antrikan permintaan |
429, kode concurrency | Lebih dari 8 permintaan sekaligus (2 pada kunci trial) | Batasi pekerja paralel, tutup stream yang terbuka |
429 dengan Retry-After: 5 | Beban berlebih sementara | Tunggu 5 detik dan coba lagi |
| Permintaan terlalu besar | Body lebih dari 8 MB | Kirim teks lebih sedikit per panggilan |
Percobaan ulang sederhana dengan jeda singkat menangani kasus 429. Permintaan yang gagal tidak dikenakan biaya, sehingga mencoba lagi tidak menambah biaya. Prompt tidak digunakan untuk pelatihan.
Dari sini, dokumentasi API mencantumkan setiap parameter, dan ikhtisar bayar per token mencakup siapa layanan ini untuk. Satu aturan berlaku di mana saja: konten seksual yang melibatkan anak di bawah umur tidak pernah diizinkan.
Panduan lainnya
Tanya jawab
Model ID mana yang saya kirim dalam permintaan?
Gunakan uncensored sebagai nilai model dalam setiap permintaan. Anda dapat mengonfirmasinya dengan memanggil GET /v1/models.
Apakah saya memerlukan SDK khusus?
Tidak. SDK atau klien OpenAI apa pun berfungsi setelah Anda mengubah URL dasar menjadi https://api.llmmodelsapi.com/v1 dan menggunakan kunci Anda sendiri.
Bisakah saya menggunakannya tanpa kartu kredit?
Ya, untuk pengujian. Pengguna baru dapat mengklaim $0.50 kredit uji coba dengan satu klik setelah pendaftaran, tanpa kartu, berlaku selama 7 hari.
Seberapa besar prompt saya bisa?
Jendela konteks adalah 100.000 token untuk prompt dan penyelesaian bersama-sama, dan badan permintaan dapat mencapai 8 MB.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.