逐步透過 API 使用 LLM 模型
使用託管語言模型只需透過金鑰、模型名稱和訊息清單進行一次 HTTP 請求。本指南將引導您從空資料夾開始,進行串流輸出、JSON 輸出和工具呼叫。

重點摘要
- API 與 OpenAI 相容:變更基本 URL 和金鑰,保留您的 SDK。
- 使用 POST /v1/chat/completions 搭配模型 ID uncensored。
- 串流輸出、JSON 模式和工具呼叫均可使用標準參數運作。
- 429 表示觸及限制,錯誤代碼會告知是哪一種。
首次請求前你需要準備什麼
如果你想知道如何在自己的程式碼中使用 LLM 模型端點,只需要三樣東西:金鑰、基本 URL 和模型名稱。不需要安裝特殊的客戶端。一旦你將 OpenAI SDK 或客戶端指向不同的地址,它們即可運作。
- Base URL:
https://api.llmmodelsapi.com/v1 - 模型 ID:
uncensored - 驗證:
Authorization: Bearer YOUR_KEY標頭,SDK 會自動為您新增
要取得金鑰,請使用 Google 或電子郵件與密碼註冊,然後開啟 API 金鑰頁面。新帳戶可一鍵領取 $0.50 的免費試用額度,無需信用卡,有效期為 7 天。這足以應付本文中的所有操作。該端點支援兩種方法:POST /v1/chat/completions 用於生成,以及 GET /v1/models 列出可用內容。
了解模型的特性有助於建立正確的期望。這是一個由獨立供應商運作的開放權重模型,經過微調以在法律允許的成人用途下無內容審查地回答。它並非任何大型廠商的官方 API,且僅處理文字。沒有影像或音訊生成、沒有嵌入(embeddings)也沒有微調(fine-tuning)。
步驟 1:使用 curl 檢查金鑰
在編寫任何應用程式程式碼之前,請確認金鑰和網路路徑是否運作。列出模型是最便宜的檢查方式,因為它不會生成任何內容。
export LLM_KEY="paste-your-key-here"
# the list should include the model id: uncensored
curl https://api.llmmodelsapi.com/v1/models -H "Authorization: Bearer $LLM_KEY"
你應該會得到一個包含 uncensored 的 JSON 列表。如果你看到 401 錯誤,表示金鑰有誤或遺漏了 Bearer 字串。現在發送一個真正的聊天請求。
curl https://api.llmmodelsapi.com/v1/chat/completions -H "Authorization: Bearer $LLM_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."}
],
"max_tokens": 150
}'
回覆包含一個 choices 陣列,文字位於 choices[0].message.content。回應標頭包含 X-Request-Id 和 X-Balance-USD,讓您在每次呼叫時都能看到剩餘的信用額度。usage 欄位顯示計費所用的 token。
步驟 2:從 Python 或 Node 呼叫
實際上您會使用 SDK。安裝官方的 OpenAI 套件,然後在建立客戶端時設定基本 URL。您的程式碼其餘部分無需變更。
Python
from openai import OpenAI
client = OpenAI(
base_url="https://api.llmmodelsapi.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in plain language."},
{"role": "user", "content": "Give me three names for a fantasy tavern."},
],
temperature=0.9,
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Node
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.llmmodelsapi.com/v1",
apiKey: process.env.LLM_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Summarise HTTP caching in one paragraph." }],
});
console.log(resp.choices[0].message.content);
將金鑰保留在環境變數中,而非原始碼檔案中。如果金鑰洩漏,請在金鑰頁面更換,舊金鑰就會失效。
步驟 3:使用參數調整輸出
該模型是文字預測器,因此您如何構建請求與參數同樣重要。養成一些好習慣能立即見效。
- 使用系統訊息來設定常規規則。 將語氣、格式和角色設定在此,並將使用者訊息用於實際任務。
- 明確指定長度。 要求「三個要點」或「120 字以內」。這比僅降低
max_tokens更可靠,後者會在句子中途截斷文字。 - 根據任務調整 temperature。 0.2 左右適合提取和分類。0.8 到 1.0 左右適合小說和角色扮演。
- 傳入您需要的參數。
top_p、stop、seed以及頻率和存在懲罰都會傳送至模型。
上下文視窗為 100,000 token,計算提示詞與完成內容合計。您無需設定 max_tokens,因為答案可以使用剩餘的任何空間。設定它是一種控制成本上限的好方法。
學習這些設定的一個實用方法是,以不同的 temperature 執行相同的提示詞三次並進行比較。每次執行只變更一個值,其餘保持固定,並在可能的情況下使用相同的 seed。經過十分鐘的實驗後,您對模型在您的任務中的行為了解程度將遠勝於任何描述,而實驗的成本僅為幾分之一美分。
價格為每百萬輸入 token $0.15,每百萬輸出 token $0.50。一個包含 1,500 個輸入 token 和 400 個輸出 token 的請求成本為 1,500 x 0.15 / 1,000,000 = $0.000225 加上 400 x 0.50 / 1,000,000 = $0.0002,總計 $0.000425。定價頁面有儲值選項。
步驟 4:串流輸出回應
在互動式應用程式中等待完整答案感覺很慢。透過 stream: true,伺服器會以伺服器發送事件(SSE)傳送 token,您的 UI 可以在它們到達時列印它們。串流結束時會報告用量。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short story opening about a lighthouse."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
關於並行性要記住的一點:串流請求會佔用其槽位直到串流結束。完整金鑰允許 8 個並行請求,試用金鑰允許 2 個。如果在瀏覽器中開啟串流卻從未關閉,該槽位將保持忙碌。
步驟 5:JSON 模式和工具呼叫
當其他程式必須讀取答案時,自由文字會成為問題。JSON 模式要求模型回傳一個有效的 JSON 物件。
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Describe a post about growing tomatoes on a balcony."},
],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])
也在提示詞中描述你想要的結構,因為 JSON 模式保證語法正確,但不保證你的欄位名稱。將解析過程包裹在 try 區塊中,如果失敗則重試一次。
工具呼叫讓模型要求您的程式碼執行函式。您描述工具,模型以 tool_calls 條目回覆,您執行它並將結果以 role: "tool" 訊息傳送回去。
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
tools = [{
"type": "function",
"function": {
"name": "get_time",
"description": "Return the current time for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What time is it in Lisbon?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"time": "14:05"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
在生產環境中,請在索引之前檢查 tool_calls 是否存在,因為模型可能會直接回答而非呼叫函式。tool_choice 參數讓您在需要時強制或禁止呼叫。
保持對話持續
API 在呼叫之間沒有記憶。如果您希望模型記住兩輪前說過的內容,請再次傳送這些輪次。因此聊天應用程式是一個增長的清單:您新增使用者訊息,呼叫 API,新增助手回覆,然後重複。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a friendly writing coach."}]
def say(text):
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(model="uncensored", messages=history, max_tokens=300)
reply = resp.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
print(say("Give me a tip for opening a short story."))
print(say("Now apply it to a story about a night train."))
由於每次呼叫都攜帶整個清單,成本和延遲會隨著對話增長。一旦歷史記錄變長,請刪除最舊的輪次或將其替換為一段摘要。您有大量的空間,因為 100,000 token 大約相當於短篇小說的長度,但沒有理由為不再有助於答案的 token 付費。
出於相同原因,請保持系統訊息簡短且穩定。它會在每次呼叫時傳送,因此 1,000 token 的系統提示詞在 500 次請求中會產生 500,000 個輸入 token,僅此一項成本就為 500,000 x 0.15 / 1,000,000 = $0.075。
初學者常犯的錯誤
- 忘記附加助手回覆。 模型隨後只能看到你的問題,而失去上下文脈絡。
- 在前端放置機密。 瀏覽器程式碼中的金鑰對所有人可見。請從您的伺服器呼叫 API,並暴露您自己的端點。
- 期望從文字預測器獲取事實。 模型可以自信地陳述錯誤的細節。當準確性很重要時,請在提示詞中提供來源文字,並檢查重要的輸出。
- 解析自由文字。 如果程式必須讀取答案,請使用 JSON 模式或工具呼叫,而非正則表達式。
錯誤、限制與後續步驟
大多數問題歸類於一個短清單中。
| 症狀 | 可能原因 | 修復方法 |
|---|---|---|
| 401 回應 | 遺漏或錯誤的金鑰 | 檢查 Bearer 標頭和金鑰頁面上的金鑰 |
429,程式碼 rate_limited | 超過每分鐘 300 次請求(試用金鑰為 60) | 減速或佇列請求 |
429,程式碼 concurrency | 一次超過 8 個請求(試用金鑰為 2 個) | 限制並行工作執行緒,關閉開啟的串流輸出 |
429 帶有 Retry-After: 5 | 暫時過載 | 等待 5 秒後重試 |
| 請求過大 | 主體超過 8 MB | 每次呼叫傳送較少的文字 |
簡單的重新嘗試並加上短延遲即可處理 429 錯誤。失敗的請求不會計費,因此重新嘗試不會產生額外費用。提示詞不會用於訓練。
從這裡開始,API 文件 列出了每個參數,而 按 token 付費概覽 說明了服務對象。一條規則適用於所有地方:涉及未成年人的性內容絕對禁止。
更多指南
問答
請求中要傳送哪個模型 ID?
在每個請求中使用 uncensored 作為模型值。你可以透過呼叫 GET /v1/models 來確認。
我需要特殊的 SDK 嗎?
不行。只要將 Base URL 變更為 https://api.llmmodelsapi.com/v1 並使用你自己的金鑰,任何 OpenAI SDK 或客戶端均可使用。
我可以不使用信用卡嗎?
可以,用於測試。新用戶在註冊後可一鍵領取 $0.50 的免費試用額度,無需信用卡,有效期為 7 天。
我的提示詞可以有多長?
上下文視窗為 100,000 token(提示詞與完成內容合計),請求主體最多可達 8 MB。
只差一張表單,即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。