中文 ▾
获取 API 密钥

通过 API 使用 LLM 模型的分步指南

使用托管语言模型只需一次包含密钥、模型名称和消息列表的 HTTP 请求。本指南将带你从空文件夹开始,实现流式输出、JSON 输出和工具调用。

更新于

终端连接到聊天气泡立方体,数据在其中流式传输,代表 LLM API 调用
01

要点

  • 该 API 与 OpenAI 兼容:更改 Base URL 和密钥,保留你的 SDK。
  • 在 POST /v1/chat/completions 中使用模型 ID uncensored。
  • 流式输出、JSON 模式和工具调用均支持标准参数。
  • 429 表示触发了限制,错误代码会告知具体是哪一项。

首次请求前的准备工作

如果你想在代码中使用 LLM 模型接口,只需三样东西:密钥、Base URL 和模型名称。无需安装特殊客户端。一旦将 OpenAI SDK 或客户端指向不同的地址,即可使用。

  • Base URL: https://api.llmmodelsapi.com/v1
  • 模型 ID: uncensored
  • 认证: 使用 Authorization: Bearer YOUR_KEY 头,SDK 会自动添加。

要获取密钥,请使用 Google 或电子邮件和密码注册,然后打开 API 密钥页面。新账户可以一键领取 $0.50 的试用额度,无需信用卡,有效期为 7 天。这足以完成本文中的所有操作。该接口支持两种方法:用于生成的 POST /v1/chat/completions 和用于列出可用模型的 GET /v1/models。

了解模型特性有助于建立正确的预期。该模型由独立供应商运营,是一个开放权重模型,针对合法成人用途进行了优化,在输出时不进行内容审查。它不是任何大型厂商的官方 API,且仅支持文本。不支持图像或音频生成、嵌入和微调。

步骤 1:使用 curl 检查密钥

在编写任何应用程序代码之前,请确认密钥和网络路径是否有效。列出模型是最便宜的检查方式,因为它不会生成任何内容。

export LLM_KEY="paste-your-key-here"

# the list should include the model id: uncensored

curl https://api.llmmodelsapi.com/v1/models   -H "Authorization: Bearer $LLM_KEY"

你应该获得一个包含 uncensored 的 JSON 列表。如果看到 401 错误,说明密钥错误或请求头中缺少 Bearer 字样。现在发送一个真实的聊天请求。

curl https://api.llmmodelsapi.com/v1/chat/completions   -H "Authorization: Bearer $LLM_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a context window is in two sentences."}
    ],
    "max_tokens": 150
  }'

回复包含一个 choices 数组,文本位于 choices[0].message.content。响应头包含 X-Request-Id 和 X-Balance-USD,以便你在每次调用时查看剩余额度。usage 字段显示用于计费的 token 数量。

步骤 2:从 Python 或 Node 调用

在实际使用中,你将使用 SDK。安装官方的 OpenAI 包,然后在创建客户端时设置 Base URL。你的代码其余部分无需更改。

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmmodelsapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in plain language."},
        {"role": "user", "content": "Give me three names for a fantasy tavern."},
    ],
    temperature=0.9,
    max_tokens=200,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmmodelsapi.com/v1",
  apiKey: process.env.LLM_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Summarise HTTP caching in one paragraph." }],
});

console.log(resp.choices[0].message.content);

将密钥保存在环境变量中,而不是源代码文件中。如果密钥泄露,请在密钥页面替换它,旧密钥将失效。

步骤 3:通过参数调整输出

该模型是一个文本预测器,因此你如何构造请求与参数设置同样重要。养成一些习惯会立即见效。

  • 使用系统消息设置固定规则。 将语气、格式和角色放在那里,将用户消息用于实际任务。
  • 具体说明长度。 要求“三个要点”或“120 字以内”。这比仅降低 max_tokens 更可靠,后者会在句子中间截断文本。
  • 根据任务调整 temperature。 0.2 左右适合提取和分类。0.8 到 1.0 左右适合小说和角色扮演。
  • 传递你需要的参数。 top_p、stop、seed 以及频率惩罚和存在性惩罚将传递给模型。

上下文窗口为 100,000 token,包含提示词和补全。你无需设置 max_tokens,因为回答可以使用剩余的任何空间。设置它也是控制成本上限的好方法。

学习这些设置的一个实用方法是在不同温度下对同一提示词运行三次并比较结果。每次运行只更改一个值,其余保持不变,并在可能的情况下使用相同的 seed。经过十分钟的测试,你将比任何描述都更清楚地了解模型在你任务中的表现,而实验的成本不到一分钱。

定价为每百万输入 token $0.15,每百万输出 token $0.50。包含 1,500 个输入 token 和 400 个输出 token 的请求成本为 1,500 x 0.15 / 1,000,000 = $0.000225 加上 400 x 0.50 / 1,000,000 = $0.0002,总计 $0.000425。定价页面 提供了充值选项。

步骤 4:流式输出响应

在交互式应用中等待完整回答感觉会很慢。启用 stream: true 后,服务器会通过服务器发送事件 (SSE) 发送 token,你的 UI 可以在 token 到达时将其打印出来。使用情况将在流结束时报告。

from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short story opening about a lighthouse."}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

关于并发的一个要点:流式请求会占用其槽位直到流结束。完整密钥允许 8 个并发请求,试用密钥允许 2 个。如果在浏览器中打开流且永不关闭,该槽位将保持忙碌。

步骤 5:JSON 模式和函数调用

当另一个程序需要读取答案时,自由文本会成为问题。JSON 模式要求模型返回有效的 JSON 对象。

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
        {"role": "user", "content": "Describe a post about growing tomatoes on a balcony."},
    ],
)

data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

在提示词中也描述你想要的结构,因为 JSON 模式保证语法有效,但不保证你的确切字段名。将解析代码包裹在 try 块中,如果失败则重试一次。

工具调用允许模型要求你的代码运行函数。你描述这些工具,模型回复一个 tool_calls 条目,你运行它并将结果作为带有 role: "tool" 的消息发回。

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

tools = [{
    "type": "function",
    "function": {
        "name": "get_time",
        "description": "Return the current time for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

messages = [{"role": "user", "content": "What time is it in Lisbon?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]

messages.append(first.choices[0].message)
messages.append({
    "role": "tool",
    "tool_call_id": call.id,
    "content": json.dumps({"time": "14:05"}),
})

final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)

在生产环境中,在索引之前检查 tool_calls 是否存在,因为模型可能会直接回答而不是调用函数。tool_choice 参数允许你在需要时强制或禁止调用。

保持对话继续

API 在调用之间没有记忆。如果你希望模型记住两轮前说过的内容,请再次发送这些轮次。因此,聊天应用是一个增长的列表:你追加用户消息,调用 API,追加助手回复,然后重复。

from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a friendly writing coach."}]

def say(text):
    history.append({"role": "user", "content": text})
    resp = client.chat.completions.create(model="uncensored", messages=history, max_tokens=300)
    reply = resp.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

print(say("Give me a tip for opening a short story."))
print(say("Now apply it to a story about a night train."))

由于每次调用都携带整个列表,成本和延迟会随着对话而增长。一旦历史记录变长,请删除最旧的轮次或将其替换为一段摘要。你有大量空间,因为 100,000 token 大约是一本短篇小说的长度,但没有理由为不再有助于回答的 token 付费。

出于同样的原因,保持系统消息简短且稳定。它在每次调用时发送,因此 1,000 token 的系统提示词在 500 次请求中就是 500,000 个输入 token,仅这一项成本就是 500,000 x 0.15 / 1,000,000 = $0.075。

新手常犯的错误

  • 忘记附加助手回复。 模型随后只能看到你的问题并失去连贯性。
  • 在前端放置密钥。 浏览器代码中的密钥对所有人可见。从你的服务器调用 API 并暴露你自己的接口。
  • 期望从文本预测器获取事实。 模型可以自信地陈述错误细节。当准确性很重要时,在提示词中提供源文本,并检查重要输出。
  • 解析自由文本。 如果代码需要读取答案,请使用 JSON 模式或工具调用,而不是正则表达式。

错误、限制及后续操作

大多数问题归结为简短列表。

症状可能原因修复方法
401 响应密钥缺失或错误检查 Bearer 头和密钥页面上的密钥
429,代码 rate_limited每分钟最多 300 次请求(试用密钥为 60)降低速度或排队请求
429,代码 concurrency同时超过 8 个请求(试用密钥为 2)限制并发 worker,关闭未完成的流
429 且 Retry-After: 5临时过载等待 5 秒并重试
请求过大正文超过 8 MB每次调用发送更少的文本

使用短延迟的简单重试即可处理 429 错误。失败的请求不会收费,因此重试不会产生额外费用。提示词不用于训练。

从这里开始,API 文档 列出了每个参数,按 token 计费概览 涵盖了该服务的适用对象。一条规则适用于所有地方:涉及未成年人的性内容永远不被允许。

02

问答

请求中应发送哪个模型 ID?

在每个请求中将模型值设为 uncensored。你可以通过调用 GET /v1/models 进行确认。

我需要特殊的 SDK 吗?

不需要。只需将基础 URL 更改为 https://api.llmmodelsapi.com/v1 并使用你自己的密钥,即可使用任何 OpenAI SDK 或客户端。

我可以不使用信用卡吗?

是的,用于测试。新用户注册后可一键领取 $0.50 的试用额度,无需信用卡,有效期为 7 天。

我的提示词最大可以多大?

上下文窗口为 100,000 token(包含提示词和补全),请求体最大可达 8 MB。

只需填写一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥