Как использовать LLM-модель через API: пошаговое руководство
Использование размещенной языковой модели сводится к одному HTTP-запросу с ключом, именем модели и списком сообщений. Это руководство проведет вас от пустой папки к потоковой передаче, JSON-выводу и вызову инструментов.

Ключевые моменты
- API совместим с OpenAI: измените базовый URL и ключ, сохраните свой SDK.
- Используйте ID модели uncensored с POST /v1/chat/completions.
- Потоковая передача, JSON-режим и вызов инструментов работают со стандартными параметрами.
- 429 означает, что достигнут лимит, а код ошибки указывает, какой именно.
Что нужно перед первым запросом
Если вы хотите узнать, как использовать эндпоинты моделей LLM в своем коде, достаточно трех вещей: ключ, базовый URL и имя модели. Устанавливать специальный клиент не нужно. Любой OpenAI SDK или клиент работает, если указать ему другой адрес.
- Базовый URL:
https://api.llmmodelsapi.com/v1 - Идентификатор модели:
uncensored - Аутентификация: заголовок
Authorization: Bearer YOUR_KEY, который SDK добавляют за вас
Чтобы получить ключ, зарегистрируйтесь через Google или по email и паролю, затем откройте страницу API-ключ. На новых аккаунтах можно получить $0,50 пробного баланса одним кликом, без карты, на 7 дней. Этого хватит на всё, что описано в этой статье. Эндпоинт поддерживает два метода: POST /v1/chat/completions для генерации и GET /v1/models для вывода доступных моделей.
Полезно знать, что представляет собой модель, чтобы правильно сформировать ожидания. Это одна модель с открытыми весами, запущенная независимым провайдером и настроенная на ответы без отказов в контенте для законного использования взрослыми. Это не официальный API какого-либо крупного вендора, и она обрабатывает только текст. Нет генерации изображений или аудио, нет эмбеддингов и нет дообучения.
Шаг 1: проверка ключа через curl
Прежде чем писать код приложения, убедитесь, что ключ и сетевой путь работают. Вывод списка моделей — самое дешевое подтверждение, так как ничего не генерируется.
export LLM_KEY="paste-your-key-here"
# the list should include the model id: uncensored
curl https://api.llmmodelsapi.com/v1/models -H "Authorization: Bearer $LLM_KEY"
Вы получите JSON-список, включающий uncensored. Если вы видите 401, ключ неверен или отсутствует слово Bearer. Теперь отправьте полноценный запрос к чату.
curl https://api.llmmodelsapi.com/v1/chat/completions -H "Authorization: Bearer $LLM_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."}
],
"max_tokens": 150
}'
Ответ содержит массив choices, а текст находится в choices[0].message.content. Заголовки ответа содержат X-Request-Id и X-Balance-USD, поэтому вы можете видеть свой оставшийся баланс при каждом вызове. Поле usage показывает токены, посчитанные для биллинга.
Шаг 2: вызов из Python или Node
На практике вы будете использовать SDK. Установите официальный пакет OpenAI, затем укажите базовый URL при создании клиента. Ничего другого в вашем коде не изменится.
Python
from openai import OpenAI
client = OpenAI(
base_url="https://api.llmmodelsapi.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in plain language."},
{"role": "user", "content": "Give me three names for a fantasy tavern."},
],
temperature=0.9,
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Node
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.llmmodelsapi.com/v1",
apiKey: process.env.LLM_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Summarise HTTP caching in one paragraph." }],
});
console.log(resp.choices[0].message.content);
Храните ключ в переменной окружения, а не в файле исходного кода. Если ключ утечет, замените его на странице ключей, и старый перестанет работать.
Шаг 3: настройка вывода с помощью параметров
Модель — это предсказатель текста, поэтому то, как вы формулируете запрос, так же важно, как и параметры. Несколько привычек окупятся сразу.
- Используйте системное сообщение для постоянных правил. Укажите тон, формат и роль там, а пользовательское сообщение оставьте для фактической задачи.
- Указывайте точную длину. Просите «три маркированных пункта» или «до 120 слов». Это надёжнее, чем просто снизить значение
max_tokens, которое может обрывать текст на середине предложения. - Настройте температуру под задачу. Около 0,2 подходит для извлечения и классификации. Около 0,8–1,0 подходит для художественной литературы и ролевых игр.
- Передавайте только то, что нужно.
top_p,stop,seedи штрафы за частоту и присутствие передаются модели.
Контекстное окно составляет 100 000 токенов, считая промпт и завершение вместе. Вам не нужно устанавливать max_tokens, так как ответ может использовать любое оставшееся место. Но задать его всё равно полезно: так вы ограничите расходы.
Практичный способ изучить эти настройки — запустить один и тот же промпт три раза при разных температурах и сравнить результаты. Изменяйте одно значение за запуск и оставляйте остальные неизменными, используя тот же seed, где это возможно. После десяти минут таких экспериментов вы будете гораздо лучше знать, как ведет себя модель для вашей задачи, чем любой текст мог бы вам рассказать, а стоимость эксперимента составит долю цента.
Стоимость составляет $0,15 за миллион входных токенов и $0,50 за миллион выходных токенов. Запрос с 1 500 входными токенами и 400 выходными токенами стоит 1 500 x 0,15 / 1 000 000 = $0,000225 плюс 400 x 0,50 / 1 000 000 = $0,0002, итого $0,000425. На странице тарифов есть варианты пополнения.
Шаг 4: потоковая передача ответа
Ожидание полного ответа кажется медленным в интерактивном приложении. С stream: true сервер отправляет токены как события, отправляемые сервером, и ваш интерфейс может выводить их по мере поступления. Использование сообщается в конце потока.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short story opening about a lighthouse."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
Важно помнить об одновременности запросов: потоковый запрос занимает свой слот до завершения потока. Обычный ключ допускает 8 одновременных запросов, пробный — 2. Если вы откроете поток в браузере и никогда не закроете его, этот слот останется занятым.
Шаг 5: Режим JSON и вызов инструментов
Когда другой программе нужно прочитать ответ, свободный текст становится проблемой. JSON-режим просит модель вернуть действительный объект JSON.
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Describe a post about growing tomatoes on a balcony."},
],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])
Опишите желаемую форму в промпте тоже, так как JSON-режим гарантирует действительный синтаксис, а не ваши точные имена полей. Оберните парсинг в блок try и повторите попытку один раз, если он не удался.
Вызов инструментов позволяет модели попросить ваш код запустить функцию. Вы описываете инструменты, модель отвечает записью tool_calls, вы запускаете ее и отправляете результат обратно как сообщение с role: "tool".
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
tools = [{
"type": "function",
"function": {
"name": "get_time",
"description": "Return the current time for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What time is it in Lisbon?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"time": "14:05"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
В продакшене проверяйте, присутствует ли tool_calls, прежде чем обращаться к нему, так как модель может ответить напрямую, а не вызывать функцию. Параметр tool_choice позволяет принудительно вызвать или запретить вызов, когда вам это нужно.
Продолжение разговора
API не имеет памяти между вызовами. Если вы хотите, чтобы модель помнила, что говорилось два хода назад, вы отправляете эти ходы снова. Поэтому приложение чата — это список, который растет: вы добавляете сообщение пользователя, вызываете API, добавляете ответ ассистента и повторяете.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a friendly writing coach."}]
def say(text):
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(model="uncensored", messages=history, max_tokens=300)
reply = resp.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
print(say("Give me a tip for opening a short story."))
print(say("Now apply it to a story about a night train."))
Поскольку каждый вызов содержит весь список, стоимость и задержка растут с ходом разговора. Когда история становится длинной, удалите самые старые ходы или замените их одноабзацным резюме. У вас много места, так как 100 000 токенов — это примерно длина короткого романа, но нет причин платить за токены, которые больше не помогают ответу.
По той же причине держите системное сообщение коротким и стабильным. Оно отправляется при каждом вызове, поэтому 1 000 токенов системного промпта за 500 запросов — это 500 000 входных токенов, что стоит 500 000 x 0,15 / 1 000 000 = $0,075 только за это.
Ошибки новичков
- Забыли добавить ответ ассистента. Модель тогда видит только ваши вопросы и теряет нить разговора.
- Помещение секретов во фронтенд. Ключ внутри кода браузера виден всем. Вызывайте API с вашего сервера и предоставляйте свой собственный эндпоинт вместо этого.
- Ожидание фактов от текстового предсказателя. Модель может уверенно указывать неверные детали. Если важна точность, давайте ей исходный текст в промпте и проверяйте важные фрагменты вывода.
- Парсинг свободного текста. Если код должен прочитать ответ, используйте JSON-режим или вызов инструмента вместо регулярных выражений.
Ошибки, лимиты и куда двигаться дальше
Большинство проблем попадают в короткий список.
| Симптом | Вероятная причина | Исправление |
|---|---|---|
| Ответ 401 | Отсутствующий или неверный ключ | Проверьте заголовок Bearer и ключ на странице ключей |
429, код rate_limited | Более 300 запросов в минуту (60 на пробном ключе) | Замедлите темп или поставьте запросы в очередь |
429, код concurrency | Более 8 одновременных запросов (2 на пробном ключе) | Ограничьте количество параллельных рабочих процессов, закройте открытые потоки |
429 с Retry-After: 5 | Временная перегрузка | Подождите 5 секунд и повторите попытку |
| Запрос слишком большой | Тело запроса превышает 8 МБ | Отправляйте меньше текста за один вызов |
Простая повторная попытка с короткой задержкой обрабатывает случаи 429. Неудачные запросы не тарифицируются, поэтому повтор не требует дополнительных затрат. Промпты не используются для обучения.
Отсюда в API-документации перечислены все параметры, а в обзоре оплаты за токены — для кого предназначен сервис. Одно правило действует везде: контент сексуального характера с участием несовершеннолетних никогда не разрешён.
Дополнительные руководства
Вопросы и ответы
Какой ID модели нужно указывать в запросе?
Используйте uncensored в качестве значения модели в каждом запросе. Вы можете убедиться в этом, вызвав GET /v1/models.
Мне нужен специальный SDK?
Нет. Любой SDK или клиент OpenAI работает, если вы измените базовый URL на https://api.llmmodelsapi.com/v1 и используете свой собственный ключ.
Можно ли использовать его без кредитной карты?
Да, для тестирования. Новые пользователи могут одним кликом получить $0,50 бесплатного пробного баланса после входа, без привязки карты, срок действия — 7 дней.
Какой максимальный размер промпта?
Контекстное окно составляет 100 000 токенов для промпта и генерации вместе, а тело запроса может занимать до 8 МБ.
Ваш ключ — всего в одной форме
Создайте аккаунт, скопируйте ключ, измените базовый URL. Вот и вся настройка.