JA ▾
API キーを取得

API経由でのLLMモデル利用方法:ステップバイステップ

ホストされた言語モデルの使用は、キー、モデル名、メッセージリストを用いた1つのHTTP呼び出しに集約されます。このガイドでは、空のフォルダからストリーミング、JSON出力、ツール呼び出しまでを解説します。

更新日:

チャットバブルのキューブに接続されたターミナルで、データがストリーミングしており、LLM APIコールを表しています
01

主要ポイント

  • APIはOpenAI互換です:Base URLとキーを変更し、SDKはそのまま維持してください。
  • POST /v1/chat/completions でモデルID uncensored を使用してください。
  • ストリーミング、JSONモード、ツール呼び出しはすべて標準パラメータで動作します。
  • 429は制限に達したことを意味し、エラーコードがどの制限かを示します。

最初のリクエストの前に必要なもの

独自のコードでLLMモデルエンドポイントを使用する方法を知りたい場合、必要なものはキー、Base URL、モデル名の3つだけです。特別なクライアントのインストールは不要です。異なるアドレスを指すように設定すれば、任意のOpenAI SDKまたはクライアントが動作します。

  • Base URL: https://api.llmmodelsapi.com/v1
  • モデルID: uncensored
  • 認証: Authorization: Bearer YOUR_KEY ヘッダー(SDKが自動的に付与します)

キーを取得するには、Googleまたはメールアドレスとパスワードでサインアップし、APIキーページを開いてください。新規アカウントはワンクリックでクレジットカードなしで$0.50の無料トライアルクレジットを取得でき、7日間有効です。この記事の内容すべてに十分な量です。エンドポイントは生成用のPOST /v1/chat/completionsと、利用可能なモデルの一覧表示用のGET /v1/modelsの2つのメソッドをサポートしています。

モデルの性質を知っておくと、期待値が適切に調整されます。これは独立したプロバイダが運用するオープンウェイトモデルで、法的な成人利用においてコンテンツ拒否なしで回答するようにチューニングされています。大手ベンダーの公式APIではなく、テキストのみを処理します。画像や音声の生成、埋め込み、ファインチューニングは行われません。

ステップ1:curlでキーを確認する

アプリケーションコードを書く前に、キーとネットワークパスが機能することを確認してください。モデルの一覧表示は最もコストが低いチェック方法です。なぜなら、何も生成しないからです。

export LLM_KEY="paste-your-key-here"

# the list should include the model id: uncensored

curl https://api.llmmodelsapi.com/v1/models   -H "Authorization: Bearer $LLM_KEY"

uncensoredを含むJSONリストが返されるはずです。401が表示された場合は、キーが間違っているか、Bearerが含まれていません。次に実際のチャットリクエストを送信します。

curl https://api.llmmodelsapi.com/v1/chat/completions   -H "Authorization: Bearer $LLM_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a context window is in two sentences."}
    ],
    "max_tokens": 150
  }'

返信にはchoices配列が含まれ、テキストはchoices[0].message.contentに格納されます。レスポンスヘッダーにはX-Request-IdとX-Balance-USDが含まれており、すべての呼び出しで残りのクレジットを確認できます。usageフィールドには、課金対象としてカウントされたトークン数が表示されます。

ステップ2:PythonまたはNodeから呼び出す

実際にはSDKを使用することになります。公式のOpenAIパッケージをインストールし、クライアント作成時にBase URLを設定します。コードの他の部分は変更の必要はありません。

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmmodelsapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in plain language."},
        {"role": "user", "content": "Give me three names for a fantasy tavern."},
    ],
    temperature=0.9,
    max_tokens=200,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmmodelsapi.com/v1",
  apiKey: process.env.LLM_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Summarise HTTP caching in one paragraph." }],
});

console.log(resp.choices[0].message.content);

キーをソースファイルではなく環境変数に保持してください。キーが漏洩した場合は、キーページで置き換え、古いキーは無効になります。

ステップ3:パラメータで出力を整形する

モデルはテキスト予測器であるため、リクエストの書き方はパラメータと同様に重要です。いくつかの習慣はすぐに効果をもたらします。

  • システムメッセージを使用して恒久的なルールを設定する。 トーン、フォーマット、ロールをそこに記述し、実際のタスクにはユーザーメッセージを使用してください。
  • 長さについて具体的に指定する。 「箇条書き3つ」や「120語以内」を指定してください。max_tokensを下げるだけでは、テキストが文の途中で切れてしまうため、より確実です。
  • タスクに合わせてtemperatureを調整する。 抽出や分類には0.2前後が適しています。フィクションやロールプレイには0.8から1.0が適しています。
  • 必要なものだけを渡す。 top_p、stop、seed、および頻度ペナルティと存在ペナルティはモデルに渡されます。

コンテキストウィンドウは100,000トークンで、プロンプトとcompletionを合わせてカウントされます。残りのスペースが使用できるため、max_tokensを設定する必要はありません。ただし、コストに上限を設けるために設定するのは良い方法です。

これらの設定を学ぶための実践的な方法は、異なるtemperatureで同じプロンプトを3回実行し、比較することです。1回の実行ごとに1つの値を変更し、残りを固定し、可能な限り同じseedを使用してください。この作業を10分行うと、説明よりもはるかにモデルの動作を理解でき、実験のコストは1セント未満です。

価格は入力トークン100万あたり$0.15、出力トークン100万あたり$0.50です。入力トークン1,500、出力トークン400のリクエストのコストは、1,500 x 0.15 / 1,000,000 = $0.000225 に 400 x 0.50 / 1,000,000 = $0.0002 を加えた、合計$0.000425です。価格ページにチャージオプションがあります。

ステップ4:レスポンスをストリーミングする

インタラクティブなアプリでは、完全な回答を待つのは遅く感じられます。stream: trueを使用すると、サーバーはサーバー送信イベントとしてトークンを送信し、UIは到着次第それらを出力できます。使用量はストリームの終了時に報告されます。

from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short story opening about a lighthouse."}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

同時実行に関する注意点:ストリーミングリクエストはストリームが終了するまでスロットを占有します。フルキーは8つの同時リクエストを、トライアルキーは2つの同時リクエストを許可します。ブラウザでストリームを開いたままにしておくと、そのスロットは使用中のままになります。

ステップ5:JSONモードとツール呼び出し

別のプログラムが回答を読み取る必要がある場合、自由テキストは問題になります。JSONモードはモデルに有効なJSONオブジェクトを返すよう指示します。

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
        {"role": "user", "content": "Describe a post about growing tomatoes on a balcony."},
    ],
)

data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

JSONモードは正確なフィールド名ではなく有効な構文を保証するため、プロンプトで必要な構造(スキーマ)も記述してください。解析処理をtryブロックで囲み、失敗した場合は1回再試行してください。

ツール呼び出しにより、モデルは関数の実行をコードに依頼できます。ツールを記述すると、モデルはtool_callsエントリを返します。それを実行し、結果をrole: "tool"メッセージとして送信します。

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

tools = [{
    "type": "function",
    "function": {
        "name": "get_time",
        "description": "Return the current time for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

messages = [{"role": "user", "content": "What time is it in Lisbon?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]

messages.append(first.choices[0].message)
messages.append({
    "role": "tool",
    "tool_call_id": call.id,
    "content": json.dumps({"time": "14:05"}),
})

final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)

本番環境では、モデルが関数を呼び出す代わりに直接回答する可能性があるため、tool_callsが存在するか確認してから要素にアクセスしてください。tool_choiceパラメータを使用すると、必要な場合に呼び出しを強制または禁止できます。

会話を続ける

APIは呼び出し間でメモリを保持しません。モデルに2ターン前のメッセージを記憶させたい場合は、そのターンを再度送信します。したがって、チャットアプリは成長するリストです:ユーザーメッセージを追加し、APIを呼び出し、アシスタントの返信を追加し、これを繰り返します。

from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a friendly writing coach."}]

def say(text):
    history.append({"role": "user", "content": text})
    resp = client.chat.completions.create(model="uncensored", messages=history, max_tokens=300)
    reply = resp.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

print(say("Give me a tip for opening a short story."))
print(say("Now apply it to a story about a night train."))

すべての呼び出しにリスト全体が含まれるため、コストとレイテンシは会話の長さとともに増加します。履歴が長くなったら、最も古いターンを削除するか、1段落の要約に置き換えてください。100,000トークンは短編小説の長さにおおよそ相当するため、多くの余地がありますが、回答に役立たなくなったトークンに対して支払う理由はありません。

同様にシステムメッセージは短く安定させましょう。すべての呼び出しで送信されるため、500リクエストで1,000トークンのシステムプロンプトは500,000入力トークンとなり、それだけで500,000 x 0.15 / 1,000,000 = $0.075かかります。

初心者が犯す間違い

  • アシスタントの返信を追加し忘れる。 モデルは質問のみを見て、会話の筋を見失います。
  • シークレットをフロントエンドに配置する。 ブラウザコード内のキーは誰でも閲覧可能です。APIをサーバーから呼び出し、独自のエンドポイントを公開してください。
  • テキスト予測器から事実を期待する。 モデルは自信を持って誤った詳細を述べる場合があります。正確さが重要であれば、プロンプトにソーステキストを含め、重要な出力を確認してください。
  • 自由テキストの解析。 コードが回答を読み取る必要がある場合は、正規表現の代わりにJSONモードまたはツール呼び出しを使用してください。

エラー、制限、次のステップ

ほとんどの問題は短いリストに分類されます。

症状考えられる原因修正方法
401レスポンスキーの不足または誤りBearerヘッダーとキーページを確認する
429、コード rate_limited1分あたり300リクエストまで(試用キーの場合は60)速度を落とすか、リクエストをキューに入れる
429、コード concurrency同時に8リクエストまで(トライアルキーでは2)並列ワーカーを制限し、開いているストリームを閉じる
429 と Retry-After: 5一時的な過負荷5秒待機して再試行
リクエストが大きすぎます本文が8 MBを超えています1回の呼び出しで送信するテキスト量を減らす

短い待機時間を設けた単純なリトライで429エラーのケースは処理できます。失敗したリクエストは課金対象外なので、リトライしても追加コストはかかりません。プロンプトはトレーニングに使用されません。

ここから、APIドキュメントで各パラメータを確認でき、トークン課金の概要でサービスの対象者を把握できます。すべての場所で適用されるルールは1つだけです:未成年者を含む性的コンテンツは決して許可されません。

02

質問と回答

リクエストにどのモデルIDを送信すればよいですか?

すべてのリクエストでモデル値としてuncensoredを使用してください。GET /v1/modelsを呼び出すことで確認できます。

特別な SDK が必要ですか?

いいえ。ベースURLをhttps://api.llmmodelsapi.com/v1に変更し、独自のAPIキーを使用すれば、任意のOpenAI SDKまたはクライアントが動作します。

クレジットカードなしで使用できますか?

はい、テスト用です。新規ユーザーはサインアップ後にワンクリックでクレジットカードなしで$0.50の無料トライアルクレジットを取得できます。有効期限は7日間です。

プロンプトのサイズはどのくらいまで可能ですか?

コンテキストウィンドウはプロンプトとcompletionを合わせて100,000トークンで、リクエストボディは最大8 MBまで可能です。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得