KO ▾
API 키 받기

API를 통한 LLM 모델 사용법: 단계별 가이드

호스팅된 언어 모델을 사용하는 것은 키, 모델 이름, 메시지 목록을 사용한 HTTP 호출 하나로 줄어듭니다. 이 가이드는 빈 폴더에서 스트리밍, JSON 출력, 함수 호출까지 안내합니다.

업데이트

데이터가 스트리밍되는 채팅 말풍선 큐브에 연결된 터미널, LLM API 호출을 나타냄
01

주요 포인트

  • API는 OpenAI 호환입니다: Base URL과 키만 변경하면 SDK는 그대로 유지됩니다.
  • POST /v1/chat/completions과 함께 모델 ID uncensored를 사용하세요.
  • 스트리밍, JSON 모드 및 도구 호출은 모두 표준 매개변수로 작동합니다.
  • 429은 제한에 도달했음을 의미하며, 오류 코드가 어떤 제한인지 알려줍니다.

첫 번째 요청 전에 필요한 것

자신의 코드에서 LLM 모델 엔드포인트를 사용하는 방법을 알고 싶다면 키, Base URL, 모델 이름 세 가지면 충분합니다. 특별한 클라이언트를 설치할 필요가 없습니다. 다른 주소를 가리키면 모든 OpenAI SDK 또는 클라이언트가 작동합니다.

  • Base URL: https://api.llmmodelsapi.com/v1
  • 모델 ID: uncensored
  • 인증: SDK가 자동으로 추가하는 Authorization: Bearer YOUR_KEY 헤더

키를 얻으려면 Google 또는 이메일과 비밀번호로 sign in한 후 API 키 페이지를 여세요. 신규 계정은 카드 없이 한 번의 클릭으로 7일 유효한 $0.50의 무료 체험 크레딧을 받을 수 있습니다. 이 기사의 모든 작업에는 이 양이 충분합니다. 엔드포인트는 생성용 POST /v1/chat/completions과 사용 가능한 목록 조회용 GET /v1/models 두 가지 방법을 지원합니다.

모델의 성격을 알면 기대치를 올바르게 설정하는 데 도움이 됩니다. 이 모델은 독립적인 제공자가 운영하는 오픈 웨이트 모델로, 합법적인 성인 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었습니다. 대형 벤더의 공식 API가 아니며 텍스트만 처리합니다. 이미지나 오디오 생성, 임베딩, 파인튜닝은 제공되지 않습니다.

단계 1: curl로 키 확인

애플리케이션 코드를 작성하기 전에 키와 네트워크 경로가 작동하는지 확인하세요. 모델을 나열하는 것이 가장 저렴한 확인 방법입니다. 생성이 발생하지 않기 때문입니다.

export LLM_KEY="paste-your-key-here"

# the list should include the model id: uncensored

curl https://api.llmmodelsapi.com/v1/models   -H "Authorization: Bearer $LLM_KEY"

uncensored가 포함된 JSON 목록을 받아야 합니다. 401이 표시되면 키가 잘못되었거나 Bearer 단어가 누락되었습니다. 이제 실제 채팅 요청을 보내세요.

curl https://api.llmmodelsapi.com/v1/chat/completions   -H "Authorization: Bearer $LLM_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain what a context window is in two sentences."}
    ],
    "max_tokens": 150
  }'

응답에는 choices 배열이 포함되며, 텍스트는 choices[0].message.content에 있습니다. 응답 헤더에는 X-Request-Id 및 X-Balance-USD이 포함되어 있어 모든 호출에서 남은 크레딧을 확인할 수 있습니다. usage 필드는 청구를 위해 계산된 토큰을 보여줍니다.

단계 2: Python 또는 Node에서 호출

실제로는 SDK를 사용하게 됩니다. 공식 OpenAI 패키지를 설치한 후 클라이언트를 생성할 때 Base URL을 설정하세요. 코드에 다른 변경 사항은 없습니다.

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmmodelsapi.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in plain language."},
        {"role": "user", "content": "Give me three names for a fantasy tavern."},
    ],
    temperature=0.9,
    max_tokens=200,
)

print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Node

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmmodelsapi.com/v1",
  apiKey: process.env.LLM_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Summarise HTTP caching in one paragraph." }],
});

console.log(resp.choices[0].message.content);

키는 소스 파일이 아닌 환경 변수에 보관하세요. 키가 유출되면 키 페이지에서 교체하면 이전 키는 더 이상 작동하지 않습니다.

단계 3: 매개변수로 출력 조정

이 모델은 텍스트 예측기이므로 요청을 어떻게 구성하느냐가 매개변수만큼 중요합니다. 몇 가지 습관은 즉시 효과를 냅니다.

  • 시스템 메시지를 고정 규칙에 사용하세요. 톤, 형식 및 역할을 여기에 넣고 실제 작업은 사용자 메시지로 전달하세요.
  • 길이를 명확히 지정하세요. "불릿 포인트 3개" 또는 "120단어 이하"를 요청하세요. max_tokens을 낮추는 것만으로는 문장 중간에 텍스트가 잘릴 수 있으므로 덜 신뢰할 수 있습니다.
  • 작업에 맞게 temperature를 조정하세요. 0.2 정도는 추출 및 분류에 적합합니다. 0.8에서 1.0 정도는 픽션 및 역할극에 적합합니다.
  • 필요한 것만 전달하세요. top_p, stop, seed 및 빈도 및 존재 패널티는 모델에 전달됩니다.

컨텍스트 창은 프롬프트와 completion을 합쳐 100,000 토큰입니다. 남은 공간만큼 답변이 사용 가능하므로 max_tokens을 설정할 필요가 없습니다. 비용에 상한을 두기 위해 설정하는 것은 좋은 방법입니다.

이러한 설정을 배우는 실용적인 방법은 다른 온도에서 동일한 프롬프트를 세 번 실행하고 비교하는 것입니다. 한 번의 실행당 하나의 값만 변경하고 나머지 값은 고정된 상태로 유지하세요. 가능하면 동일한 seed을 사용하세요. 10분 동안 이렇게 하면 설명이 알려주는 것보다 훨씬 더 잘 모델의 동작을 이해하게 되며, 실험 비용은 센트 단위의 일부에 불과합니다.

가격은 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50입니다. 입력 토큰 1,500개와 출력 토큰 400개로 구성된 요청의 비용은 1,500 x 0.15 / 1,000,000 = $0.000225 + 400 x 0.50 / 1,000,000 = $0.0002로 총 $0.000425입니다. 가격 책정 페이지에는 충전 옵션이 있습니다.

단계 4: 응답 스트리밍

인터랙티브 앱에서 전체 답변을 기다리는 것은 느리게 느껴집니다. stream: true를 사용하면 서버가 서버 전송 이벤트로 토큰을 보내며, UI는 도착하는 대로 토큰을 출력할 수 있습니다. 사용량은 스트림 끝에 보고됩니다.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short story opening about a lighthouse."}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

동시성 관련 주의사항: 스트리밍 요청은 스트리밍이 완료될 때까지 슬롯을 점유합니다. 전체 키는 동시 요청 8개를 허용하고, 체험 키는 2개를 허용합니다. 브라우저에서 스트림을 열고 닫지 않으면 해당 슬롯이 점유된 상태로 유지됩니다.

5단계: JSON 모드 및 도구 호출

다른 프로그램이 답변을 읽어야 할 때 자유 텍스트는 문제가 됩니다. JSON 모드는 모델이 유효한 JSON 객체를 반환하도록 요청합니다.

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
        {"role": "user", "content": "Describe a post about growing tomatoes on a balcony."},
    ],
)

data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

JSON 모드는 정확한 필드 이름이 아닌 유효한 구문만 보장하므로 원하는 구조를 프롬프트에도 설명하세요. 파싱을 try 블록으로 감싸고 실패할 경우 한 번 재시도하세요.

도구 호출은 모델이 코드에 함수를 실행하도록 요청할 수 있게 합니다. 도구를 설명하면 모델이 tool_calls 항목으로 응답합니다. 이를 실행하고 결과를 role: "tool" 메시지로 다시 보내세요.

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")

tools = [{
    "type": "function",
    "function": {
        "name": "get_time",
        "description": "Return the current time for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

messages = [{"role": "user", "content": "What time is it in Lisbon?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]

messages.append(first.choices[0].message)
messages.append({
    "role": "tool",
    "tool_call_id": call.id,
    "content": json.dumps({"time": "14:05"}),
})

final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)

프로덕션에서는 tool_calls이 있는지 확인한 후 인덱싱하세요. 모델이 함수 호출 대신 직접 답변할 수 있기 때문입니다. tool_choice 매개변수를 사용하면 필요할 때 호출을 강제하거나 금지할 수 있습니다.

대화 유지하기

API는 호출 간에 메모리를 유지하지 않습니다. 모델이 두 턴 전에 말한 내용을 기억하게 하려면 해당 턴을 다시 보내야 합니다. 따라서 채팅 앱은 성장하는 목록입니다: 사용자 메시지를 추가하고 API를 호출하고 어시스턴트 답변을 추가한 후 반복합니다.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a friendly writing coach."}]

def say(text):
    history.append({"role": "user", "content": text})
    resp = client.chat.completions.create(model="uncensored", messages=history, max_tokens=300)
    reply = resp.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

print(say("Give me a tip for opening a short story."))
print(say("Now apply it to a story about a night train."))

모든 호출이 전체 목록을 포함하므로 비용과 지연 시간은 대화 길이에 따라 증가합니다. 기록이 길어지면 가장 오래된 턴을 삭제하거나 한 단락 요약으로 대체하세요. 100,000 토큰은 짧은 소설의 길이에 근사하므로 여유 공간이 많지만, 더 이상 답변에 도움이 되지 않는 토큰에 대해 비용을 지불할 이유는 없습니다.

동일한 이유로 시스템 메시지를 짧고 안정적으로 유지하세요. 모든 호출에 전송되므로 500번의 요청에 1,000 토큰 시스템 프롬프트를 사용하면 입력 토큰이 500,000개가 되어 자체적으로 500,000 x 0.15 / 1,000,000 = $0.075의 비용이 발생합니다.

초보자가 자주 하는 실수

  • 어시스턴트 답변을 추가하는 것을 잊는 것. 그러면 모델은 질문만 보고 흐름을 잃습니다.
  • 프론트 엔드에 비밀을 넣는 것. 브라우저 코드 내부의 키는 모두에게 표시됩니다. API를 서버에서 호출하고 자체 엔드포인트를 노출하세요.
  • 텍스트 예측기에서 사실을 기대하는 것. 모델은 잘못된 세부 사항을 자신 있게 단정할 수 있습니다. 정확성이 중요할 때 프롬프트에 소스 텍스트를 제공하고 중요한 출력을 확인하세요.
  • 자유 텍스트 구문 분석. 코드가 답변을 읽어야 한다면 정규식 대신 JSON 모드 또는 도구 호출을 사용하세요.

오류, 제한 사항 및 이어질 내용

대부분의 문제는 짧은 목록에 속합니다.

증상잠재적 원인해결 방법
401 응답누락 또는 잘못된 키Bearer 헤더와 키 페이지의 키를 확인하세요
429, 코드 rate_limited분당 300개 이상의 요청 (시험 키의 경우 60개)요청 속도를 줄이거나 큐에 추가하세요
429, 코드 concurrency동시에 8개 이상의 요청 (체험 키의 경우 2개)동시 워커 제한, 열린 스트림 닫기
429 및 Retry-After: 5일시적 과부하5초 대기 후 재시도
요청이 너무 큼본문이 8 MB를 초과했습니다호출당 전송할 텍스트 양을 줄이세요

짧은 지연 후 간단한 재시도로 429 오류를 처리할 수 있습니다. 실패한 요청은 요금이 부과되지 않으므로 재시도 시 추가 비용이 들지 않습니다. 프롬프트는 학습에 사용되지 않습니다.

여기서 API 문서는 모든 매개변수를 나열하고, 토큰별 요금 개요은 서비스 대상자를 설명합니다. 모든 곳에 적용되는 규칙 하나: 미성년자를 포함한 성적인 콘텐츠는 절대 허용되지 않습니다.

02

질문과 답변

요청에 어떤 모델 ID를 보내야 하나요?

모든 요청에서 모델 값으로 uncensored를 사용하세요. GET /v1/models 호출을 통해 이를 확인할 수 있습니다.

특별한 SDK가 필요한가요?

아니요. Base URL을 https://api.llmmodelsapi.com/v1로 변경하고 자체 키를 사용하면 모든 OpenAI SDK 또는 클라이언트가 작동합니다.

신용 카드 없이 사용할 수 있나요?

네, 테스트용으로 가능합니다. 신규 사용자는 회원가입 후 한 번의 클릭으로 신용 카드 없이 $0.50의 무료 체험 크레딧을 받을 수 있으며, 이는 7일 동안 유효합니다.

프롬프트는 얼마나 크게 할 수 있나요?

프롬프트와 completion을 합친 컨텍스트 창은 100,000 토큰이며, 요청 본문은 최대 8 MB까지 가능합니다.

키를 얻으려면 매우 가까운 곳에 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기