एक एलएलएम मॉडल का उपयोग एपीआई के माध्यम से कैसे करें, चरण-दर-चरण
होस्टेड लैंगुएज मॉडल का उपयोग करने का मतलब एक ही HTTP कॉल है जिसमें एक कुंजी, एक मॉडल नाम और संदेशों की एक सूची होती है। यह गाइड आपको एक खाली फोल्डर से स्ट्रीमिंग, JSON आउटपुट और टूल कॉल तक ले जाती है।

मुख्य बिंदु
- API OpenAI-सुसंगत है: बेस URL और कुंजी बदलें, अपना SDK रखें।
- POST /v1/chat/completions के साथ uncensored मॉडल ID का उपयोग करें।
- स्ट्रीमिंग, JSON मोड और टूल कॉलिंग सभी मानक पैरामीटर के साथ काम करते हैं।
- 429 का अर्थ है कि एक सीमा पर पहुँच गया है, और त्रुटि कोड बताता है कि वह कौन सी थी।
पहले अनुरोध से पहले आपको क्या चाहिए
यदि आप जानना चाहते हैं कि अपने कोड में LLM मॉडल एंडपॉइंट्स का उपयोग कैसे करें, तो तीन चीजें काफी हैं: एक कुंजी, एक बेस URL और एक मॉडल नाम। किसी विशेष क्लाइंट को इंस्टॉल करने की आवश्यकता नहीं है। किसी भी OpenAI SDK या क्लाइंट को काम करने के लिए आपको इसे एक अलग एड्रेस पर पॉइंट करना होगा।
- बेस URL:
https://api.llmmodelsapi.com/v1 - मॉडल ID:
uncensored - Auth: एक
Authorization: Bearer YOUR_KEYहेडर, जो SDKs आपके लिए जोड़ते हैं
एक कुंजी प्राप्त करने के लिए, Google या ईमेल और पासवर्ड के साथ साइन अप करें, फिर API कुंजी पेज खोलें। नए खाते $0.50 का ट्रायल क्रेडिट वहाँ एक क्लिक से दावा कर सकते हैं, बिना कार्ड के, जो 7 दिनों के लिए मान्य है। यह इस आर्टिकल में सभी चीजों के लिए काफी है। एंडपॉइंट दो विधियों का समर्थन करता है: POST /v1/chat/completions जनरेशन के लिए और GET /v1/models उपलब्ध चीजों को सूचीबद्ध करने के लिए।
मॉडल के बारे में जानना मददगार है, ताकि आपकी उम्मीदें सही हों। यह एक ओपन-वेट मॉडल है जो एक स्वतंत्र प्रदाता द्वारा चलाया जाता है और कानूनी वयस्कों के उपयोग के लिए बिना सेंसर जवाब देने के लिए ट्यून्ड है। यह किसी बड़े वेंडर का आधिकारिक API नहीं है, और यह केवल टेक्स्ट को हैंडल करता है। न तो इमेज जनरेशन है, न ऑडियो, न एम्बेडिंग्स और न ही फाइन-ट्यूनिंग।
स्टेप 1: curl के साथ कुंजी की जाँच करें
कोई भी एप्लिकेशन कोड लिखने से पहले, कुंजी और नेटवर्क पथ काम कर रहे हैं, इसकी पुष्टि करें। मॉडल्स की सूची बनाना सबसे सस्ती जाँच है, क्योंकि इसमें कुछ भी जनरेट नहीं होता है।
export LLM_KEY="paste-your-key-here"
# the list should include the model id: uncensored
curl https://api.llmmodelsapi.com/v1/models -H "Authorization: Bearer $LLM_KEY"
आपको एक JSON लिस्ट मिलनी चाहिए जिसमें uncensored शामिल हो। यदि आपको 401 दिखता है, तो कुंजी गलत है या उसमें Bearer शब्द नहीं है। अब एक असली चैट अनुरोध भेजें।
curl https://api.llmmodelsapi.com/v1/chat/completions -H "Authorization: Bearer $LLM_KEY" -H "Content-Type: application/json" -d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."}
],
"max_tokens": 150
}'
रिप्लाई में एक choices एरे होता है, और टेक्स्ट choices[0].message.content पर होता है। रिस्पॉन्स हेडर्स में X-Request-Id और X-Balance-USD होते हैं, ताकि आप हर कॉल पर अपना शेष क्रेडिट देख सकें। usage फ़ील्ड बिलिंग के लिए गिने गए टोकन दिखाती है।
स्टेप 2: Python या Node से कॉल करें
प्रैक्टिस में आप एक SDK का उपयोग करेंगे। आधिकारिक OpenAI पैकेज इंस्टॉल करें, फिर क्लाइंट बनाते समय बेस URL सेट करें। आपके कोड के बारे में कुछ भी नहीं बदलता है।
Python
from openai import OpenAI
client = OpenAI(
base_url="https://api.llmmodelsapi.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in plain language."},
{"role": "user", "content": "Give me three names for a fantasy tavern."},
],
temperature=0.9,
max_tokens=200,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Node
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.llmmodelsapi.com/v1",
apiKey: process.env.LLM_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Summarise HTTP caching in one paragraph." }],
});
console.log(resp.choices[0].message.content);
कुंजी को स्रोत फ़ाइल के बजाय एक एनवायरनमेंट वेरिएबल में रखें। यदि कुंजी लीक हो जाती है, तो कुंजी पेज पर इसे बदलें और पुरानी कुंजी काम करना बंद कर देगी।
स्टेप 3: पैरामीटर के साथ आउटपुट को आकार दें
मॉडल एक टेक्स्ट प्रेडिक्टर है, इसलिए आप अनुरोध को कैसे फ्रेज करते हैं, वह पैरामीटर के बराबर ही मायने रखता है। कुछ आदतें तुरंत फायदा देती हैं।
- स्टैंडिंग नियमों के लिए सिस्टम मैसेज का उपयोग करें। टोन, फॉर्मेट और भूमिका को वहाँ डालें, और असली टास्क के लिए यूजर मैसेज रखें।
- लंबाई के बारे में स्पष्ट रहें। "तीन बुलेट पॉइंट" या "120 शब्दों से कम" का अनुरोध करें। यह केवल
max_tokensकम करने से अधिक विश्वसनीय है, जो वाक्य के बीच में टेक्स्ट काट देता है। - तापमान को कार्य के अनुसार समायोजित करें। लगभग 0.2 निष्कर्षण और वर्गीकरण के लिए उपयुक्त है। लगभग 0.8 से 1.0 कथा और भूमिका निभाने के लिए उपयुक्त है।
- जो आपको चाहिए, वह पास करें।
top_p,stop,seedऔर फ्रीक्वेंसी और प्रेजेंस पेनल्टी मॉडल को पास की जाती हैं।
कॉन्टेक्स्ट विंडो 100,000 टोकन की है, प्रॉम्प्ट और कंप्लीशन को मिलाकर गिना जाता है। आपको max_tokens सेट करने की आवश्यकता नहीं है, क्योंकि जवाब जो भी कमरा बचा है, उसका उपयोग कर सकता है। इसे सेट करना लागत पर छत लगाने का एक अच्छा तरीका है।
इन सेटिंग्स को सीखने का व्यावहारिक तरीका है कि अलग-अलग तापमान पर एक ही प्रॉम्प्ट को तीन बार चलाकर तुलना करें। हर रन में एक मान बदलें और बाकी को स्थिर रखें, जहाँ संभव हो वही seed उपयोग करें। दस मिनट की इस गतिविधि के बाद आप किसी भी विवरण से कहीं बेहतर जानेंगे कि मॉडल आपके काम के लिए कैसे व्यवहार करता है, और इस प्रयोग की लागत एक सेंट से भी कम है।
मूल्य निर्धारण $0.15 प्रति मिलियन इनपुट टोकन और $0.50 प्रति मिलियन आउटपुट टोकन है। 1,500 इनपुट टोकन और 400 आउटपुट टोकन वाले एक अनुरोध की लागत 1,500 x 0.15 / 1,000,000 = $0.000225 प्लस 400 x 0.50 / 1,000,000 = $0.0002, यानी कुल $0.000425 है। प्राइसिंग पेज पर टॉप-अप विकल्प हैं।
चरण 4: प्रतिक्रिया को स्ट्रीम करें
एक पूर्ण उत्तर का इंतज़ार करने में इंटरैक्टिव ऐप में धीमापन महसूस होता है। stream: true के साथ सर्वर टोकन को सर्वर-सेंट इवेंट्स के रूप में भेजता है, और आपका UI उन्हें आने पर प्रिंट कर सकता है। उपयोग स्ट्रीम के अंत में रिपोर्ट किया जाता है।
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short story opening about a lighthouse."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
समवर्तता (concurrency) के बारे में एक बात याद रखें: एक स्ट्रीम किए गए अनुरोध का स्लॉट तब तक आबद्ध रहता है जब तक स्ट्रीम समाप्त नहीं हो जाती। एक पूर्ण कुंजी 8 समवर्ती अनुरोधों की अनुमति देती है, एक ट्रायल कुंजी 2 की अनुमति देती है। यदि आप ब्राउज़र में एक स्ट्रीम खोलते हैं और उसे कभी बंद नहीं करते हैं, तो वह स्लॉट व्यक्त रहता है।
चरण 5: JSON मोड और टूल कॉलिंग
जब किसी अन्य प्रोग्राम को उत्तर पढ़ना हो, तो स्वतंत्र पाठ एक समस्या बन जाता है। JSON मोड मॉडल से एक वैध JSON ऑब्जेक्ट लौटने के लिए कहता है।
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Describe a post about growing tomatoes on a balcony."},
],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])
चूंकि JSON मोड केवल वैध सिंटैक्स की गारंटी देता है, आपके सटीक फ़ील्ड नामों की नहीं, इसलिए जो आकार आप चाहते हैं उसे प्रॉम्प्ट में भी वर्णित करें। पार्सिंग को एक try ब्लॉक में लपेटें और यदि यह विफल हो जाए तो एक बार पुनः प्रयास करें।
टूल कॉलिंग मॉडल को आपके कोड में एक फ़ंक्शन चलाने के लिए कहती है। आप टूल्स का वर्णन करते हैं, मॉडल एक tool_calls एंट्री के साथ जवाब देता है, आप उसे चलाते हैं और परिणाम को role: "tool" के साथ एक संदेश के रूप में वापस भेजते हैं।
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
tools = [{
"type": "function",
"function": {
"name": "get_time",
"description": "Return the current time for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What time is it in Lisbon?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"time": "14:05"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
उत्पादन (production) में, इसे इंडेक्स करने से पहले जांचें कि tool_calls मौजूद है या नहीं, क्योंकि मॉडल फ़ंक्शन कॉल करने के बजाय सीधे जवाब दे सकता है। tool_choice पैरामीटर आपको उस स्थिति में कॉल को मजबूर या रोकने की अनुमति देता है।
बातचीत को जारी रखना
API कॉल के बीच कोई मेमोरी नहीं है। यदि आप चाहते हैं कि मॉडल दो बारी पहले हुए संवाद को याद रखे, तो आप उन बारियों को फिर से भेजते हैं। इसलिए एक चैट ऐप एक ऐसी सूची होती है जो बढ़ती है: आप उपयोगकर्ता संदेश जोड़ते हैं, API को कॉल करते हैं, सहायक प्रतिक्रिया जोड़ते हैं, और दोहराते हैं।
from openai import OpenAI
client = OpenAI(base_url="https://api.llmmodelsapi.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a friendly writing coach."}]
def say(text):
history.append({"role": "user", "content": text})
resp = client.chat.completions.create(model="uncensored", messages=history, max_tokens=300)
reply = resp.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply
print(say("Give me a tip for opening a short story."))
print(say("Now apply it to a story about a night train."))
क्योंकि हर कॉल पूरी सूची को साथ ले जाता है, लागत और लेटेंसी बातचीत के साथ बढ़ती है। जब इतिहास लंबा हो जाए, तो सबसे पुराने टर्न्स को हटा दें या उन्हें एक पैराग्राफ के सारांश से बदल दें। आपके पास बहुत जगह है, क्योंकि 100,000 टोकन लगभग एक छोटे उपन्यास के बराबर हैं, लेकिन इस बात का कोई कारण नहीं है कि आप उन टोकन के लिए भुगतान करें जो अब जवाब में मदद नहीं करते।
उसी कारण से, सिस्टम संदेश को छोटा और स्थिर रखें। यह हर कॉल पर भेजा जाता है, इसलिए 500 अनुरोधों पर 1,000 टोकन का सिस्टम प्रॉम्प्ट 500,000 इनपुट टोकन बनता है, जिसकी लागत अकेले 500,000 x 0.15 / 1,000,000 = $0.075 आती है।
शुरुआती अक्सर जो गलतियाँ करते हैं
- सहायक प्रतिक्रिया को जोड़ना भूल जाना। मॉडल केवल आपके प्रश्न देखता है और धागा खो देता है।
- फ्रंट एंड में रहस्य रखना। ब्राउज़र कोड में एक कुंजी हर किसी के लिए दृश्यमान होती है। API को अपने सर्वर से कॉल करें और अपने स्वयं के एंडपॉइंट को एक्सपोज़ करें।
- टेक्स्ट प्रिडिक्टर से तथ्य की उम्मीद करना। मॉडल गलत विवरण आत्मविश्वास के साथ बता सकता है। जब सटीकता मायने रखती है तो प्रॉम्प्ट में स्रोत पाठ दें, और महत्वपूर्ण आउटपुट की जांच करें।
- अव्यवस्थित पाठ को पार्स करना। यदि कोड को जवाब पढ़ना है, तो रेगुलर एक्सप्रेशन के बजाय JSON मोड या टूल कॉल का उपयोग करें।
त्रुटियां, सीमाएं और आगे कहाँ जाएं
अधिकांश समस्याएं एक छोटी सूची में आती हैं।
| लक्षण | संभावित कारण | समाधान |
|---|---|---|
| 401 प्रतिक्रिया | गुम या गलत कुंजी | Bearer हेडर और कुंजी पेज पर कुंजी की जांच करें |
429, कोड rate_limited | प्रति मिनट 300 से अधिक अनुरोध (एक ट्रायल कुंजी पर 60) | गति कम करें या अनुरोधों को कतार में लगाएं |
429, कोड concurrency | एक साथ 8 से अधिक अनुरोध (एक ट्रायल कुंजी पर 2) | समानांतर वर्कर को सीमित करें, खुली स्ट्रीम को बंद करें |
429 Retry-After: 5 के साथ | अस्थायी ओवरलोड | 5 सेकंड प्रतीक्षा करें और पुनः प्रयास करें |
| अनुरोध बहुत बड़ा है | 8 MB से अधिक बॉडी | प्रत्येक कॉल में कम पाठ भेजें |
छोटी विलंबता के साथ एक सरल पुनः प्रयास 429 मामलों को संभाल लेता है। विफल अनुरोधों के लिए भुगतान नहीं किया जाता है, इसलिए पुनः प्रयास करने से कोई अतिरिक्त लागत नहीं आती। प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं।
यहाँ से, API दस्तावेज़ीकरण हर पैरामीटर की सूची देता है, और प्रति-टोकन अवलोकन कवर करता है कि सेवा किसके लिए है। एक नियम हर जगह लागू होता है: नाबालिगों से जुड़ी यौन सामग्री कभी अनुमति नहीं दी जाती।
अधिक गाइड
प्रश्न और उत्तर
मुझे अनुरोध में कौन सा मॉडल ID भेजना है?
हर अनुरोध में मॉडल मान के रूप में uncensored का उपयोग करें। आप GET /v1/models कॉल करके इसकी पुष्टि कर सकते हैं।
क्या मुझे एक विशेष SDK की आवश्यकता है?
नहीं। एक बार जब आप base URL को https://api.llmmodelsapi.com/v1 पर बदल देते हैं और अपनी खुद की कुंजी का उपयोग करते हैं, तो कोई भी OpenAI SDK या क्लाइंट काम करेगा।
क्या मैं बिना क्रेडिट कार्ड के इसका उपयोग कर सकता हूँ?
हाँ, परीक्षण के लिए। नए उपयोगकर्ता साइन-अप के बाद एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट दावा कर सकते हैं, बिना कार्ड के, जो 7 दिनों के लिए मान्य है।
मेरा प्रॉम्प्ट कितना बड़ा हो सकता है?
प्रॉम्प्ट और पूर्णता को मिलाकर कॉन्टेक्स्ट विंडो 100,000 टोकन की है, और अनुरोध बॉडी 8 MB तक हो सकती है।
आपकी कुंजी बस एक फॉर्म दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। यही पूरा सेटअप है।