PL ▾
Pobierz klucz API

Darmowe API LLM: Próbny okres, limity i rzeczywiste koszty

Nie ma tu darmowego nieograniczonego planu, ale możesz przetestować API za darmo dzięki kredytowi próbnemu $0,50 bez karty. Ta strona pokazuje, ile zapytań pokrywa ten kredyt i co się stanie, gdy się skończy.

Zaktualizowano

Izometryczna ilustracja monety kredytu próbnego przepływającej przez potok tokenów do terminala
01

Kluczowe punkty

  • Nowi użytkownicy mogą odebrać $0,50 kredytu próbnego jednym kliknięciem na stronie klucza API. Kredyt jest ważny przez 7 dni i nie wymaga karty.
  • Ceny to $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych, rozliczane z przedpłaconego kredytu.
  • Kredyt próbny pokrywa około 900 średnich zapytań czatu, co wystarczy do oceny modelu na Twoich własnych promptach.
  • Doładowania zaczynają się od $20, kredyt nigdy nie wygasa, a nieudane lub odrzucone żądania nie są rozliczane.

Krótka odpowiedź

Jeśli szukasz darmowego API LLM, oto szczera prawda. Usługa nie oferuje nieograniczonego darmowego planu. Oferuje kredyt próbny: po rejestracji jedno kliknięcie na stronie klucza API dodaje $0,50 kredytu na Twoje konto. Nie wymaga karty, limit to jedno odebranie na osobę, a kredyt jest ważny przez 7 dni.

To brzmi mało, ale tokeny są tanie. Przy cenie $0,15 za milion tokenów wejściowych i $0,50 za milion tokenów wyjściowych, 50 centów starcza na długo podczas testowania promptu, konfiguracji klienta lub sprawdzania, czy model odpowiada zgodnie z oczekiwaniami. Poniższe sekcje przedstawiają konkretne liczby, abyś mógł podjąć decyzję przed rejestracją.

Modelem stojącym za endpointem jest pojedynczy model o otwartych wagach, dostrojony do odpowiadania bez odmów treści dla prawnego użycia przez dorosłych. Obsługuje tylko tekst, z oknem kontekstu 100 000 tokenów, a identyfikator modelu to uncensored. Wszystko poza tym, np. obrazy lub embeddingi, nie jest częścią produktu.

Co daje kredyt próbny

Kredyt próbny służy do oceny, nie do ruchu produkcyjnego. Otrzymujesz to samo API co użytkownicy płatni, z kilkoma zaostrzonymi limitami.

  • Kredyt: $0,50, do odebrania raz na osobę.
  • Ważność: 7 dni od odebrania.
  • Limity zapytań: 2 równoległe zapytania i 60 zapytań na minutę. Klucz pełny pozwala na 8 równoległych zapytań i 300 na minutę.
  • Rejestracja: Google, lub e-mail i hasło.
  • Funkcje: strumieniowanie, wywoływanie funkcji i tryb JSON działają na kluczu próbnym.

Limit 2 równoległych zapytań ma znaczenie, gdy testujesz skryptem wysyłającym zapytania równolegle. Strumieniowana odpowiedź zajmuje slot do końca strumienia, więc dwa długie strumienie w locie spowodują błąd trzeciego zapytania kodem HTTP 429 i kodem concurrency. Uruchamiaj testy po jednym lub dwa na raz, a nie trafisz na limit.

Po upływie 7 dni niewykorzystany kredyt próbny wygasa. Jeśli chciałeś tylko szybko sprawdzić, to jest to OK. Jeśli planujesz kontynuować, doładuj kredyt najpierw, a API będzie działać z tym samym kluczem.

Koszt zapytania z obliczeniami

Rozliczenie jest na tokeny i podzielone na dwa liczniki: tokeny, które wysyłasz (wejście) i tokeny, które model generuje (wyjście). Wzór jest prosty.

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

Oto cztery wielkości zapytań dokładnie obliczone i to, ile każdego z nich pokrywa kredyt próbny $0,50.

Typ zapytaniaTokeny wejściowe / wyjścioweKoszt za zapytanieZapytania za $0,50
Krótkie pytanie500 / 200$0.0001752,857
Typowa tura czatu2,000 / 500$0.00055909
Podsumowanie dokumentu20,000 / 1,000$0.0035142
Pełne okno kontekstu100,000 / 4,000$0.01729

Sprawdź jeden wiersz ręcznie. Typowa tura czatu wysyła 2000 tokenów wejściowych: 2000 x 0,15 / 1 000 000 = $0,0003. Otrzymuje 500 tokenów wyjściowych: 500 x 0,50 / 1 000 000 = $0,00025. Razem to $0,00055, a $0,50 podzielone przez $0,00055 daje około 909 zapytań.

Ostatni wiersz to skrajny przypadek. Wypełnienie całego okna 100 000 tokenów kosztuje 100 000 x 0,15 / 1 000 000 = $0,015 za prompt, plus $0,002 za 4000 tokenów wyjściowych, co daje łącznie $0,017. Nawet tak duży prompt kosztuje mniej niż dwa centy.

Nieudane i odrzucone zapytania nie są rozliczane, więc ponowna próba po błędzie nie zużywa Twojego kredytu. Każda odpowiedź zawiera również nagłówek X-Balance-USD, który pozwala śledzić pozostałe saldo w Twoim kodzie zamiast zgadywać.

Jak przedłużyć kredyt próbny

Tokeny wyjściowe kosztują ponad trzy razy więcej niż tokeny wejściowe, więc najtańszą praktyką jest proszenie o krótsze odpowiedzi. Kilka innych zmian również pomaga.

Ogranicz wyjście podczas testów

Parametr max_tokens jest opcjonalny, ponieważ generowanie może użyć wszystkiego, co zostało z okna 100 000 tokenów. Podczas testów ustaw go na około 300. Model, który rozpisuje się na 2000 tokenów, kosztuje cztery razy więcej niż ten zatrzymany na 500, a rzadko potrzebujesz długiej wersji, aby sprawdzić, czy integracja działa.

Odcinaj historię, którą wysyłasz ponownie

API czatu są bezstanowe. Każde zapytanie zawiera całą rozmowę, więc koszt wejścia rośnie z każdą turą. Czat, który zaczyna się od 500 tokenów i zyskuje 600 na wymianę, wysyła 500 + 1100 + 1700 + 2300 + 2900 = 8500 tokenów wejściowych po pięciu turach, a nie 2900. Odrzucanie starych tur lub ich streszczanie utrzymuje tę krzywą na płasko.

Testuj ze stałymi ustawieniami

Parametry seed i temperature są przekazywane dalej. Gdy porównujesz dwie wersje promptu, utrzymuj je stałymi, aby nie płacić za szum. Używaj niskiej temperatury do ekstrakcji i klasyfikacji, a zwiększaj ją tylko dla twórczych wyjść.

Użyj skryptu, nie interfejsu

Wyślij partię swoich prawdziwych promptów z krótkiego skryptu i czytaj odpowiedzi obok siebie. Dwadzieście dobrze dobranych promptów powie Ci więcej niż dwieście bezczynnych czatów, a przy średnim rozmiarze powyżej kosztują około $0,011 łącznie (20 x $0,00055).

Kiedy doładowanie kredytu ma sens

Gdy kredyt próbny potwierdzi, że model pasuje do Twojego przypadku użycia, kolejnym krokiem jest doładowanie. Nie ma subskrypcji ani miesięcznego minimum. Dodajesz kredyt, wydajesz go na tokeny, a nigdy nie wygasa, więc niewykorzystane saldo po prostu czeka.

Doładowania wynoszą od $20 do $500 w dowolnej całkowitej kwocie. Większe kwoty dają bonus: +5% od $50, +10% od $100 i +15% od $200. Daje to następujące wyniki.

  • $20 daje $20,00 kredytu.
  • $50 daje $52,50.
  • $100 daje $110,00.
  • $200 daje $230,00.
  • $500 daje $575,00.

Aby ocenić, co $20 oznacza dla Twojego projektu, weź produkt czatu, gdzie każde zapytanie średnio ma 3000 tokenów wejściowych i 600 wyjściowych. Tysiąc zapytań zużywa 3M tokenów wejściowych ($0,45) i 0,6M tokenów wyjściowych ($0,30), więc $0,75 za tysiąc. Przy tej stawce $20 pokrywa około 26666 zapytań. Nawet intensywny projekt poboczny może działać przez tygodnie przy pierwszym doładowaniu.

Możesz zapłacić kryptowalutami (USDT na TRC20, USDC na Base). Strona z cenami wymienia aktualne warunki, a przegląd API rozliczanego na tokeny wyjaśnia produkt bardziej szczegółowo.

Inne sposoby na darmowe API LLM

Kredyt próbny to nie jedyna droga, a w zależności od celu może nie być najlepszą. Bycie szczerym w tej sprawie jest bardziej użyteczne niż udawanie czegoś innego.

Uruchom model o otwartych wagach samodzielnie. Jeśli masz wydajną kartę GPU, serwery lokalne takie jak Ollama lub llama.cpp pozwalają uruchamiać modele bez kosztu na token. Płacisz sprzętem, prądem i czasem konfiguracji, a większe modele potrzebują więcej pamięci niż mają większość laptopów. Dla prototypu na małych modelach jest to rozsądny wybór. Dla czegokolwiek, co wymaga stałego przepływu lub większego modelu, endpoint hostowany jest prostszy.

Użyj darmowych planów innych dostawców. Wiele dostawców oferuje ograniczone darmowe użycie dla ich własnych modeli. Te warunki często się zmieniają i zazwyczaj mają własne zasady treści dostawcy, więc sprawdź ich aktualne ceny i polityki przed zbudowaniem czegoś na ich bazie. Jeśli Twój projekt potrzebuje modelu, który nie odrzuca legalnych żądań dotyczących treści dla dorosłych, takich jak fikcja czy roleplay, darmowy plan od głównego dostawcy może nie pasować niezależnie od ceny.

Zacznij tutaj od kredytu próbnego, potem zdecyduj. Ponieważ endpoint jest kompatybilny z OpenAI, późniejsza zmiana wymaga od Ciebie zmiany tylko jednego adresu URL i jednego klucza. Nic w Twoim kodzie nie jest zablokowane. Szybki start pokazuje pełną konfigurację, a zajmuje to tylko kilka linii w dowolnym SDK OpenAI.

Obowiązuje jedna granica: niedozwolona jest treść seksualna z udziałem nieletnich, a żadne ustawienie tego nie zmienia.

02

Pytania i odpowiedzi

Czy istnieje darmowe API LLM bez limitów?

Nie. Istnieje jednorazowy kredyt próbny w wysokości $0,50 ważny przez 7 dni, bez konieczności podania karty. Po upływie tego okresu płacisz za tokeny z przedpłaconego kredytu.

Jak odebrać darmowy kredyt próbny?

Zarejestruj się za pomocą Google lub e-maila i hasła, otwórz stronę klucza API i kliknij raz, aby odebrać $0,50. Limit dotyczy jednego przyznania na osobę.

Co się stanie, gdy skończy się kredyt próbny?

Zapytania są zatrzymywane do momentu doładowania kredytu. Ten sam klucz działa dalej po doładowaniu kwoty $20 lub więcej, a w Twoim kodzie nie musisz nic zmieniać.

Czy nieudane zapytania zużywają mój kredyt?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane, więc możesz ponowić próbę po błędzie bez utraty salda.

Czy moje prompty są wykorzystywane do trenowania?

Nie. Prompty nie są używane do trenowania.

Twój klucz jest o jeden formularz oddalony

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API