VI ▾
Lấy khóa API

API LLM miễn phí để sử dụng: Dùng thử, giới hạn và chi phí thực tế

Không có gói miễn phí không giới hạn tại đây, nhưng bạn có thể kiểm tra API mà không mất phí với gói dùng thử $0.50 và không cần thẻ. Trang này cho bạn biết gói dùng thử đó mang lại được bao nhiêu yêu cầu thực tế và điều gì xảy ra khi số dư bị tiêu hao hết.

Cập nhật

Minh họa đẳng hướng của một đồng tín dụng dùng thử chảy qua đường ống token vào một thiết bị đầu cuối
01

Điểm chính

  • Người dùng mới có thể nhận $0.50 tín dụng dùng thử chỉ bằng một cú nhấp chuột trên trang khóa API, có hiệu lực trong 7 ngày, không cần thẻ.
  • Giá là $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra, được tính từ tín dụng trả trước.
  • Tín dụng dùng thử đủ cho khoảng 900 yêu cầu chat trung bình, đủ để bạn đánh giá mô hình trên các prompt của chính mình.
  • Nạp tiền bắt đầu từ $20, tín dụng không bao giờ hết hạn và các yêu cầu bị lỗi hoặc bị từ chối sẽ không bị tính phí.

Câu trả lời ngắn gọn

Nếu bạn đang tìm kiếm một API LLM miễn phí để sử dụng, đây là thông tin trung thực. Dịch vụ này không cung cấp gói miễn phí không giới hạn. Những gì nó cung cấp là một gói dùng thử: sau khi đăng ký, một cú nhấp chuột trên trang khóa API sẽ thêm $0.50 tín dụng vào tài khoản của bạn. Nó không cần thẻ, giới hạn một lần nhận cho mỗi người và có hiệu lực trong 7 ngày.

Điều đó nghe có vẻ nhỏ, và thực sự là vậy, nhưng token rất rẻ. Với giá $0.15 cho mỗi triệu token đầu vào và $0.50 cho mỗi triệu token đầu ra, năm mươi xu Mỹ có thể dùng được rất lâu khi bạn đang kiểm tra một prompt, thiết lập client hoặc xem liệu mô hình có trả lời đúng như bạn cần hay không. Các phần bên dưới đưa ra các con số thực tế để bạn có thể quyết định trước khi đăng nhập.

Mô hình phía sau endpoint là một mô hình trọng số mở đơn lẻ, được tinh chỉnh để trả lời mà không từ chối nội dung cho việc sử dụng hợp pháp của người trưởng thành. Nó chỉ hỗ trợ văn bản, với cửa sổ ngữ cảnh 100.000 token, và ID mô hình là uncensored. Mọi thứ khác, chẳng hạn như hình ảnh hoặc embedding, không nằm trong sản phẩm.

Gói dùng thử mang lại cho bạn những gì

Gói dùng thử được thiết kế để đánh giá, không phải cho lưu lượng sản xuất thực tế. Bạn nhận được cùng API như người dùng trả tiền, với một số giới hạn chặt chẽ hơn.

  • Tín dụng: $0.50, nhận một lần cho mỗi người.
  • Thời hạn: 7 ngày kể từ khi nhận.
  • Giới hạn tốc độ: 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút. Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút.
  • Đăng ký: Google, hoặc email và mật khẩu.
  • Tính năng: truyền phát (streaming), gọi hàm và chế độ JSON đều hoạt động trên khóa dùng thử.

Giới hạn đồng thời 2 yêu cầu sẽ ảnh hưởng nếu bạn kiểm thử bằng chương trình gửi yêu cầu đồng thời. Phản hồi truyền phát giữ vị trí cho đến khi luồng kết thúc, vì vậy hai luồng dài đang xử lý sẽ khiến yêu cầu thứ ba thất bại với HTTP 429 và mã lỗi concurrency. Bạn hãy chạy thử nghiệm từng hoặc hai một để không chạm giới hạn này.

Khi hết 7 ngày, bất kỳ tín dụng dùng thử nào chưa sử dụng sẽ hết hạn. Nếu bạn chỉ muốn xem nhanh, điều đó ổn. Nếu bạn có kế tiếp tục, hãy thêm một lần nạp tiền trước và API sẽ tiếp tục hoạt động với cùng khóa.

Chi phí cho mỗi yêu cầu, với các phép tính

Thanh toán theo token và được chia thành hai bộ đếm: token bạn gửi (đầu vào) và token mô hình trả lại (đầu ra). Công thức rất đơn giản.

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

Dưới đây là bốn kích thước yêu cầu được tính toán chính xác và số lượng mỗi loại mà tín dụng dùng thử $0.50 có thể chi trả.

Loại yêu cầuToken đầu vào / đầu raChi phí mỗi yêu cầuYêu cầu trên mỗi $0.50
Câu hỏi ngắn500 / 200$0.0001752,857
Lượt hội thoại điển hình2,000 / 500$0.00055909
Tóm tắt tài liệu20,000 / 1,000$0.0035142
Cửa sổ ngữ cảnh đầy đủ100,000 / 4,000$0.01729

Kiểm tra một hàng bằng tay. Một lượt chat điển hình gửi 2.000 token đầu vào: 2.000 x 0,15 / 1.000.000 = $0,0003. Nó nhận được 500 token đầu ra: 500 x 0,50 / 1.000.000 = $0,00025. Cộng lại là $0,00055, và $0,50 chia cho $0,00055 là khoảng 909 yêu cầu.

Hàng cuối cùng là trường hợp cực đoan. Điền đầy cửa sổ 100.000 token tốn 100.000 x 0.15 / 1.000.000 = $0,015 cho prompt, cộng thêm $0,002 cho 4.000 token đầu ra, tổng cộng là $0,017. Ngay cả một prompt lớn như vậy cũng dưới hai xu.

Các yêu cầu bị lỗi và bị từ chối sẽ không bị tính phí, vì vậy việc thử lại sau khi gặp lỗi sẽ không làm hao hụt tín dụng của bạn. Mọi phản hồi cũng đều có tiêu đề X-Balance-USD, cho phép bạn theo dõi số dư còn lại từ mã của mình thay vì đoán mò.

Làm sao để gói dùng thử kéo dài hơn

Token đầu ra đắt gấp ba lần so với token đầu vào, vì vậy cách tiết kiệm nhất là yêu cầu câu trả lời ngắn hơn. Một vài thay đổi khác cũng giúp ích.

Giới hạn đầu ra trong khi bạn kiểm tra

Tham số max_tokens là tùy chọn, vì phần hoàn thành có thể sử dụng bất kỳ phần còn lại nào của cửa sổ 100.000 token. Trong quá trình kiểm tra, hãy đặt nó thành một giá trị như 300. Một mô hình nói lan man trong 2.000 token sẽ tốn gấp bốn lần so với một mô hình bị dừng ở 500 token và bạn hiếm khi cần phiên bản dài để kiểm tra xem tích hợp của bạn có hoạt động hay không.

Cắt giảm lịch sử bạn gửi lại

Các API trò chuyện là không trạng thái. Mỗi yêu cầu đều mang toàn bộ cuộc trò chuyện, vì vậy chi phí đầu vào tăng lên với mỗi lượt. Một cuộc trò chuyện bắt đầu với 500 token và tăng thêm 600 token mỗi lần trao đổi đã gửi 500 + 1.100 + 1.700 + 2.300 + 2.900 = 8.500 token đầu vào sau năm lượt, không phải 2.900. Việc loại bỏ các lượt cũ hoặc tóm tắt chúng sẽ giữ cho đường cong đó phẳng.

Kiểm tra với các cài đặt cố định

Các tham số seed và temperature được truyền qua. Khi bạn so sánh hai phiên bản prompt, hãy giữ chúng không đổi để bạn không phải trả tiền cho nhiễu. Sử dụng nhiệt độ thấp cho công việc trích xuất và phân loại và chỉ tăng nó lên cho đầu ra sáng tạo.

Sử dụng một script, không phải giao diện người dùng

Gửi một lô các prompt thực tế của riêng bạn từ một script ngắn và đọc các câu trả lời cạnh nhau. Hai mươi prompt được chọn lọc kỹ lưỡng sẽ cho bạn biết nhiều hơn hai trăm cuộc trò chuyện không hoạt động, và ở kích thước trung bình ở trên, chúng tốn khoảng $0,011 tổng cộng (20 x $0,00055).

Khi nào tín dụng trả trước hợp lý

Khi gói dùng thử xác nhận mô hình phù hợp với trường hợp sử dụng của bạn, bước tiếp theo là nạp tiền. Không có gói đăng ký và không có mức tối thiểu hàng tháng. Bạn thêm tín dụng, bạn chi tiêu nó theo token và nó không bao giờ hết hạn, vì vậy số dư chưa sử dụng chỉ đơn giản là chờ đợi.

Các lần nạp tiền chạy từ $20 đến $500 với bất kỳ số nguyên nào. Các khoản lớn hơn có một ưu đãi: +5% từ $50, +10% từ $100 và +15% từ $200. Điều đó hoạt động như sau.

  • $20 cung cấp $20.00 tín dụng.
  • $50 cho $52,50.
  • $100 cho $110,00.
  • $200 cho $230,00.
  • $500 cho $575,00.

Để đánh giá $20 có nghĩa là gì cho dự án của bạn, hãy lấy một sản phẩm chat nơi mỗi yêu cầu trung bình 3.000 token đầu vào và 600 token đầu ra. Một nghìn yêu cầu sử dụng 3M token đầu vào ($0,45) và 0,6M token đầu ra ($0,30), vậy $0,75 cho mỗi nghìn. Với tốc độ đó, $20 đủ để thực hiện khoảng 26.666 yêu cầu. Ngay cả một dự án phụ bận rộn cũng có thể chạy trong nhiều tuần chỉ với lần nạp tiền đầu tiên.

Bạn có thể thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Trang giá cả liệt kê các điều khoản hiện tại và trang tổng quan về API trả tiền theo token giải thích sản phẩm chi tiết hơn.

Các cách khác để có API LLM miễn phí

Gói dùng thử không phải là con đường duy nhất và tùy thuộc vào mục tiêu của bạn, nó có thể không phải là cách tốt nhất. Nói thẳng về điều đó hữu ích hơn là giả vờ ngược lại.

Chạy một mô hình trọng số mở của riêng bạn. Nếu bạn có một GPU mạnh, các máy chủ cục bộ như Ollama hoặc llama.cpp cho phép bạn chạy các mô hình mà không tốn chi phí theo token. Bạn trả tiền bằng phần cứng, điện và thời gian thiết lập và các mô hình lớn hơn cần nhiều bộ nhớ hơn hầu hết các máy tính xách tay. Đối với một nguyên mẫu trên các mô hình nhỏ, đây là một lựa chọn hợp lý. Đối với bất kỳ điều gì cần thông lượng ổn định hoặc một mô hình lớn hơn, một endpoint được lưu trữ sẽ đơn giản hơn.

Sử dụng các gói miễn phí của các nhà cung cấp khác. Một số nhà cung cấp cung cấp mức sử dụng miễn phí giới hạn cho các mô hình của riêng họ. Các điều khoản đó thay đổi thường xuyên và chúng thường đi kèm với các quy tắc nội dung của nhà cung cấp, vì vậy hãy kiểm tra giá cả và chính sách hiện tại của họ trước khi xây dựng dựa trên một nhà cung cấp. Nếu dự án của bạn cần một mô hình không từ chối các yêu cầu hợp pháp của người trưởng thành chẳng hạn như truyện hư cấu hoặc nhập vai, một gói miễn phí từ một nhà cung cấp phổ thông có thể không phù hợp bất kể giá cả.

Bắt đầu ở đây với tín dụng dùng thử, sau đó quyết định. Vì endpoint tương thích với OpenAI, việc chuyển đổi sau này chỉ tốn cho bạn một Base URL và một khóa. Không có gì trong mã của bạn bị khóa. hướng dẫn bắt đầu nhanh hiển thị thiết lập đầy đủ, và nó chỉ mất vài dòng với bất kỳ SDK OpenAI nào.

Một giới hạn áp dụng cho mọi trường hợp sử dụng: nội dung tình dục liên quan đến người chưa thành niên không được phép, và không có cài đặt nào thay đổi điều này.

02

Hỏi đáp

Có API LLM miễn phí nào không có giới hạn không?

Không. Bạn nhận một khoản tín dụng dùng thử một lần trị giá $0.50, có hiệu lực trong 7 ngày, không cần thẻ. Sau đó, bạn trả tiền theo token từ tín dụng trả trước.

Làm thế nào để nhận tín dụng dùng thử miễn phí?

Đăng ký bằng Google hoặc bằng email và mật khẩu, mở trang khóa API và nhấp một lần để nhận $0.50. Mỗi người chỉ được nhận một lần.

Điều gì xảy ra khi hết tín dụng dùng thử miễn phí?

Các yêu cầu sẽ dừng lại cho đến khi bạn thêm tiền. Khóa đó vẫn hoạt động sau khi nạp từ $20 trở lên, và không cần thay đổi gì trong mã của bạn.

Các yêu cầu thất bại có tiêu tốn tín dụng của tôi không?

Không. Các yêu cầu bị từ chối hoặc không thành công không bị tính phí, vì vậy bạn có thể thử lại sau lỗi mà không mất số dư.

Các prompt của tôi có được sử dụng để huấn luyện không?

Không. Các prompt không được dùng để huấn luyện.

Khóa của bạn chỉ cách một bước

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API