Câu hỏi thường gặp

Bắt đầu

Trạm AI cung cấp một unified API để truy cập tất cả các model LLM lớn trên thị trường. Bạn cũng có thể gom toàn bộ hóa đơn về một nơi và theo dõi mọi mức sử dụng qua phần phân tích của chúng tôi.

Trạm AI chuyển tiếp nguyên giá của các provider bên dưới, đồng thời gộp chung thời gian hoạt động (uptime) của họ. Nhờ vậy bạn nhận được đúng mức giá như khi dùng trực tiếp với provider, kèm theo một unified API và cơ chế fallback giúp uptime tốt hơn hẳn.

Tìm hiểu thêm trong hướng dẫn Bắt đầu nhanh.

Để bắt đầu, hãy tạo tài khoản và nạp credit trên trang Credits. Credit đơn giản là khoản tiền bạn gửi trên Trạm AI để dùng cho việc inference LLM. Khi bạn gọi API hoặc dùng giao diện chat, chúng tôi trừ chi phí của request vào credit của bạn. Mỗi model và provider có một mức giá riêng trên mỗi triệu token.

Khi đã có credit, bạn có thể dùng chatroom, hoặc tạo API key và bắt đầu gọi API. Hãy đọc quickstart của chúng tôi hoặc hướng dẫn dành cho doanh nghiệp để xem ví dụ code và nhiều nội dung khác.

Cách tốt nhất để nhận hỗ trợ kỹ thuật là tham gia Discord của chúng tôi và hỏi cộng đồng trong forum #help.

Với các câu hỏi về thanh toán và quản lý tài khoản, vui lòng liên hệ với chúng tôi tại support@tram.ai.vn.

Với mỗi model, chúng tôi hiển thị giá trên mỗi triệu token. Thông thường giá của prompt token và completion token là khác nhau. Một số model còn tính phí theo từng request, theo hình ảnh và theo reasoning token. Mọi chi tiết này đều hiển thị trên trang models.

Khi bạn gửi một request đến Trạm AI, chúng tôi nhận được tổng số token mà provider đã xử lý, rồi tính chi phí tương ứng và trừ vào credit của bạn. Bạn có thể xem lại toàn bộ lịch sử sử dụng trong tab Activity.

Chúng tôi chuyển tiếp nguyên giá của các provider bên dưới, không cộng thêm bất kỳ khoản nào vào giá inference (tuy nhiên chúng tôi có thu một khoản phí khi bạn mua credit).

Giá cả và Phí

Trạm AI chuyển tiếp nguyên giá của các provider bên dưới mà không cộng thêm, nên bạn trả đúng mức giá như khi dùng trực tiếp với provider.

Khi nạp tiền, bạn sẽ chịu một khoản phí dịch vụ và thuế GTGT (VAT) cộng thêm vào số tiền nạp. Xem chi tiết tại Nạp tiền & Thanh toán.

Có. Nếu bạn chọn dùng provider API key của riêng mình (Bring Your Own Key - BYOK), thì 1M request BYOK đầu tiên mỗi tháng là miễn phí; toàn bộ mức sử dụng sau đó chịu một khoản phí bằng 5% của chi phí mà cùng model và provider đó thường tốn trên Trạm AI. Khoản phí này được trừ vào credit Trạm AI của bạn. Cách này cho phép bạn quản lý rate limit và chi phí trực tiếp với provider mà vẫn tận dụng được giao diện thống nhất của Trạm AI.

Tìm hiểu thêm về BYOK.

Model và Provider

Trạm AI cung cấp quyền truy cập vào nhiều model LLM khác nhau, bao gồm cả những model tiên tiến nhất từ các phòng nghiên cứu AI lớn. Để xem danh sách model đầy đủ, bạn có thể vào trình duyệt model hoặc lấy danh sách qua models api.

Chúng tôi cố gắng thêm model nhanh nhất có thể. Trạm AI thường có quan hệ đối tác với các phòng nghiên cứu phát hành model nên có thể đưa model lên ngay khi chúng khả dụng. Nếu còn thiếu model nào mà bạn muốn Trạm AI hỗ trợ, hãy nhắn cho chúng tôi trên Discord.

Variant là các hậu tố mà bạn có thể thêm vào model slug để thay đổi hành vi của model.

Static variant chỉ dùng được với một số model cụ thể, và được liệt kê trong models api của chúng tôi.

  1. :free - Model luôn được cung cấp miễn phí và có rate limit thấp. Tìm hiểu thêm.
  2. :extended - Model có độ dài context dài hơn bình thường. Tìm hiểu thêm.
  3. :thinking - Model hỗ trợ reasoning theo mặc định. Tìm hiểu thêm.

Dynamic variant dùng được trên mọi model, và thay đổi cách request được route hoặc sử dụng.

  1. :online (deprecated) - Mọi request sẽ chạy một truy vấn để trích xuất kết quả web rồi đính vào prompt. Bạn nên dùng server tool tramai:web_search để thay thế. Tìm hiểu thêm.
  2. :nitro - Các provider sẽ được sắp xếp theo throughput thay vì theo thứ tự mặc định, tối ưu cho thời gian phản hồi nhanh hơn. Tìm hiểu thêm.
  3. :floor - Các provider sẽ được sắp xếp theo giá thay vì theo thứ tự mặc định, ưu tiên các lựa chọn tiết kiệm chi phí nhất. Tìm hiểu thêm.
  4. :exacto - Các provider sẽ được sắp xếp bằng các tín hiệu ưu tiên chất lượng, được tinh chỉnh cho độ tin cậy của tool calling. Tìm hiểu thêm.

Bạn có thể xem các yêu cầu của chúng tôi tại trang Providers. Nếu muốn liên hệ, cách tốt nhất là qua email.

Với mỗi model trên Trạm AI, chúng tôi hiển thị độ trễ (thời gian đến token đầu tiên) và throughput token của tất cả provider. Bạn có thể dựa vào thông tin này để ước lượng thời gian xử lý của request. Nếu muốn tối ưu cho throughput, bạn có thể dùng variant :nitro để route đến provider nhanh nhất.

Nếu một provider trả về lỗi, Trạm AI sẽ tự động fallback sang provider tiếp theo. Quá trình này diễn ra trong suốt với người dùng và giúp các ứng dụng production bền bỉ hơn hẳn. Trạm AI có rất nhiều tùy chọn để cấu hình hành vi routing provider. Bạn có thể xem tài liệu đầy đủ tại đây.

Thông số kỹ thuật của API

Trạm AI sử dụng hai phương thức xác thực:

  1. Xác thực dựa trên cookie cho giao diện web và chatroom
  2. API key (truyền dưới dạng Bearer token) để truy cập completions API và các endpoint cốt lõi khác

Tìm hiểu thêm về xác thực API.

Với model miễn phí, rate limit được xác định bởi số credit mà bạn đã mua. Nếu bạn đã mua ít nhất 10 credit, rate limit cho model miễn phí của bạn sẽ là 1000 request mỗi ngày. Nếu chưa, bạn sẽ bị giới hạn ở 50 request API model miễn phí mỗi ngày.

Bạn có thể tìm hiểu thêm về cách rate limit hoạt động với tài khoản trả phí trong tài liệu về rate limit của chúng tôi.

Trạm AI triển khai đặc tả OpenAI API cho các endpoint /completions và /chat/completions, cho phép bạn dùng bất kỳ model nào với cùng một định dạng request/response. Ngoài ra còn có các endpoint bổ sung như /v1/models. Xem tài liệu API của chúng tôi để biết đặc tả chi tiết.

API hỗ trợ text, hình ảnh và PDF. Hình ảnh có thể được truyền dưới dạng URL hoặc ảnh mã hóa base64. PDF cũng có thể được gửi dưới dạng URL hoặc dữ liệu mã hóa base64, và hoạt động với mọi model trên Trạm AI.

Streaming dùng server-sent events (SSE) để chuyển token theo thời gian thực. Đặt stream: true trong request của bạn để bật response dạng streaming.

Tìm hiểu thêm về streaming.

Trạm AI là bản thay thế drop-in cho OpenAI. Nhờ vậy, bất kỳ SDK nào hỗ trợ OpenAI theo mặc định cũng đều hỗ trợ Trạm AI. Hãy xem tài liệu OpenAI SDK của chúng tôi để biết thêm chi tiết.

Xem tất cả các framework và tích hợp được hỗ trợ.

Quyền riêng tư và Ghi log dữ liệu

Vui lòng xem Điều khoản dịch vụChính sách quyền riêng tư của chúng tôi.

Chúng tôi ghi log metadata cơ bản của request (mốc thời gian, model được dùng, số lượng token). Prompt và completion mặc định không được ghi log. Chúng tôi không ghi log bất cứ điều gì về prompt/completion của bạn, kể cả khi xảy ra lỗi, trừ khi bạn chủ động chọn (opt-in) ghi log chúng.

Chúng tôi có một cài đặt opt-in cho phép bạn chọn ghi log prompt và completion của mình để đổi lấy mức giảm 1% trên chi phí sử dụng.

Tìm hiểu thêm về việc thu thập dữ liệu.

Quyền riêng tư dữ liệu áp dụng cho chatroom giống như với API. Mọi cuộc hội thoại trong chatroom đều được lưu cục bộ trên thiết bị của bạn và không đồng bộ giữa các thiết bị. Bạn có thể export và import các cuộc hội thoại bằng menu cài đặt trong chatroom.

Trạm AI là một proxy gửi request của bạn đến model provider để xử lý. Bất cứ khi nào có thể, chúng tôi làm việc với mọi provider để đảm bảo prompt và completion không bị ghi log hay dùng cho việc huấn luyện. Những provider có ghi log, hoặc provider mà chúng tôi chưa thể xác nhận chính sách, sẽ không được route đến trừ khi bạn bật model training trong tab cài đặt quyền riêng tư.

Nếu bạn chỉ định routing provider trong request, nhưng không provider nào đáp ứng mức quyền riêng tư đã đặt trong cài đặt tài khoản, bạn sẽ nhận được lỗi và request sẽ không hoàn tất.

Tìm hiểu thêm về chính sách ghi log của provider.

Hệ thống Credit và Thanh toán

Trang Activity cho phép bạn xem lại lịch sử sử dụng và lọc theo model, provider và api key.

Chúng tôi cũng cung cấp một credits api trả về thông tin trực tiếp về số dư và số credit còn lại của tài khoản.

Tất cả người dùng mới đều nhận được một khoản miễn phí rất nhỏ để dùng thử Trạm AI. Trên Trạm AI cũng có rất nhiều model miễn phí. Lưu ý rằng các model này có rate limit thấp (tổng cộng 50 request mỗi ngày) và thường không phù hợp cho mục đích sử dụng production. Nếu bạn đã mua ít nhất 10 credit, model miễn phí sẽ được giới hạn ở 1000 request mỗi ngày.

Bạn cũng có thể dùng Free Models Router (tram/free) để tự động chọn một model miễn phí cho request của mình.

Hiện tại Trạm AI không cung cấp chiết khấu theo khối lượng, nhưng bạn có thể liên hệ với chúng tôi qua email nếu cho rằng mình có một trường hợp sử dụng đặc biệt.

Chúng tôi thu một khoản phí nhỏ khi bạn mua credit. Chúng tôi không bao giờ cộng thêm vào giá của các provider bên dưới, và bạn sẽ luôn trả đúng bằng mức giá niêm yết của provider.

Quản lý Tài khoản

Vào trang Settings và nhấp vào Manage Account. Trong hộp thoại mở ra, chọn tab Security. Tùy chọn xóa tài khoản nằm ở đó.

Lưu ý rằng credit chưa sử dụng sẽ bị mất và không thể lấy lại nếu bạn xóa rồi tạo lại tài khoản sau này.

Bạn có thể tìm thông tin về quản lý tổ chức trong tài liệu quản lý tổ chức của chúng tôi.

Activity dashboard của chúng tôi cung cấp các số liệu sử dụng theo thời gian thực. Nếu cần bất kỳ báo cáo hoặc số liệu cụ thể nào, vui lòng liên hệ với chúng tôi.

Với các câu hỏi về tài khoản và thanh toán, vui lòng liên hệ với chúng tôi tại support@tram.ai.vn.

Bạn có thể gửi báo cáo lỗi hoặc yêu cầu thay đổi bằng cách đăng trong Discord của chúng tôi.