OpenRouter là gì? Một API cho mọi mô hình ngôn ngữ lớn

OpenRouter là một LLM Gateway (cổng kết nối) cho phép bạn truy cập hàng trăm mô hình ngôn ngữ lớn từ hàng chục nhà cung cấp chỉ qua một API duy nhất. Nếu bạn đang làm hạ tầng cho AI, việc phải quản lý đống API key từ OpenAI, Anthropic hay Google là một cơn ác mộng về vận hành. Thay vì viết code riêng cho từng bên, bạn chỉ cần tích hợp một lần.

Mỗi tuần có khoảng 25 nghìn tỷ token đi qua hệ thống này. Ở quy mô đó, nó đủ sức chạy cho các hệ thống production thực tế, chứ không chỉ để làm prototype.

OpenRouter là gì?

Nói về tiền nong và quy mô, OpenRouter hiện là một "con quái vật" trong mảng hạ tầng AI với định giá 1,3 tỷ USD. Họ vừa gọi vốn thành công 113 triệu USD vòng Series B, dẫn đầu bởi CapitalG (quỹ của Alphabet). Với 8 triệu người dùng và xử lý 100 nghìn tỷ token mỗi tháng, đây không còn là một dự án proxy nhỏ lẻ nữa.

Về mặt kỹ thuật, OpenRouter là một lớp middleware nằm giữa ứng dụng của bạn và các nhà cung cấp AI. Nó chuẩn hóa định dạng request/response theo chuẩn OpenAI. Cái hay nhất là bạn có thể đổi từ một model của OpenAI sang Claude hay DeepSeek chỉ bằng cách sửa tham số model trong cấu hình, không cần đụng vào một dòng logic xử lý dữ liệu nào khác.

Vì sao OpenRouter tồn tại?

Dưới góc độ kỹ sư hạ tầng, OpenRouter giải quyết ba bài toán rất thực tế:

• Chống vendor lock-in: Nếu bạn phụ thuộc hoàn toàn vào API của Anthropic hay OpenAI, việc chuyển đổi khi họ tăng giá hoặc thay đổi policy là cả một dự án hạ tầng phức tạp. Với OpenRouter, việc này chỉ là thay đổi cấu hình.
• Khả năng chịu lỗi (failover): OpenRouter không chỉ kiểm tra nhà cung cấp có "sống" hay không. Họ theo dõi throughput (băng thông) và TTFT (thời gian trả token đầu tiên) để đánh giá sức khỏe từng provider. Nếu một nhà cung cấp bị chậm, lỗi 503 hoặc chạm limit, hệ thống sẽ tự động định tuyến sang provider khác hoặc mô hình dự phòng.
• Quản lý tập trung: Bạn chỉ nhận một hóa đơn duy nhất. Bạn có thể tạo nhiều API key cho từng dự án và thiết lập hạn mức chi tiêu cho từng key, để tránh việc một con bot chạy lỗi "đốt" sạch ngân sách của công ty trong một đêm.

Vấn đề gốc là không có mô hình nào tối ưu cho mọi tác vụ. Một agent cần suy luận sâu thì hợp với dòng model mạnh nhất, còn tác vụ tóm tắt số lượng lớn lại nên đẩy sang model rẻ và nhanh. Khi bạn phải chạy nhiều model cùng lúc, mỗi nhà cung cấp lại có rate limit riêng, cách tính token riêng và lịch bảo trì riêng — đó chính là mớ hỗn độn mà một gateway sinh ra để dọn.

OpenRouter định tuyến request như thế nào?

Mặc định, OpenRouter cân bằng tải giữa các nhà cung cấp cùng phục vụ một model, ưu tiên bên có giá thấp hơn. Bạn có thể ghi đè hành vi này bằng các shortcut định tuyến gắn ngay sau tên model:

• :nitro — ưu tiên throughput cao nhất (số token/giây nhanh nhất).
• :floor — ưu tiên nhà cung cấp có giá rẻ nhất, hợp cho xử lý batch.

Ngoài ra còn trường sort với ba lựa chọn price, throughput và latency nếu bạn muốn khai báo tường minh thay vì dùng shortcut.

Để thiết lập model dự phòng, bạn truyền danh sách qua trường models. Khi model chính lỗi hoặc nhà cung cấp từ chối request, OpenRouter sẽ lần lượt thử các model còn lại trong danh sách:

{
  "model": "~openai/gpt-latest",
  "models": ["anthropic/claude-sonnet-5", "google/gemini-3.5-flash"],
  "messages": [{ "role": "user", "content": "Phân tích log hệ thống này." }]
}

Bạn cũng có thể siết đường đi của dữ liệu ngay trong tầng định tuyến. Trường data_collection cho phép loại bỏ những nhà cung cấp có lưu dữ liệu, còn cờ zdr giới hạn request chỉ chạy qua các endpoint cam kết Zero Data Retention (ZDR — không lưu lại dữ liệu).

Bắt đầu với OpenRouter: API key, credit, request đầu tiên

Quy trình triển khai rất đơn giản:

1. Tạo API key trên dashboard.
2. Nạp credit — nên nạp từ 10 USD để mở khóa hạn mức 1.000 request miễn phí mỗi ngày cho các model free.
3. Đổi base_url thành https://openrouter.ai/api/v1 trong SDK bạn đang dùng.

Vì API tương thích chuẩn OpenAI, nếu bạn đã có sẵn tích hợp OpenAI thì chỉ cần đổi ba thứ: base_url, API key và định danh model. Toàn bộ phần còn lại của code giữ nguyên.

OpenRouter hỗ trợ định danh ~openai/gpt-latest để code của bạn luôn trỏ về phiên bản flagship mới nhất mà không cần deploy lại mỗi khi nhà cung cấp ra model mới:

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
  "model": "~openai/gpt-latest",
  "messages": [
    {
      "role": "user",
      "content": "OpenRouter là gì?"
    }
  ]
}'

OpenRouter tính tiền thế nào?

Hệ thống chạy theo mô hình trả trước. OpenRouter không cộng markup vào giá token của nhà cung cấp — bạn trả đúng mức giá như khi mua trực tiếp. Họ kiếm tiền ở khâu nạp tiền và các dịch vụ đi kèm.

• Phí nạp tiền: 5,5% cộng thêm khi thanh toán qua thẻ (tối thiểu 0,80 USD mỗi lần nạp), hoặc 5% nếu trả bằng crypto. Nghĩa là muốn có 100 USD credit, thẻ bạn bị trừ 105,50 USD. Tính nhanh: nếu team chi 200.000 USD/tháng cho inference, bạn mất khoảng 11.000 USD chỉ riêng phí gateway.
• Cơ chế BYOK (Bring Your Own Key): Bạn dùng key riêng nhưng mượn hạ tầng định tuyến của OpenRouter. Miễn phí 1 triệu request đầu tiên mỗi tháng, sau đó thu 5% tính trên mức giá mà chính model và provider đó thường tốn nếu đi qua OpenRouter.
• Mẹo giảm chi phí: Nếu bạn bật tùy chọn cho phép ghi log prompt và completion, OpenRouter giảm 1% trên chi phí sử dụng. Đổi lại, dữ liệu của bạn sẽ được lưu lại — cân nhắc kỹ trước khi bật cho workload nhạy cảm.

Với các model miễn phí, hạn mức phụ thuộc vào tổng số tiền bạn từng nạp:

Khi nào không nên dùng OpenRouter?

Mặc dù tiện, có ba trường hợp bạn cần cân nhắc kỹ:

1. Độ trễ (latency): Mọi request đều đi qua một trạm trung gian, nên sẽ cộng thêm một khoảng trễ so với gọi thẳng nhà cung cấp. Với app chat thông thường thì không đáng kể, nhưng với hệ thống yêu cầu phản hồi cực nhanh, đây là điểm cần đo trước khi chốt.
2. Bảo mật và tuân thủ: Dữ liệu của bạn vẫn phải rời khỏi mạng nội bộ và đi qua hạ tầng của bên thứ ba. Bộ lọc ZDR giúp giới hạn phạm vi, nhưng chính sách bảo mật thực tế của bạn giờ là chính sách của OpenRouter cộng với chính sách của nhà cung cấp mà request được định tuyến tới — bạn phải audit cả hai. Nếu bạn làm trong lĩnh vực có ràng buộc pháp lý gắt gao về nơi dữ liệu được xử lý, hãy kiểm tra kỹ điều khoản trước khi đưa vào production.
3. Thuế "trung gian": Mức phí 5,5% trở thành gánh nặng tài chính khi traffic lớn. Nếu bạn chỉ dùng đúng một model ở quy mô rất cao, khoản phí này có thể vượt qua phần công sức hạ tầng mà gateway tiết kiệm được cho bạn.

Nên chọn OpenRouter hay tự dựng gateway?

Nếu bạn đang ở giai đoạn prototype, hoặc cần chạy song song nhiều model và muốn đổi model mà không phải deploy lại, OpenRouter gần như là lựa chọn mặc định — bạn mua được sự linh hoạt đó với giá 5,5% phí nạp tiền và một ít latency.

Ngưỡng để cân nhắc rời đi khá rõ ràng: khi bạn đã chốt đúng một model, traffic ổn định ở quy mô lớn, và yêu cầu tuân thủ buộc dữ liệu phải nằm trong hạ tầng của chính bạn. Lúc đó một gateway tự host như LiteLLM sẽ hợp lý hơn — bạn không mất phí nền tảng, đổi lại phải tự gánh phần vận hành đi kèm.

Tài liệu tham khảo

• OpenRouter Quickstart Guide
• Provider Routing — OpenRouter Documentation
• LLM Gateway: What It Is and How to Choose One — OpenRouter Blog
• What is OpenRouter? A Guide with Practical Examples — Codecademy
• OpenRouter: A Guide With Practical Examples — DataCamp
• OpenRouter Pricing 2026: Plans, Costs, and Hidden Fees — TrueFoundry
• OpenRouter vs Direct API: Pricing, Latency, and Limits — Folding Sky
• OpenRouter more than doubles valuation to $1.3B in a year — TechCrunch
• OpenRouter raises $113M Series B — Hacker News