Ramp ra mắt bộ định tuyến mô hình AI riêng mang tên Router

Nền tảng quản lý chi phí doanh nghiệp Ramp đang bám sát ngay sau Stripe trong việc thiết lập các trạm thu phí cho việc suy luận AI.

Ramp vào tối thứ Tư đã ra mắt dịch vụ định tuyến mô hình AI của riêng mình, được gọi là Router, cho phép người dùng và các công ty sử dụng và chuyển đổi giữa nhiều mô hình ngôn ngữ lớn khác nhau thông qua một API. Công ty cho biết họ đã sử dụng bộ định tuyến do chính mình xây dựng cho các nhu cầu sử dụng AI của mình trong ba năm qua.

Dịch vụ này chỉ khả dụng tại Hoa Kỳ. Nó được miễn phí sử dụng cho thời gian còn lại của năm 2026 (người dùng vẫn sẽ phải trả chi phí suy luận mô hình AI) và đi kèm với ưu đãi ra mắt trị giá 26 USD tín dụng. Công ty không cho biết dịch vụ này sẽ có giá bao nhiêu vào năm tới.

Router hoạt động tương tự như cách OpenRouter vận hành, mặc dù OpenRouter cung cấp nhiều tùy chọn mô hình AI hơn so với các dịch vụ hiện tại của Ramp.

Router cung cấp quyền truy cập vào các mô hình từ OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI và Z.ai. Nó cũng cung cấp một vài “chiến lược” để giúp khách hàng định tuyến các yêu cầu AI đến các mô hình dựa trên sở thích của họ. Ví dụ: một chiến lược cho phép người dùng thiết lập ưu tiên cho các cấp độ sử dụng linh hoạt của nhà cung cấp mô hình, trong khi một chiến lược khác cho phép Router chọn mô hình để định tuyến các truy vấn dựa trên tối đa ba điểm chuẩn do người dùng chỉ định. Người dùng cũng có thể chọn chỉ định tuyến các vấn đề khó đến các mô hình đắt tiền hoặc kiểm tra các mô hình một cách dễ dàng mà không cần phải chuyển đổi.