ReadyServer LLM API兼容OpenAI接口,不按Token计费
(全球TMT 2026年10月20日讯)新加坡VPS云服务商Ready Server宣布推出ReadyServer LLM API。这是一项兼容OpenAI标准的私有AI推理接口,所有ReadyServer VPS套餐用户均可免费使用,无需额外付费。

开发者、数字营销机构和科技企业可直接在现有的ReadyServer VPS上构建AI智能体、聊天机器人、RAG(检索增强生成)应用和编程智能体。整个过程无需管理API密钥,也不按Token计费。该服务基于vLLM提供两款开源模型:Qwen3.6-27B-FP8(上下文窗口为131,072个Token)和Qwen3.8-27B-FP8(上下文窗口为262,144个Token),均支持工具调用、结构化JSON输出和图像输入。
ReadyServer LLM API采用共享AI推理基础设施,请求通过内网从用户VPS直达Ready Server推理服务器,全程不经过公网;不按Token计量,而是采用公平共享机制,高峰时段请求将进入排队,Token用量较少的用户优先获得响应。该API现已向所有ReadyServer VPS用户免费开放。

文章评论(0)