“模型托管”的相关工具 4 个

Baseten新有门槛

开源模型托管推理平台:一键部署开源与微调模型,自动扩缩容到零,按秒计费,生产级延迟口碑好,支持 TensorRT-LLM 等加速。

B 端采购 官网

硅基流动 SiliconFlow需摸索

国产大模型 API 云:DeepSeek/Qwen 等热门开源模型托管,速度快价格低,注册送额度,国内 MaaS 首选之一

一次性免费额度 ≈ ¥14 官网

Replicate需摸索需科学上网

开源模型托管平台:一行 API 跑图像、视频、语音、LLM 社区模型,自己的模型也能一键部署收钱

每月免费额度 官网

DeepInfra需摸索需科学上网

开源模型托管推理云:200+ 开源模型 OpenAI 兼容接口直接调,价格低,无需自己管 GPU;需科学上网。

一次性免费额度 官网