Baseten开源模型即调用API服务：免部署按Token计费模式

📌 背景

2026年AI推理基础设施赛道融资狂潮，Baseten一年内估值从数亿美元飙升至约130亿美元，英伟达战略参投。企业用开源大模型时不想自建GPU集群，对即用即付的托管推理API需求爆发。Baseten在自建部署业务之外推出Model APIs，把Llama、Mistral等热门开源模型直接封装成按Token付费的接口。

👤 目标客户

需要快速接入开源大模型能力但没有MLOps团队的AI应用开发者与中小SaaS厂商；以及业务量波动大、不愿锁定专属GPU的初创公司。

💰 盈利点

1）对主流开源模型提供统一的API端点，按输入输出Token量阶梯计价；2）流量大的客户可从按量计费平滑升级到专属部署合约，形成双层收入；3）依托自建推理优化摊薄单位GPU成本，赚取模型服务与底层算力之间的效率差价。

🧮 成本结构

主要成本为GPU采购与云租（覆盖T4到B200多档卡型）、推理引擎与模型服务层研发投入、带宽与运维，以及销售获客；按Token计费模式下单卡利用率直接决定毛利率。

🛡️ 护城河

同一平台上按Token调用与专属部署可无缝升级，降低客户迁移成本；自研推理优化带来的低延迟与低成本形成毛利优势；英伟达战略投资保障高端GPU供给。

🔑 成功关键

• 热门开源模型上架速度与覆盖广度
• 单位Token成本持续低于自建与竞对
• 从按量到专属部署的客户升级路径转化

⚠️ 风险

• 推理API价格战压缩毛利
• 开源模型许可变更或闭源化风险
• GPU供给受限导致履约成本上升

🏢 案例

• Model APIs提供Llama、Mistral等开源模型按Token访问
• 2026年完成E轮3亿美元、估值50亿美元，其中约一半来自英伟达战略投资
• 随后以约130亿美元估值敲定新一轮融资

📊 SWOT 分析