开源模型
Hugging Face 把语言模型路由交给 OpenRouter
11 月 16 日,Hugging Face 宣布语言模型的 Inference Providers 改走 OpenRouter。调用代码保持不变,失败会在同一次请求里换一家供应商重试。图像、视频和音频仍不经过 OpenRouter。自定义供应商密钥对语言模型不再有效。
Hugging Face 在 11 月 16 日宣布,语言模型的推理路由改经 OpenRouter。调用方仍使用原来的 Hugging Face 令牌和同一个接口。系统按当时的价格、速度和可靠性选择供应商;第一家失败时,会在同一次请求里改试下一家。
聊天模型同时支持 OpenAI 的两种接口和 Anthropic 的 Messages 接口。博客点名的客户端包括 Claude Code、Codex、OpenCode、Pi 和 Hermes Agent。用户按供应商的价格付费,Hugging Face 不加价,账单仍出在 Hugging Face 账户或组织上。PRO 每月有 2 美元额度,Team 和 Enterprise 每个席位 2 美元。
图像、视频和音频不进入这次切换,仍直接走 Hugging Face,原有的供应商密钥也可以继续用。语言模型则不能再把自己的供应商密钥用在这些请求上。用户仍可以用模型名后缀指定策略或某一家供应商,例如最快、最便宜,或只走某一家。组织也可以关掉不想用的供应商。已经缓存过提示的对话会留在原来的供应商。
博客转述 OpenRouter 的规模:每月超过 800 万亿 token,用户超过 1000 万,600 多个模型,80 多家供应商。OpenRouter 称容量错误减少 46%,首个 token 的等待改善 16.9%,吞吐提高 16.3%。开源权重在其流量中的比例,从 2025 年 10 月的 26.8% 升到 2026 年 9 月底的 71.7%。博客所称的当周,调用量最高的是开源模型 DeepSeek V4.1 Flash,为 59.2 万亿 token。价格对比也来自这篇转述:开源权重平均每百万 token 输入 0.28 美元、输出 1.62 美元,闭源是 1.27 美元和 6.36 美元。公司引用的智能指数上,开源模型 Kimi K3.1 Pro 为 46 分,Claude Fable 5.2 为 65 分。这些用量、价格和分数都是 Hugging Face 与 OpenRouter 的说法。
模型页面会列出可路由的供应商,以及 24 小时内的价格、速度和可用性。把 OpenRouter 账户和 Hugging Face 账号连起来,被写成下一步,目前还没有完成。
同一份开源权重在不同供应商那里的延迟和价格会变化。这次改的是聊天模型的路由,Hugging Face 仍保留令牌、账单和模型页面。71.7% 是 OpenRouter 流量里的开源权重占比。同一篇里的 46 分和 65 分,是公司用来说明开源与闭源差距的例子。当周调用量最高的模型名称会很快变化。
原文链接
- Hugging FaceHugging Face and OpenRouter join forces to make open-weight models easy to run
- Hugging Face 的帖文