跳到正文
返回科技动态
原文
Hacker News · LLM 新帖(试跑7天)·· 8 天前

开源 LLM 推理:按预配置 GPU 小时付费还是按 token 付费?

Pay per pre-configured GPU hour or per token for open-source LLM inference?

AI 导读

针对开源 LLM 推理,比较按预配置 GPU 小时付费与传统按 token 付费两种模式。文章指出,选择预配置 GPU 的主要优势在于没有使用限制。

来源:Hacker News · LLM 新帖(试跑7天) · news.ycombinator.com

浙ICP备2026082753号-2