Hacker News · LLM 新帖(试跑7天)·· 8 天前
开源 LLM 推理:按预配置 GPU 小时付费还是按 token 付费?
Pay per pre-configured GPU hour or per token for open-source LLM inference?
AI 导读
针对开源 LLM 推理,比较按预配置 GPU 小时付费与传统按 token 付费两种模式。文章指出,选择预配置 GPU 的主要优势在于没有使用限制。
来源:Hacker News · LLM 新帖(试跑7天) · news.ycombinator.com