火山引擎谭待：大模型超低定价，汇聚技术自信

降价的底层逻辑是，我们有信心通过技术手段降低成本，而且市场也需要更低价的大模型。

5月15日，字节跳动的豆包大模型在火山引擎原动力大会上正式发布。

火山引擎总裁谭待在接受媒体采访时，谈到了大模型的定价策略。

豆包大模型的超低价格引发了业内震动。

据了解，豆包主力模型的推理输入价格仅有0.0008元/千Tokens，比业内便宜99.3%。

对此，谭待坦言，“降价是通过技术优化成本实现的。如果只是补贴，亏损换收入是不可持续的，火山引擎不会走这条路。”

据介绍，大模型推理成本的优化有很多技术手段。

首先是模型本身，模型结构和训练方法都可以持续改进，包括业界关注的MoE（混合专家模型），就是优化推理成本的很好方案。

其次是工程上的优化。大模型的调用量越大，优化推理成本的空间也越大。以前的模型都是单机推理，而大模型采用的是分布式推理。如果能更好地利用各种底层算力，推理成本就会大大降低。

谭待进一步解释说，豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片，负载不一，可以将不同任务混合在一起，错峰处理，通过智能调度让它们的利用率都跑得很高，从而极大地提升资源利用率，实现整体成本的优化。

以字节内部业务为例，飞书的主要流量高峰在工作时间，而抖音在下班后的休闲时间流量更高，这些不同业务的大模型推理可以根据业务特点错峰使用，从而降低成本。

对于“大模型开始价格战”的说法，谭待认为，大模型市场仍在发展初期，远远没有到激烈竞争的阶段。

“池塘有多大，鱼就有多大，现在整个池塘还在培养的过程中。”

“一个人现在创业，如果要花1万块钱调用大模型，可能会觉得有点贵。我们把价格降到1%都不到，100块钱就能用起来，他的想法也就更容易尝试。”

谭待表示，企业的AI转型充满了不确定性，试错成本要尽量低，才能更快更多地实现大模型的应用落地，从而让整个行业受益。