大模型降价的主要逻辑是,技术手段降低成本以及市场对低价大模型的需求。
火山引擎总裁谭待在豆包大模型发布会上表示,豆包大模型的超低价格是通过技术优化成本实现的。火山引擎不会采取“亏损换收入”的补贴模式,因为这种模式不可持续。
大模型推理成本的优化有技术和工程两方面的手段。在技术方面,模型结构、训练方法的改进,以及MoE(混合专家模型)等解决方案都可以降低推理成本。
在工程方面,分布式推理和底层算力的充分利用可以进一步优化推理成本。豆包大模型每天处理海量文本和生成图片,通过智能调度和错峰使用,大幅提升资源利用率,降低整体成本。
字节内部业务特点的差异,如飞书和抖音流量高峰的不同时段,也为大模型推理的错峰使用提供了可能,从而降低成本。
对于“大模型价格战”的说法,谭待认为大模型市场尚处于早期发展阶段,竞争尚未进入激烈阶段。
文章版权声明:除非注明,否则均为品牌家电排名网原创文章,转载或复制请以超链接形式并注明出处。
还没有评论,来说两句吧...