智能体目前已在B端多场景率先落地,模型的智能水平和性价比提升将进一步加速其大规模应用。虽然业内还在针对智能体进行效果评估和持续迭代,但随着智能体爆发,强化学习的算力消耗正在快速攀升,为此软硬件厂商通过生态协作,已推出了云边一体的智算一体机方案。
豆包1.6按“输入长度”区间定价,深度思考、多模态能力与基础语言模型统一价格。在0-32K输入区间,豆包1.6的输入价格为0.8元/百万tokens、输出价格为8元/百万tokens,综合成本约为豆包1.5深度思考模型或DeepSeek R1的三分之一。
随着大量智能体加速进入现实世界,强化学习愈加重要,需考虑GPU/CPU资源混合编排、异构算力调度、异步推理等。
一体机形态可分为纯本地部署、云边一体两种。由于云上大模型按tokens收费,商业模式较简单,因此相比需要考虑平台整体成本的本地部署方案,云边一体的一体机胜在性价比。据了解,前述一体机平台既支持7B-72B主流模型,也支持Deepseek V3/R1 671B本地部署。
另外朱成刚提到,一体机客户的重点投入会在硬件方面,软件的预算和成本偏低,建议一体机分成两端进行。“首先提供开发端的核心开发和运营管理能力,然后通过容器镜像或其他打包方式分发到用户客户端,连接显示器就可以完成应用的调用。如果在单个或多个部门的办公或协同场景,也可以做一些简单的规划隔离,保证用户数据隔离,就可以在极低算力成本下跑通整个智能体平台的核心能力。”