卧谈汇2024年11月12日发布:大模型催生算力需求爆发式增长！训推一体机将迎应用元年 多家上市公司已布局央视还有没有必要《星光大道》？

《科创板日报》11月24日讯（记者 黄心怡） 随着ChatGPT带来的大模型热潮成为科技行业的C位担当，市场上对算力需求也面临爆发式增长。有AI产业链人士对《科创板日报》表示，百度、腾讯、讯飞等纷纷四处搜罗算力资源，但要给这些头部企业供应算力，依然较为紧张。

而云从科技、云天励飞、中软国际、软通动力等上市公司则纷纷加强布局与算力相关的硬件产品，为增加算力供应提供支持。

其中，训推一体机成为了资本市场的焦点之一。云从科技相关负责人对《科创板日报》记者表示，目前训推一体机的价格大约在三四百万的范围内。在中档旗舰训练部分，报价大致在一百万以下。

“总体而言，从今年试点落地到明年，我们预计将迎来市场爆发。但需要注意的是，市场的爆发也伴随一些风险因素，其中一个关键点是要确保算力的生产跟得上市场需求。”

▍训推一体机的价格处于百万级别

今年7月，华为携手伙伴联合发布昇腾AI大模型训推一体化解决方案，加速大模型在各行业应用落地，其中，云从科技、云天励飞、科大讯飞、智谱AI、达观数据、面壁智能等位列合作伙伴。

云从科技相关负责人告诉《科创板日报》记者，与华为的合作的方式是共同打造产品。华为的代工厂会将芯片与云从的大模型集成，然后共同推广给客户。云从在这个合作中不仅卖产品，还会提供其他应用开发相关的服务。整个市场空间不同于以往的分成模式，而是通过联合推广的方式，共同打造产品，并由华为各地销售团队一起推广。

“云从在过去的客户体系中有自己的优势，特别是在To B领域，包括金融、交通、治理等传统领域，以及最近拓展的制造和能源服务领域。通过结合云从的行业特点和华为的To B面向客户的深耕经验，共同推广和销售生成一体机。整个市场上，合作方各自发挥优势，联合推动产品上市，不存在所谓的分成模式。”

据了解，云从与华为合作的一体机产品主要分为两类，包括“训推一体机”和面向推理需求的一体机。

“对于一体机，至少分为三个不同的价格档次。这仅仅是针对单台设备，不包括客户有其他多台设备或集群的情况。关于训推一体机，我们的价格大致处于百万级别，高端机大约在三四百万元的范围内。由于不同客户的需求和数据负载不同，因此在配置和报价方面也可能存在差异：在中档旗舰训练部分，报价大致在一百万元以下；与其他一些厂商的一体机相比，价格更低的产品，报价大约在30万元左右。”

在一些边缘场景中，有时可能并不需要GPU，而是采用被称之为"盒子"的设备，“这类需求价格更为经济，可能更为广泛，会涉及到一系列的产品，通过我们的生态系统，提供鼠标、一体机、盒子等一整套的产品，价格在几万块钱的范围内。我们会根据不同的层级在市场上展开相应的布局。”

对于后续订单情况，云从科技方面称，第四季度已经有一些在谈订单。“而明年的整体业务体量，因为当前是与伙伴一起在推的，短期内还没有明确的放量，但整个市场空间还是比较乐观的。“

▍明年有望迎来市场爆发 产能仍受限

对于整体的市场需求，云从科技相关负责人认为，一方面对于国产信创需求的增加和对合规、私有化部署的重视，二是对数据要素和基于大模型的应用侧变化的重视。“明年被强调为应用的元年，预计将涌现更多的应用场景，市场规模庞大，尤其在IT部分的升级和场景需求明确的私有化部署方面，将带来巨大的市场机会。”

在市场空间方面，云从科技计划在整个市场中占据至少10%以上的份额，并通过与华为的渠道合作来实现。“具体的数字和量化数据还在与伙伴一起深入研究和细分，将在未来明确。总体而言，从今年开始试点落地到明年，我们预计将迎来市场爆发。但需要注意的是，市场的爆发也伴随风险因素，其中一个关键点是要确保算力的生产跟得上市场需求。”

目前，云从科技正与华为探讨产能问题，以确保能够满足市场需求。“在推广方面，我们首先会完成典型新客户的落地，然后从总部向下逐级推广至各个分支机构。以电力行业为例，涉及到各个省份的网公司、电厂、石油化工企业等，总计超过5000家。通过这样的场景推广，我们有望覆盖更广泛的市场份额。”

除了云从科技外，中软国际、云天励飞等也都纷纷入局算力一体化产品。中软国际发布公告称，与华鲲振宇签署全面战略合作协议，在大模型应用领域，双方将面向金融、制造等行业，联合推出基于模型实验室的昇腾训推一体机产品，提供开箱即用服务；面向政府市场，联合推出JointPilot“四问(问数、问视、问策、问服)”系列大模型一体机。

云天励飞方面对《科创板日报》记者表示，公司于2015年起就与华为形成合作关系，作为昇腾万里伙伴计划的成员，前期已基于昇腾AI基础软硬件平台，推出一系列产品及解决方案，包括动态人像系统深目，多维大数据分析系统深海，视频结构化系统深萃，以及AI算法服务平台深智等。

据悉，云天励飞联合华为推出了大模型训推一体化产品——云天天书大模型训推一体机，其内置了自主研发的天书千亿级大模型。

该一体机通过与华为昇腾910芯片硬件加速平台在算子加速库及工具链等方面的优化，采用全国产化的大模型和硬件计算平台，集成“开箱即用”系列训推工具，能满足面向多业务场景的大模型高并发高能效处理、业务快速上线的需求。此外，也支持用户进行二次开发和敏捷部署，满足了用户个性化和灵活的使用需求。

此外，智谱AI与昇腾合作的天智ChatGLM训推一体机，也已经通过华鲲振宇等渠道进行组装和销售。相关产业链人士告诉《科创板日报》记者，智谱大模型的优势在于语言领域，其一体机主要的应用行业包括电商、金融、保险等。

“天智ChatGLM训推一体机的优势在于，支持中英双文的流畅对话，可以用于电商的智能客服等场景。在报价上，根据卡数的不同，从几十万到上百万不等。”


基于华为鲲鹏+昇腾产业生态，神州数码则打造了神州鲲泰系列产品，推出了神舟鲲泰问学一体机。

神舟数码相关负责人向《科创板日报》介绍，2022年，神州数码基于与昇腾的深度合作，推出神州鲲泰 KunTai AT200中心训练服务器序列、神州鲲泰 KunTai AI200整体推理服务器系列和神州鲲泰 KunTai AE200的边缘服务器系列等三个系列产品。目前，结合神州问学Gen-AI企业落地应用最佳实践，正是强化“昇腾产业生态”的投入与布局，致力于打造人工智能全栈产品和技术解决方案。