7月2日,云天励飞发布公告,公司与德元方惠签署《关于ai算力运营项目的服务合同》,此前与德元方惠签署的《ai算力运营合作框架协议》正式落地。根据合同,云天励飞将向德元方惠提供算力总规模模约 4000 pflops的 ai训练及推理算力服务。合同服务期3年,累计总服务费超16亿元。
今年6月6日,云天励飞已经与德元方惠签署《ai算力运营合作框架协议》,就德元方惠向云天励飞购买 ai训练及推理算力服务达成了框架安排并对双方签署正式合同的条件、核心交易要素及违约责任等事项进行了约定,并约定德元方惠应在于与其客户签署项目合同之日起 10个工作日内,与云天励飞完成正式合同的签署。
本次双方签署服务合同,意味着此前签署的框架协议正式落实,奠定云天励飞未来业绩高速增长基础,亦标志着云天励飞ai运营业务的一大突破。
将自研大模型经验融入算力运营服务
大模型的蓬勃发展带来了算力需求的激增。根据中信建投的测算,2023年-2027年,全球大模型训练端峰值算力需求量的年复合增长率有望达到 78.0%,工信部数据显示,截至2023年6月底,算力总规模达到197eflops,算力总规模近五年年均增速近30%,存力总规模超过1080eb。
云天励飞自主研发了千亿级大模型“云天天书”,并在大模型的研发过程中积累了一系列算力调优、提升模型训练效率的技术平台和相应工具,云天励飞将上述技术沉淀运用在 ai算力服务中,可帮助客户提升模型训练及算力利用效率,同时,此次ai算力运营服务合同的签订也标志着公司ai运营业务迎来新的重大突破。
此外,公司将持续投入自研大模型研发及优化工作,预计将维持较高对 ai训练及推理异构算力的需求,此次《服务合同》项下涉及对于高性能异构算力的采购未来亦可视需要作为云天励飞大模型研发工作所需算力基础的补充,支撑公司大模型技术的持续进步。
提前布局推理算力
今年以来,大模型全面进入应用落地阶段,推理算力需求随之不断增长。根据idc数据,预计到2026年中国数据中心用于推理的负载将达到62.2%。云天励飞持续看好大模型进入成熟商业化阶段后推理需求的爆发,并在推理算力领域进行战略部署。
相较于大模型训练算力的一次性开销而言,推理算力需求将随着模型使用时间和用户量的增长而快速增加,因此在大模型进入成熟商业化阶段之后将迎来需求爆发。云天励飞所搭建超大规模异构高性能算力集群将其自研推理卡与高性能训练算力相结合,为客户提供高效的训推一体算力服务,同时为自研推理卡落地打开场景触角,搭建生态,为大模型进入成熟商业化阶段后的推理需求爆发提前布局。
未来,云天励飞亦可在超大规模异构高性能算力集群中,将自研推理卡与高性能训练算力相结合,为自研推理卡落地打开场景触角,搭建生态,为行业带来更丰富的算力服务。