8月24日,百度与网络通信与安全紫金山实验室(简称“紫金山实验室”)、江苏省未来网络创新研究院(简称“江苏未来网络研究院”)、江苏未来网络集团有限公司(简称“江苏未来网络集团”)签署战略合作框架协议。各方将围绕大模型核心技术联合攻关,力争在3-5年内实现行业大模型技术创新能力江苏领先。同时,多方合作还将共建江苏省大模型产业赋能中心,加速大模型赋能江苏企业步伐。
(百度与紫金山实验室、江苏未来网络研究院、江苏未来网络集团签署战略合作)
在当日举行的第七届未来网络发展大会上,百度智能云基未来网络试验设施(ceni)打造的“跨广域工业视觉大模型算网融合技术”作为重大成果正式对外发布。它依托百度自研芯片昆仑芯以及百度文心视觉大模型,将算力、网络、大模型和应用场景融合,实现行业大模型跨广域精调、推理服务,改变过去只能在工厂端就近部署算力和模型的方式,降低企业使用行业大模型的门槛。测试结果显示,在相距超300公里的两地之间,该技术成果使行业大模型跨广域推理效率提升42%。
(百度智能云“跨广域工业视觉大模型算网融合技术”重大成果正式对外发布)
中国工程院院士、紫金山实验室主任刘韵洁表示:“大模型时代,要抓住全球未来网络发展的重大机遇,突破确定性网络核心技术,引领信息产业技术发展。此次与百度的合作将面向大模型、大数据发展需求,构建覆盖全国的确定性网络,以及面向农业、工业、能源、安全等行业的行业专网,以大模型赋能千行百业,促进实体经济发展。”
百度集团执行副总裁、百度智能云事业群总裁沈抖表示:“大模型对算力、网络、智算集群等智算基础设施提出了全新要求。百度拥有芯片、框架、模型、应用等全栈人工智能技术优势,同时拥有开放的人工智能生态。百度智能云将携手紫金山实验室、江苏未来网络研究院、江苏未来网络集团,持续为算网融合相关战略工程提供关键性支撑,通过提供智能计算云底座和大模型生产平台,让更多行业方便快捷、低门槛的用上大模型。”
(由右至左,百度集团执行副总裁、百度智能云事业群总裁沈抖,中国联通总经理陈忠岳、中国工程院院士、紫金山实验室主任刘韵洁、中国工程院院士邬贺铨、中国科学院计算机网络信息中心主任谢高岗,共话算力网络与ai大模型发展策略)
大模型跨广域推理效率提升42%,百度算网融合技术重大成果发布
当前,大模型发展已进入产业化应用阶段。但工业场景复杂,产业链环节多、链条长,行业大模型的“精调和推理”需要高实时性和高安全性的算力网络提供支持。这对网络低时延、无损传输、网络安全提出了更高的要求。传统互联网,效率低,安全性缺乏。企业搭建专线方式成本高,企业难以承受。行业大模型落地工业需要一种新的技术凯发k8官网的解决方案来打破发展瓶颈。
百度智能云基于未来网络试验设施(ceni)打造的“跨广域工业视觉大模型算网融合技术”作为重大成果,在第七届未来网络发展大会正式发布。
该成果是百度文心视觉大模型基于ceni的创新试验成果。依托ceni广域确定性网络高带宽、低延迟、确定性的特性,开展跨南京、上海异地双集群推理测试和训练精调测试,验证了ceni确定性网络同时满足工业生产需求和大模型泛化通用性能提升要求的能力。
针对钢铁行业工业质检场景,通过使用百度智能云的“算网融合技术”,在南京和上海之间,进行跨广域间的“精调和推理”测试。虽然两地相距超过300公里,但测试结果显示,推理、训练图片数据丢包率为0,语料获取效率提升83%,推理效率提升42%,云端算力相比本地化算力部署,模型精调训练后精度提升10%。
通过测试论证,百度智能云基于未来网络试验设施(ceni)打造的算网融合技术能够同时满足企业对工业视觉大模型推理端到端业务和精调训练的性能需求,可以支撑后续视觉大模型在工业领域的场景落地和商业化。同时,基于自研芯片昆仑芯的大算力集群,大模型训练速度相比本地化算力部署显著提升。
过去六届未来网络发展大会发布了十余项全球领先的创新成果发布,其中相当一部分成果被广泛应用于产业实践和国家关键领域的建设当中。
3-5年内攻克技术难关,力争大模型能力在江苏排名第一
根据合作协议显示,百度与紫金山实验室、江苏未来网络研究院、江苏未来网络集团三方的合作将主要聚焦大模型核心技术攻关和产业赋能两个方面。
一方面,紫金山实验室、江苏未来网络研究院、江苏未来网络集团三方合作提供智能算力底座及网络资源,百度智能云提供模型及技术支撑,基于百度智能云千帆大模型平台,各方携手进行技术攻关。目标是建成行业大模型平台,实现跨广域算网融合,确保低延迟、确定性通信,加速大模型数据共享、模型共享。同时保持开放生态,未来可接入女娲大模型等江苏本地优质大模型,持续培育本土能力。力争在3-5年内实现行业大模型技术创新能力江苏领先水平。
另一方面,江苏是中国工业第一大省,正在推动制造业高端化智能化绿色化发展。百度与紫金山实验室、江苏未来网络研究院、江苏未来网络集团三方合作,将共建江苏省大模型产业赋能中心,围绕大模型产业运营、标杆示范场景打造、人工智能技术生态及人才培养等方面进行探索,降低江苏企业使用行业大模型的门槛,加速人工智能产品和服务赋能企业步伐。
沈抖表示,大模型发展需要云智一体的智算基础设施提供支持。百度在万卡gpu集群、卡间通信、服务器间通信、数据中心通信方面都积累了丰富的经验,形成了较好的技术优势。百度智能云会将长期以来形成的大模型工程化能力沉淀下来,通过千帆大模型平台开放给企业和机构,帮助大家用好大模型、做好大模型。