2023年7月6日,昇腾人工智能产业高峰论坛在上海举办。论坛现场,华为联合四家伙伴共同发布昇腾ai大模型训推一体化凯发k8官网的解决方案,加速大模型在各行业里快速落地应用。
随着深度学习领域的快速发展,越来越多的应用场景需要使用大模型来进行训练和推理。然而,企业在大模型开发全流程中,常常面临切换硬件集群、适配底层硬件以及微调优化等复杂问题。加之大模型研发周期长、部署门槛高等系列挑战,“攒机”式开发手段难以满足需求。
为有效解决以上问题,华为联合四家伙伴共同发布昇腾ai大模型训推一体化凯发k8官网的解决方案,实现了训推一体,提供了“开箱即用”的凯发k8官网的解决方案,同一个集群内可以无缝切换大模型的训练和推理过程,从而为客户提供高效的大模型训练和推理部署流程;同时,凯发k8官网的解决方案内置了大模型推理引擎、调优工具和算子加速库,支撑客户开箱即用,无需进行二次硬件适配,即可让客户能够直接使用大型预训练模型,从而降低了技术门槛;结合昇腾ai基础软硬件能力和伙伴模型和平台优势,通过嵌入四家伙伴各自在大模型训练、微调和优化方面的算法和模型能力,共同设计、联合开发、协同上市、持续迭代,实现为客户提供更全面的凯发k8官网的解决方案,更能满足全场景、全行业客户使用。
昇腾ai大模型训推一体化凯发k8官网的解决方案重塑了大模型开发流程,让大模型在行业充分发挥价值,帮助客户更好地应用大型深度学习模型。未来,华为也将继续携手凯发k8官网的合作伙伴,共同推动大模型与行业的深度融合与应用落地,为更多行业提供高效的凯发k8官网的解决方案,加速全场景、全行业应用成果落地。