中国移动发布智算“芯合”算力原生基础软件栈2.0

　　11月30日 ，由中国通信学会主办、中国移动研究院承办的2024中国信息通信大会“算力网络算网一体创新发展论坛 ”在成都召开。中国移动研究院副院长段晓东携手华为、瀚博、澎峰、海光、天数智芯等7家产业合作伙伴在本次论坛重磅发布了智算“芯合”算力原生基础软件栈2.0。

　　芯片是智算生态的基石，基础软件栈是智算生态的核心。随着近年来多样化异构智算芯片的不断涌现，产业界形成了多套“AI框架+工具链+硬件”的软硬一体竖井生态，上层应用与底层芯片深度绑定，无法灵活迁移，整个智算产业面临着基础软件栈多而不优，生态互不兼容的巨大挑战，制约异构智能算力整体效能的释放。为屏蔽异构硬件差异、融通智算竖井生态，中国移动充分发挥移动信息现代产业链“链长”职责，以智算基础软件栈为攻关要点，于2022年创新提出算力原生CAMA原创技术，发布业内首个《面向智算的算力原生白皮书》，并于2023年研发并发布“芯合”算力原生基础软件栈1.0，在全球首次实现智算应用一键式跨芯迁移的目标，已在山东、广西等多省市的路桥检测、智能安防等场景试点应用，大幅降低智算应用向国产化芯片迁移的复杂度，有力促进了我国智算产业的繁荣发展。

　　聚产业之愿，合众“芯”之力，2024年中国移动持续攻关算力原生技术，以研究院和齐鲁创新院为主体，深入推进“芯合”基础软件栈2.0研发，相较于之前实现了三大升级。一是能力升级，全面重构算力抽象模型，插件化灵活接入英伟达、华为、海光等6家AI芯片，拓展ONNX、SYCL等更多编程范式，支持泛AI应用的跨芯迁移。二是性能升级，新增对标CUDA的DNN、BLAS等高性能计算库，提供图算融合编译优化能力，实现性能大幅提升，当前应用跨架构迁移损耗已降低至10%以内;三是效率升级，构建面向智算应用的“跨架构软件工厂”，提供统一开发、调试、优化、部署、迁移全生命周期服务能力，缩短应用开发、上线时间，提升整体研发效率。当前，“芯合”算力原生基础软件栈2.0已实现泛AI应用在英伟达、intel、华为、瀚博、天数智芯、海光6家智算芯片间的一键式跨芯流转迁移，源源转换效率>95%，迁移性能损耗<10%，迁移时间<20s，已具备规模商用条件，未来将在提升智能算力网络自主可控水平方面发挥重要作用。

　　未来，中国移动将继续秉持开放合作的态度，与产业各界合作伙伴一起攻关，进一步完善“芯合”算力原生平台功能，支撑更多业务场景、融通更多异构芯片，推动商用落地，真正打造以基础软件栈引领智算生态建设的全“芯”发展范式，全面支撑我国算力强国战略落地。