随着人工智能从云端向边缘端快速渗透,算力需求呈现出爆炸式增长。Arm架构凭借其高能效比和广泛的生态系统,已成为移动端、物联网和边缘计算领域的主导力量。Arm中国作为Arm在华合资公司,在推动人工智能基础软件开发方面扮演着关键角色,致力于为本土AI应用构建坚实的底层软件根基。
Arm中国的AI基础软件开发并非聚焦于上层应用算法,而是瞄准AI任务运行所依赖的底层运行时、编译器、算子库和工具链。其核心目标包括:
Arm中国参与了开源推理引擎的Arm后端优化,例如对ONNX Runtime、TFLite等框架的Arm架构适配。针对Arm NEON指令集和SVE(可伸缩矢量扩展)进行内核加速,显著提升卷积、矩阵乘等典型算子的执行效率。
面向Arm架构的编译器技术是基础软件的另一支柱。Arm中国与社区合作优化LLVM后端,支持自动向量化和针对AI负载的循环展开。其推动Arm Compute Library(ACL)在中国的本地化适配,提供高度优化的基础函数集合。
考虑到飞桨(PaddlePaddle)在国内的广泛应用,Arm中国深与百度合作,完成了PaddleLite在Arm CPU/GPU上的深度调优,支持动态图到静态图的转换部署,并针对国产Arm服务器芯片进行规模化验证。
面向物联网和嵌入式场景,Arm中国推动了CMSIS-NN、Arm Ethos-U NPU驱动等端侧AI软件库的文档本地化和开发者支持,并提供模型量化、剪枝后的部署示例,帮助开发者在资源受限设备上实现低延迟推理。
基础软件的价值取决于生态的繁荣程度。Arm中国通过以下举措构建AI软件生态:
尽管进展显著,Arm中国在AI基础软件开发上仍面临挑战:一是Arm服务器生态在AI训练领域尚处早期,软件成熟度距x86+GPU体系有差距;二是碎片化的端侧硬件给统一软件栈的维护带来难度;三是全球技术协作环境的变化要求更注重自主与开放并重。
Arm中国有望在以下方向持续发力:
聚焦异构计算统一编程模型,简化CPU、GPU、NPU协同开发的复杂度;
强化对生成式AI推理(大模型端侧部署)的底层支持;
推动RISC-V与Arm在软件工具链层面的互操作性研究,应对多样化架构趋势;
持续贡献开源社区,以开放协作巩固Arm在AI基础软件领域的话语权。
##
人工智能基础软件开发是连接芯片与应用的关键纽带。Arm中国通过深耕编译器、算子库、框架适配和开发者生态,正逐步构建起一套高效、开放、本土化的AI软件栈。在AI无处不在的时代,这一软件根基的厚度,将直接决定Arm架构在智能计算浪潮中的竞争位势。