昇腾万里 | 为开发者铺路：解读华为昇腾AI战略布局

　　11月11日，华为技术沙龙·昇腾专场来到深圳，由华为多位AI领域技术专家，围绕华为全栈全场景AI解决方案，通过Atlas人工智能计算平台与基于全栈开发工具链Mind Studio进行AI开发的实践案例，为现场开发者深度解读了AI开发的技术难点与行业解决方案应用。

　　深圳湾科技发展有限公司董事长邱文、华为Atlas领域总裁许映童等领导也出席了本次沙龙，并做了开场致辞。许映童总裁表示：华为坚持战略投入，持续创新，通过解决世界级计算技术难题，为世界提供最强算力。借助本次沙龙，希望与大家共同探讨昇腾生态的合作机遇，并且跟深圳湾科技园区的企业代表和技术专家进一步开展深入交流。

　　打造全栈全场景AI生态，赋能AI技术开发者

　　随着计算产业的智能化升级，AI已成为数据中心、边缘计算、终端的基础能力，预计到2025年，AI算力将会占据数据中心算力的80%以上，AI芯片75%部署在边缘，海量的AI算力需求将带动全球人工智能市场增长。

　　从技术上来看，人工智能发展可划分为三个阶段：

　　▶ 弱人工智能，擅长单个方面的人工智能(如图像、语音、内容分析等);

　　▶ 强人工智能，具备认知和推理能力，能够比肩人类大脑;

　　▶ 超人工智能，具备感知和思想意识，几乎在所有领域都能超越人类，包括科学创新和社交等。

　　目前，人工智能应用还处在弱人工智能阶段，随着融合视频分析/语义理解、自行判断、自主决策等深度学习/强化学习算法的成熟完善，将推动各个行业向强人工智能阶段迈进。

　　华为智能计算生态发展部总监区俊彦表示，计算产业生态的构建将非常关键且具有一定挑战性，目前，华为已经形成了以“鲲鹏+昇腾”为核心的双引擎计算战略，并打造出包括芯片、芯片使能、训练和推理框架以及应用使能在内的全堆栈解决方案。

　　芯片上，基于昇腾310芯片的Atlas推理型行业场景解决方案已在50+行业上应用，涉及安防、金融、电力、交通、互联网、运营商等，并从成熟的互联网、智慧城市，逐步融入到传统行业，成为传统行业智能化升级的引擎。

　　随着昇腾910 AI处理器以及 MindSpore 全场景AI计算框架的推出，华为Atlas 人工智能计算平台将在端、边、云上，实现训练和推理全系列产品竞争力构建，实现超强算力，全场景部署和云边端协同，加速华为AI在各行业的应用落地。

　　未来五年华为将围绕昇腾投入数十亿人民币来助力AI产业的发展。通过“1平台+3计划”的措施，逐步开放昇腾的技术能力，开源AI训练框架，投入华为的技术资源和营销资源，打造一个支撑人工智能产业发展的平台，使能华为的合作伙伴和开发者。

　　同时，华为还将通过与产业组织、研究机构和行业协会的广泛合作，共谋人工智能的创新发展，共同孵化产业标准。

　　在开源开放上，区俊彦表示，华为坚定的执行开放和开源的战略，在2019年底会全面开放CANN工具链，支撑合作伙伴自定义算子，更好的来应用和挖掘昇腾芯片的能力。还将对外发布TBE算子开发工具，借助高校、研究机构和合作伙伴的力量，共同丰富昇腾的算子，来支撑更多的网络模型，而完成的算子和模型将会进行开源，方便开发者来使用和优化算子和模型。

　　AI全栈开发工具链应用实践

　　华为提出的全栈全场景AI解决方案，把AI推向新高度。而打造面向端、边、云的全栈全场景AI解决方案，简单易用、高效率的工具成了AI开发者的诉求，为此华为推出了AI全栈开发工具链——Mind Studio。

　　据华为AI专家谭涛介绍，Mind Studio是一套基于华为Ascend芯片开发的AI全栈开发工具链，包括基于芯片的算子开发、模型开发与转换，AI应用层开发等能力，让用户的算子、模型和应用最大限度的发挥出芯片的计算能力，又通过场景化的工具体验降低算子、模型、AI应用的开发门槛。

　　Mind Studio可提供面向AI算子开发、模型开发、应用开发的全栈全场景支持。算子开发上，支持TBE自定义算子、 支持TBE自定义算子插件开发、支持语法的智能纠错和代码自动补全;模型开发支持离线模型转换、支持模型算子精度比对、支持模型整网性能profiling分析、支持网络模型的可视化;应用开发支持AI应用开发与调试、支持代码框架自动生成、支持推理结果图形化展示、支持全系统调优。

　　模型转换是当前很多开发者最常用的功能之一，许多开发者都是基于开源的模型开发应用，比如Tensorflow或者Caffe的模型。基于Mind Studio工具链可以把开源的Tensorflow、Caffe模型转换成昇腾支持的格式。

　　在转换过程中，开发者还可以配置模型中的输入和输出节点，量化配置参数，图像预处理的参数，生成满足开发者输入要求的更高效om模型。

　　算子比对工具可以对已经生成的模型和基准的模型(如Caffe模型)进行算子的比对，比对的方式可以选择不同的算法，如LowerBound等。算子比对的结果可以发现出模型中各个算子计算结果的偏差，通过对偏差的大小设置，开发者可以快速定位出偏差较大的算子并进行优化。

　　AI应用的开发中，对应用中的各个引擎(如数据预处理、模型推理、后处理等)进行分析，可以发现整个应用中的引擎的性能瓶颈，继而再优化。整网运行过程中除了可以获取到软件栈的时间轴数据外，还能获取AI处理器设备上的硬件数据。

　　Mind Studio针对TBE的语法可进行高亮，支持定义的跳转，引用查看和智能补全等功能。方便用户进行算子插件和AI应用的编译和调试。

　　解读昇腾云服务

　　昇腾云服务器性能提升2倍以上，可广泛用于AI推理、AI训练、自动驾驶训练等场景。同时，昇腾还带来更多价值，比如在自动驾驶云服务上，利用超大规模集群能力可支持PB级数据的实时处理，端到端开发效率提升5倍以上。

　　而基于昇腾云服务器的全栈全场景AI解决方案， 华为云异构计算产品经理赵刚也给出了更深入的解读。赵刚表示，华为云推出了昇腾云服务器实例家族。基于昇腾310的推理实例，提供高性价比AI推理算力。基于昇腾910的训练实例，成倍提升训练效率。

　　目前华为云昇腾云服务器解决方案已在视频直播、智慧零售、智慧园区、泛金融身份认证、智慧医疗领域上应用。用于图片分类、智能鉴黄、行为识别、画质检测、违规审核、人脸识别、物体识别、文字识别、语音识别等技术上，为客户业务提质提速。