中国信通院张琳琳：人工智能安全标准化工作要继续发挥基础性、规范性、引领性的作用

　　(赵婷婷)近日，以“澎湃创新力，战新共未来”为主题的中国移动第四届科技周拉开帷幕。在同期进行的“安全分论坛”上，中国信息通信研究院安全研究所副主任张琳琳围绕人工智能安全态势及安全风险框架、人工智能安全规则及标准现状、人工智能安全标准化工作的思路，分享人工智能安全及相关标准的解读。

　　张琳琳表示，人工智能作为引领未来的战略性的技术，日益成为驱动经济社会各领域从数字化网络化向智能化加速跃升的重要量引擎，对人类文明的发展和社会进步产生广泛深远的影响，但与此同时人工智能技术的应用也带来了安全风险挑战。

　　人工智能安全规则及标准现状

　　她认为，人工智能安全规则是人工智能安全治理的主要的依据，典型的规则体验形式主要有伦理规范，法律法规和标准规范。

　　在具体的管理手段方面，世界主要国家共同选择将伦理规范作为先导性治理手段。人工智能是一个新兴的事物，处于高速发展期，需要一定的发展空间逐步完善。同时，为了给人工智能法律法规等强制性措施以充足的时间，要充分考量这个规则的方式。因此，现阶段世界主要国家要是以软性规范先行。

　　在具体的伦理规则制定方面，美欧各有不同，美国是以企业和行业层面为主，欧洲是以国家层面为主。我国伦理原则大多是2019年以来新近形成的，社会共识有待凝聚和加强，国际影响力较弱。

　　在法律法规方面，各国都比较谨慎。法律是社会治理的最后一种手段，是保障人民权利的最后一道屏障，至关重要。法律一般是基于现实生活而生成，无法对可能的社会风险作出反映，通常具有滞后性。

　　因此，国外主要是针对风险已经比凸显的一些相关领域，例如，无人驾驶、无人机、深度伪造等重点应用领域进行立法规制。对于人工智能整体的专门立法，以欧盟《人工智能法》为代表。我国率先尝试生成式人工智能的针对性监管，2023年7月13日，公布的《生成式人工智能服务管理暂行办法》，成为全球首个针对生成式人工智能的监管规定。

　　从标准规范来看，当前国际和我国人工智能安全的标准步入成熟期，ISO/IEC、IEEE、NIST等国际标准化组织，积极开展人工智能的安全的研究，制定并相关标准，提升人工智能安全性。

　　从我国来看，2020年7月，我够印发《国家新一代人工智能标准体系建设指南》，明确安全标准架构体系。我国全国信息安全标准化技术委员会在生物特征识别、智能终端、自动驾驶、智能制造等领域积极开展安全标准化的工作。

　　人工智能安全标准化工作的思路

　　最后，张琳琳提出人工智能安全标准化工作的思路。她指出，统筹安全和发展，加强基础共性和重点亟待标准制定，面对未来人工智能发展的关键时期，人工智能安全标准化工作要继续发挥基础性、规范性、引领性的作用，以技术标准带动人工智能发展。

　　在国际方面，要积极参与国际标准的制定，也要力争主导相关的国际标准，提出人工智能安全评估评测，用户隐私保护等相关的提案，贡献更多的中国智慧。

　　在我国标准方面，要加强人工智能基础共性安全标准的研究，持续完善人工智能标准的框架体系，重点开展了安全风险伦理设计，安全评估等一些基础的标准的研究;也是要加快推进推进人工智能安全重点急需标准制定。