当前，人工智能产业正迎来新的发展高潮，但新技术也带来了特有的新风险，在发展与产业落地过程中催生出了对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。随着产业进程的深入，这些安全风险的边界迅速扩散，逐步蔓延至金融、互联网、安防、城市和社会治理各个领域，危害到社会安全与国家安全。
为有效应对人工智能新型安全风险，瑞莱智慧日前发布人工智能安全靶场RealRange，提供实战化、体系化的一站式人工智能攻防演练服务支撑，通过预设训练场景模型、对抗攻防实战竞演，帮助政企机构开展安全能力体系检验评估、培育新型安全人才，建设新型人工智能安全防御体系，全面提升人工智能时代新型安全威胁的应对能力。
图片由受访方提供。
提前演练 让风险发生在“靶场”
新安全问题需要新解决方案，为应对人工智能新型安全风险需构建新一代安全体系。7月12日，工信部官网发布《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》，提出人工智能安全作为面向新设施新要素的安全技术，需加快构建分类体系、制定检测与评估标准体系等，其中“构建人工智能安全靶场”也被列为重点投入方向。
自2008年美国筹建国家网络空间靶场(NCR)以来，靶场已经证明了对国家和社会各层面的安全保障均具有重大推进作用。人工智能时代下，伴随智能产业的纵深发展，一系列前所未有的新型安全威胁正逐步影响到军事、政企、金融等关键领域，研制针对人工智能场景的模拟实战靶场也因此成为行业重点探索的方向。
清华大学人工智能研究员孵化企业、瑞莱智慧副总裁唐家渝表示，随着人工智能安全态势不断演化，新型攻击手段不断出现，单点产品只能解决滞后问题，对于未知威胁无法进行风险预判和策略调整，同时作为新兴领域，行业普遍面临专业人才不足与实战经验匮乏的双重困境。鉴于此，打造动态演化、科学调整的安全防御体系成为核心需求，也促使人工智能攻防靶场成为一项重要的新型基础设施。
“类似于‘演兵场’，安全靶场通过攻防实战演练将风险暴露前置，提前发现和适应不断升级、瞬息万变的新型攻击和高级威胁，动态提升团队软实力，快速弥补技术水平与经验的不足，实现‘让风险发生在靶场，让有效防御构建在安全事件之前’。”唐家渝说。
“学练一体” 夯实基础建设
作为人工智能安全领域的领军企业，瑞莱智慧聚焦于算法攻防场景，率先推出人工智能安全靶场RealRange，用于构建真实网络环境的人工智能实战攻防演练，通过“实战化、模块化”的平台服务，帮助企业实现精准挖掘薄弱环节、验证攻防能力、敏捷迭代防御体系等全方位能力。
据介绍，该平台集“学、练”为一体，包含攻击靶场、防御靶场、攻防演练三大功能模块。“攻防靶场”内置不同维度、不同难度的攻防靶标与最新的攻防算法;“攻防演练模块”支持针对人脸识别、图像分类等不同应用场景开展攻防演练，同时平台可自动化评估攻防两端能力，以攻防态势的可视化功能直观反馈实时战况。
具体来看，该靶场平台具备三大特点：场景丰富，集成多种典型应用场景、攻防靶标、攻防工具，有效支撑各类业务场景下的攻防演练;容易上手，内置难度由低到高的分阶靶场体系，进阶式学练体系，无需具备专业AI安全知识也能快速上手;扩展灵活，模块化设计支持灵活构建各类演练场景，级联设计支持灵活扩展各种演练规模。
唐家渝介绍，该靶场平台基于瑞莱智慧在模型攻防领域深厚的技术积累，包括白盒攻击、黑盒迁移攻击等前沿对抗技术以及与清华大学、阿里安全联合研发的AI对抗攻防基准，将团队长期在攻防、竞赛、实战过程中形成的实践经验内化于平台之中。他透露，平台下一步将基于横向的通用计算机视觉任务，打造身份验证、自动驾驶等纵向细分领域的个性化定制方案。
