7月13日，中关村论坛国际前沿科技创新大赛专题赛“2022人工智能安全大赛”正式启动，开始面向全国高等院校、科研院所、科技企业招募参赛团队。
本次大赛聚焦人工智能产业面临的安全挑战，希望以竞赛方式破解安全难题，培育高水平的人工智能安全团队，强化人工智能治理体系与安全评估能力建设。
本届大赛由中关村国家实验室、国家工业信息安全发展研究中心、清华大学人工智能研究院、北京瑞莱智慧科技有限公司联合主办，五位院士受邀担任本届大赛组委会主席，多所国内知名高校学者组成大赛评审委员会。
据了解，这场国内首个以人工智能安全为主题的赛事，将产业应用中的实际需求与最前沿的安全问题融合，针对人脸识别安全、深度伪造内容治理、自动驾驶安全等领域设置赛题，希望为人工智能的能力演进提供重要参考。
人脸识别系统容易受到对抗样本攻击，即通过对人脸图像做微小的改动，能够欺骗识别系统做出错误判断。
“人脸识别安全竞赛”赛题模拟人脸比对场景下的对抗攻击，在模型详细信息未知的黑盒场景下，选手提交对抗补丁，对模型进行攻击测试，最终根据攻击成功率进行排名。
利用生成合成类算法伪造音频、视频等滥用现象日益加剧，通过分析伪造音视频的相似性进行溯源是有效应对办法。
“深度伪造安全竞赛”赛题模拟互联网上深度伪造视频传播的场景，选手通过提交针对伪造方法的溯源算法，对相同生成方法的深度伪造视频进行识别，最终根据准确率进行排名。
自动驾驶车辆在极端场景中极易发生误判，同时面临算法安全威胁，存在被恶意攻击的可能。
“自动驾驶安全竞赛”赛题模拟自动驾驶场景下的对抗攻击，提供线上仿真自动驾驶环境，选手通过提交对抗补丁，对主流自动驾驶目标检测模型进行攻击测试，最终根据攻击成功率进行排名。
“2022人工智能安全大赛”线下决赛及颁奖典礼在2022中关村论坛期间举行。
(责任编辑：韩梦晨)
