最近，“AI绘画有多离谱”相关话题火上热搜。比如，明明是喜庆的结婚照，被AI绘画软件加工后，剩下了新娘一人;少女和狗的合影中，作为主角的少女被AI绘画理解成了“狗”。这些生成结果的“翻车”叫人哭笑不得。不过，如果AI在医疗、自动驾驶等其他领域“翻车”，则会产生严重问题。如何从底层构建更稳定的AI?
11月30日下午，7位来自阿里巴巴、清华大学、上海交大等公司和高校的90后和00后研究者，分享了他们在对抗学习、贝叶斯深度学习、异常检测、鲁棒评估、噪声学习、鲁棒动态图学习、偏微分方程求解等方向上发表的研究成果，共同探讨如何打造更加安全可靠的智能技术。这些研究成果均被AI顶会NeurIPS收录。
毛潇锋是阿里巴巴人工智能治理与可持续发展研究中心(AAIG)的一名算法工程师。进入公司以来，他最重要的工作就是研究如何通过对抗训练来增强AI的鲁棒性。这些研究能力被应用在非常接地气的直播和图片内容审核中。在实际应用中，直播摄像头的光线变化、商品的快速晃动等因素都会对抗AI对违规商品的识别。如果AI识别的稳定性难以保障，漏过违规商品，最终受损的还是消费者。
《利用离散对抗训练增强视觉表征》是毛潇锋的分享议题。“如果把图片拆成一个个像素，对某个或者多个像素点进行修改，往往可能使得AI无法识别。我所做的工作就是对AI进行对抗训练，让它不纠结于少量不引起图片本质内容的像素级别的改变，依然能认出图片表达的含义。”毛潇锋认为，将这种能力用于平台风控后，能更好守护消费者的安全。
董胤蓬是清华大学计算机系的一名95后博士后研究员，已发表30多篇顶级国际期刊和会议论文，主要专注于深度学习鲁棒性的研究。他本次的分享集中于3D世界的视角变化对AI视觉识别产生的影响。董胤蓬举例：“这项研究与自动驾驶场景密切相关。如果前车车辆发生车祸，自动驾驶车辆可能以非常不正常的视角拍摄了图片或视频，从而影响识别和判断。我关心的是，在3D空间里，如果拍摄视角或者其他视觉条件出现变化，AI是否能正确识别从而避免车祸发生。”
00后刘松铭是清华大学的在读本科生。他试图利用物理信息机器学习方法解决结构优化等广义上的“安全”问题。
刘松铭选取了燃料电池组、飞机机翼等场景介绍。“假如我们要建模一个安全稳定可靠的电池，需要模拟电池的动态，比如它的温度或电流分布，这是一个物理问题，但我想用数学的办法探索，然后通过神经网络求解。”刘松铭希望用AI探索广义的科学问题，包括解决至关重要的安全问题，让AI研究者从交叉学科中找寻思路。
这场以AI安全为主题的分享会由阿里巴巴和清华大学主办。阿里巴巴集团科技伦理治理委员会执行主席、AAIG主任薛晖表示：“这些研究者的探索最后会反哺于实际应用，帮助集团和社会建设负责任的好科技。对安全可靠的重视和关注也是企业社会责任感的重要体现。我很高兴，越来越多的年轻研究者们不断投身于此，一起促进人工智能技术的健康发展。”
(责任编辑：韩梦晨)
