亚马逊Rekognition被破 “黑客”是Facebook员工 用的还是谷歌的FaceNet开源代码

　　Facebook员工用谷歌FaceNet开源代码模型攻破了亚马逊的人脸识别算法，让其把《最强大脑》主持人蒋昌建的照片识别成了施瓦辛格，这种神操作，在GeekPwn国际安全极客大赛上真的发生了。

　　24日，“GeekPwn国际安全极客大赛在上海举行。本届大赛共计6个团队参加，最终唯有IYSWIM团队攻破了人脸识别算法，该算法的API接口来自于亚马逊名人鉴别系统Rekognition。而更有意思的是，IYSWIM团队中有一名队员来自Facebook，更在赛后直言他们采用的是谷歌的FaceNet开源代码模型。

　　据了解，整个赛程以“AI控制人类世界”为故事背景，参赛队需要通过利用CAAD对抗样本”技术生成对抗样本，让AI依次突破飞行器、武器和人脸识别算法，最终逃出“觉醒黑客”囚禁地。具体要求上，AI需要将宇宙飞船、飞行器识别称普通的石头，判定导弹是安全的，更要将《最强大脑》主持人蒋昌建的照片识别为施瓦辛格。其中，最后的人脸识别关难度最大，因为大赛方采用的是迄今为止尚未有人攻破的亚马逊名人鉴别系统Rekognition API接口。

　　然而，大赛进行不到20分钟，IYSWIM团队成功逃出了“觉醒黑客”囚禁地。其团队代表吴育昕表示，“我是以个人名义报名参赛的，比赛之前虽然知道有人脸识别关，但不知道具体是哪张图片。所以就从网上找到了FaceNet开源代码(基于Tensorflow环境运行的谷歌人脸识别系统，可以用于人脸验证、识别和聚类等)并用其中的几套模型进行训练。”

　　当然，比赛的最终目的不是为了攻破，而是为了预演潜在风险、拓宽安全思维。随着AI相关技术的发展，有关AI威胁论等观点大行其道，其本质上就是认为人类会通过AI做坏事，甚至最终无法控制AI。但这些担心不是毫无道理的。

　　可以看到，即便是被认为绝无攻克可能的Rekognition也在大赛中被轻易攻破。更有人认为，AI时代的安全攻防难度是互联网时代的3倍，因为互联网安全攻防只涉及到人与人的对抗，而AI时代则同时涉及到人与人的对抗、人与机器的对抗以及机器与机器的对抗。

　　而当前，仅人脸识别技术就已被应用于各个领域，其中甚至包括安防、金融等对信息安全要求极高的领域。IYSWIM团队用20分钟向行业揭示了相关技术可能存在的漏洞和危险，是对行业的一次警醒，也是对技术更高要求的体现。