Facebook员工用谷歌模型 攻破亚马逊人脸识别算法

摘要:在 10 月 24 日的 GeekPwn 国际安全极客大赛上,IYSWIM 团队攻破了比赛中的人脸识别算法,结果是系统把《最强大脑》主持人蒋昌建的照片识别成了施瓦辛格。

Facebook员工用谷歌模型 攻破亚马逊人脸识别算法

在 AI 大行其道时,藏匿于其中的安全问题也开始得到关注,即便是巨头也暴露了风险。

在 10 月 24 日的 GeekPwn 国际安全极客大赛上,IYSWIM 团队攻破了比赛中的人脸识别算法,结果是系统把《最强大脑》主持人蒋昌建的照片识别成了施瓦辛格。

要知道,这项人脸识别算法 API 接口来自于亚马逊名人鉴别系统(Rekognition)。

这场比赛共有 6 个团队参加,IYSWIM 是唯一一个破解人脸识别算法的团队。IYSWIM 团队队员吴育昕系 Facebook 员工,他在接受第一财经采访时表示,自己用了谷歌的 FaceNet 开源代码模型攻破了该算法。

人脸识别的危险

今年 GeekPwn 国际安全极客大赛设定了 AI 控制人类世界的故事背景。10 月 24 日的第一场比赛中,参赛选手即极客利用“CAAD 对抗样本”技术生成对抗样本,目标是使 AI 对飞行器、武器和人脸产生判断错误,逃出“觉醒黑客”们的囚禁地。

要求是,AI 将宇宙飞船飞行器识别为石头,把导弹认为是安全的,并将主持人蒋昌建的照片识别为施瓦辛格。

在飞行器、导弹和人脸三项图像识别中,人脸识别被认为是最难攻克的一关,用了亚马逊名人鉴别系统(Rekognition)API 接口。

比赛进行到一半,飞行器和武器先后被选手闯关成功,6 个团队已经对人脸识别发起了不下 90 次攻击,却迟迟未能攻破其中算法。

赛事设计者,碁震 KEEN 公司创始人兼 CEO、GeekPwn 黑客大赛发起创办人王琦表示,这道题可能没有选手能攻破,因为迄今为止,这项人脸识别系统尚未被攻破过。

话音落下不久,比赛进行了约 20 分钟时,IYSWIM 团队成功解题,主持人蒋昌建被系统确认为施瓦辛格,现场一片欢呼。

IYSWIM 团队吴育昕对第一财经表示,自己在网上找了 FaceNet 开源代码,用其中的几套模型进行训练,最终破解了比赛中的系统算法。

吴育昕对第一财经表示,自己是以个人名义报名参赛,自己有名队友没有来到现场,比赛开始前知道这项比赛是人脸识别,但不知道是哪张图片。

FaceNet 系谷歌人脸识别系统,基于 Tensorflow 环境运行,可以用于人脸验证、识别和聚类等。

包括人脸识别在内的图像识别是 AI 最重要的分支之一,也是应用场景最为广泛的领域之一。人脸识别被广泛应用于零售、安防等领域,但 GeekPwn 比赛,却用短短 20 分钟时间向外界揭示了其中的危险。这再一次引发了公众对人脸识别等 AI 技术的担心。

三倍于互联网时代的安全难度

GeekPwn 比赛的目的是预演潜在风险、拓宽安全思维、帮助智能设备更加安全地问世、协助人工智能健康成长的手段。

从筹办第一届比赛开始,GeekPwn 比赛已经连续举办了五年,五年间互联网安全环境也发生着变化。

“最初我们意识到不光是手机和电脑,特斯拉也是可以被黑的;2015 年 O2O 最火的时候,行业潜在危险是比如叫滴滴叫到一万辆导致系统瘫痪、保洁服务订单被黑导致上门的其实是个坏人;2016 年,美国开始关注轮椅、游戏机被黑的案例;最近 AI 领域比较受关注。”王琦对第一财经表示。

“安全本质上是人和人的对抗,到 AI 时代,安全攻防难度至少扩大了 3 倍,不光是人和人的对抗,还有人和机器的对抗,机器和机器的对抗,机器和人的对抗。AI 的安全问题得 AI 解决,传统安全领域的人只能提供思路。”王琦称。

来自: 新浪科技

扩展阅读

深度学习将走向更加开放的未来
揭秘谷歌招聘机制:冗长而挑剔的5轮面试
确认了AI作为自己的支柱后,亚马逊云服务如何赢得AI大战的未来?
全球主流公司大举投资AI:它们关注哪些方面?
揭秘Facebook语音识别项目 蕴含无限可能和机遇

为您推荐

机器学习工程师必知的十大算法
英伟达要给10亿摄像头提供GPU 华为阿里它都是客户
顶尖人工智能无法识别这些简单图像
商汤推出SenseAR美体塑形功能,打造AR生态意图明显
近200篇机器学习&深度学习资料分享(含各种文档,视频,源码等)

更多

Google
Facebook
亚马逊
IT业界