破解AI是为了更好的利用AI:GeekPwn揭示安全新方向
作者:星期一, 十月 29, 20180

黑客对于大部分人来说始终是个神秘的存在,他们在电子空间无所不能,玩出各种出人意料的套路。而事实上,黑客在现实生活中,也确实拥有各种各样强大的技术,将各种设备技术玩出颠覆我们想象力的情况。

上周在上海举办的GeekPwn 2018,各路黑客们就现场在20-30分钟的环节里,分别表现了自己领域的成果。安全牛记者也受邀到现场,看到了黑客们是如何做到各种令人惊奇的表演。本次活动以“人‘攻’智能,洞见未来”为主题,有以下几个相当有意义的破解和比赛环节:

1. 欺骗人脸识别

图像识别和人脸识别是AI如今最为落地的技术之一。AI的有效性很大程度取决于训练样本,而对抗样本则是在数据中故意加入细微的干扰,导致模型以高度置信给出一个错误的判断。在这次的GeekPwn上,六支队伍在三十分钟内对三个关卡进行挑战:前两关系统由GeekPwn提供,分别要让系统错认图片内容以及让系统认为图片是指定图像;而第三关则是需要欺骗Amazon的Celebrity Recognition,使系统将主持人蒋昌建老师的照片错认为施瓦希格。

参赛队伍都很轻松地顺利攻破第一关欺骗系统错认图片。之后,五支队伍都选择去了欺骗系统让系统认为一张武器的照片其实是石头;而由吴青昕和谢慈航两位选手组成的IYSWIM战队则选择了最难的第三关,并且在比赛二十分钟左右的时候成功欺骗了Amazon的Celebrity Recognition系统,引来了现场热烈的掌声。

同时,IYSWIM战队也作为唯一一支完成三关的队伍,成功拿下这一环节的第一名。

在赛后的评论中,评委老师指出:AI安全的问题最终还是发生在AI的系统上,难以让安全人员去解决,最终解决AI问题还应该是AI的研究者;而安全工作者需要的是帮助AI研究者发现系统中的安全隐患,然后和AI研究者协作,做好AI的安全工作。

2. 秒破手机指纹锁

手机指纹锁是现在越来越受欢迎的一种手机认证方式。而随着人们对“全屏”手机的追求,手机厂商们也逐渐直接在触摸屏上直接加入指纹验证,而不是在屏幕外制作一个指纹验证区。

在现场的演示中,腾讯安全玄武实验室的研究员仅仅用了一张普通的磁卡,将手指按压在放置在手机屏幕的磁卡上,成功解锁了手机。这个被称为“残迹重用”漏洞的原理,是因为由于触摸屏本身的性质,因此在指纹识别时会用到光学技术来捕捉屏幕上的指纹痕迹。而用户在使用手机时,由于会在显示屏上留下指纹,攻击者就可以通过反射体欺骗的方式,利用残留的指纹,欺骗手机系统。

不过,在发现该漏洞后,腾讯玄武实验室已经在今年初就开始和国内几家主流手机厂商合作,不仅通过更新算法修复了已上市手机中的漏洞,还将相关解决方案提交给相关芯片厂商,推动了供应链层面的安全修复。

3. 突然坠落的无人机

近年来,无人机逐渐开始流行,更有黑客通过无人机,对一些难以进入的地方进行远程攻击。然而,无人机本身,也会成为被黑客攻击的对象。阿里安全猎户座实验室的侯客就在现场观众的面前,在不到20分钟的时间里,成功让无人机“坠机”。

和其他对无人机系统直接进行攻击的方式不同,侯客选择的是攻击无人机的能源提供——电池。通过绕过无人机电池固件升级的数字签名校检,将恶意程序植入到智能电池中,从而对电池在特定条件下发生断电,从而让无人机坠机。

侯客的攻击入口相当的有新意,这种另辟蹊径的方式事实上也会让厂商们猝不及防。而对于这种攻击所带来的威胁,从长远来看,非常巨大——因为电池作为能源提供的关键来源,一旦中断,或者加压爆炸,都会产生非常严重的后果。

4. 入侵的机器人特工

在各种电影动画中,我们经常能看见特工利用机器人达成各种各样不可能完成的任务。在今年的GeekPwn中,来自美国内华达大学的团队就现场表演了自己的机器人。在现场的特定时间内,团队操作两台机器人,完成了对红外线的拆解、打开密码保险柜、读取保险柜内的信息、插入U盘对设备进行病毒注入的一系列行为。

当然,作为现实中的技术,机器人并没有像科幻片中那样随心所欲地行动。在现场的演示中,观众们也意识到了机器人在实际运用中存在的各种难点:对于移动位置和行为位置(比如输入密码)的把握,对于视角的调整观察等都存在着不小的难度。对于入侵这类高精度的工作,本身就集合了大量的高难度行为,在短短时间内完成了大部分任务的机器人,使得观众都赞叹不已。

机器人的使用是一件很复杂的工作。除了操作的难度,机器人的制作也是相当耗费时间精力的事情。制作者不仅仅需要选择合适的硬件进行组建,还需要自己来对机器人的操作系统进行编写,配置合适的操作方式。

5. “智能”家居变成“智障”家居?

随着AI技术的发展,智能家居也越来越热门。但是,我们是否真的能放心地将自己的居住环境交给系统呢?在这次GeekPwn的现场演示中,来自腾讯的移动安全实验室的研究者们成功破解了多个智能家居系统。

GeekPwn在现场布置了一个放置了各种智能家居的“黑客屋”。在现场挑战中,“屋主”兼评委万涛“无意中”点击了一条来自黑客的钓鱼短信,使得攻击者成功通过手机作为入口,对家居设备进行攻击。在短短二十分钟时间内,扫地机器人、播放器、电视机等设备相继被攻陷:扫地机器人突然启动开始到处跑、攻击者通过智能播放器反过来窃听到了室内工作人员的聊天内容、电视机突然开始播放其他内容。

而在另一场的“智能门锁”挑战中,腾讯的移动安全实验室团队在短短3分钟时间内,在不接触用户手机不进入家庭Wi-Fi的情况下,攻破了三款智能门锁。

6. 不足1%的女黑客

在GeekPwn的舞台上,也出现了一些女性黑客的身影,她们的技术都不在自己的男性同行之下。无论是在CAAD的比赛队伍当中,又或者是在智能门锁的团队中,都有女性黑客的身影。然而,GeeKPwn创始人王琦则表示,国内女性黑客可能只占黑客总量的1%。

这个巨大的性别比例差异很可能是因为人们对黑客的固有观念——黑客基本都是男性。然而,早在当年风靡全球的电影《黑客帝国》中,我们就能发现众多的女性黑客的身影,她们同样有着优秀的技术,在网络攻防中战斗。而对于黑客这个工作,固然需要一定量的天赋来掌握计算机的逻辑,但是也需要有从出乎意料的角度思考问题的能力——而这一点,和性别是无关的。

记者看来,比起“调节”黑客圈的性别比例,不如放开所有人对技术的过度畏惧与成见,因为在技术面前,我们也是平等的。我们不应该被性别、天赋等因素束缚了自己的热情。在腾讯移动安全实验室的女黑客skye讲解他们小组的破解成果时,她眼里闪烁的是和其他男性黑客一样的对于自己热爱的事物的光芒,这份热情才是对于黑客而言至关重要的东西。

黑客固然神秘,但是也有他们平凡的地方。当他们在舞台上展示自己的成果的时候,并非单纯的“秀技”,也是在期望自己的成果能够引起每个人足够的重视,让我们的技术环境变得更加安全。我们也需要这样的环境,有更多像国外BlackHat和DefCon那样的活动,给黑客们一个相互沟通,相互交流的机会;一个对普通人真正接触黑客、了解黑客、也了解技术的机会;以及一个对于厂商而言,悬在自己头上的一把利剑,时刻意识到,有那么一群黑客,在默默监督着他们的技术安全细节。当更多人对安全有了解,有安全意识的时候,整个社会环境也自然会更加注重安全。

相关阅读

必须来GeekPwn的十大理由

GeekPwn 2017 :从击败AI到盗窃奥特曼

315晚会KEEN提供技术支持 GeekPwn黑客大赛走向国际化

 

申明:本文系厂商投稿收录,所涉观点不代表安全牛立场!


相关文章