首页

世界顶级黑客Jeff Moss谈网络安全: 生物识别不适合用于身份认证 短期内AI可能“为虎作伥”

刘睿2018-05-12 12:57

经济观察网 记者 刘睿 指纹支付、虹膜解锁、脸部识别登录账号……作为AI应用之一,具有唯一性的生物特征识别正获得越来越广泛的应用,以往的电影场景正在变成现实。但是,在目前,这些生物识别真的万无一失吗?

“生物识别这个技术,要知道它的初衷是为了为了识别,而不是为了认证……想让它同时兼具识别和认证功能,会导致整个系统的崩溃。”5月11日,Jeff Moss在DEFCON China大会上如此表示。

生物识别目前尚不适合用于身份认证

针对已经开始商业化的人脸识别等技术,Jeff Moss认为:“我们当进行用户身份认证的时候,可能要输入指纹或者识别脸部等信息。为了便利,很多制造商在应用生物识别技术的时候,犯了一个非常容易犯的错误,想让它同时具备识别和认证功能,这样的话就会导致整个系统崩溃。所以在这里,密码非常重要,比如说你用户认证的手段可以是去通过脸部识别,声音或者是手纹识别,但同时也需要密码。”

网名“The Dark Tangent(黑暗切线)”的Jeff Moss是世界级黑客大会DEFCON和Black Hat的创始人。Jeff Moss还是美国国土安全咨询委员会顾问、ICANN(互联网名称与数字地址分配机构)首席安全官。DEFCON自1992年在美国拉斯维加斯举办以来,至今已有26年。2012年,美国国家安全局(NSA)负责人Keith B. Alexander首次参加了DEFCON大会并作演讲。此次百度与其合办的DEFCONChina是DEFCON首次进入中国,也是DEFCON第一次在美国以外的国家举办。

在本次DEFCON China的生物识别专场中,百度安全的工作人员演示了指纹、虹膜、人脸等识别的多种攻破手段。所谓的“动态识别”也并不能阻止黑客们的破解手段。

“在很多场合下,高清摄像机能够捕捉到人们的指纹,这些指纹的清晰度足以用于进行识别和认证。”百度安全事业部总经理马杰对经济观察网记者说。

AI前景广阔,但也可能“为虎作伥”

在互联网技术突飞猛进多年以后,网络安全上升到前所未有的高度。“从PC互联到移动互联,到进入人工智能,互联网从数字世界也跨入了物理世界,每一个行业也创造了很多新的行业。传统的信息安全、数据安全、代码安全,已经升级成为金融安全、财产安全、社会安全,甚至是人身安全。我们面临的是一个更加复杂的、多维度、多层次的生态系统级别的攻防安全的挑战。” 百度总裁张亚勤说。

“找到漏洞是非常辛苦非常耗时的事情,能不能用机器帮助我们检查发现这些漏洞?”马杰说。“安全领域是一个特别复杂的领域,但是AI也一定是一个方向。通过AI来帮助人类把这个问题解决得更好,这都是大家关注的事情,但是现在能力还很基础。”

安全产业是一个长产业链,有硬件厂商,有软件厂商;有做解决方案的,有做各种算法的。“安全一定是一个社区的事情,绝对不是哪一个人可以做完的一件事情,因为它牵扯到的方方面面太多了。”马杰说。

对此,百度围绕AI安全、移动安全、云安全、安全管理、隐私保护、安全研究、基础设施等七大线条进行战略部署,并联合了华为、因特尔、小米、清华、中科院等70多家终端安全厂商、高校专家和科研机构,共同迎接AI时代的安全问题和挑战。

Jeff Moss对AI也表示了担忧。AI需要进行训练,反馈是其中非常重要的一环。鉴于攻击者较防守者更容易获得反馈,因此在短期内,AI可能对于攻击者的效果更明显。

此外,Jeff Moss 还表示,“我们不知道AI做出的选择是否是正确的,这让我感到恐惧……你根本不知道它是如何做出决策的,这也是让我最为担忧的一点。”

早在2016年,谷歌就曾针对AI潜在风险,发表题为《人工智能安全性方面的具体问题》的技术论文,列出的广泛运用人工智能技术所面临的五大问题,包括:如何避免负面影响;如何避免对奖励条件的错误解读;如何有效确保人工智能系统能够对不宜频繁评估的事物做出适当的反应;如何确保人工智能系统不会做出极具负面影响的探索性举动;如何确保人工智能系统能够识别并良好应对与其培训环境极为不同的环境。

尽管机器学习研究社区已经对这些问题以及众多相关话题进行了大量讨论,但Google认为这方面还有很多工作要做。不过,Google相信,严谨而开放的跨机构合作,有益于打造理想的机器学习系统。

Jeff Moss也认为,在AI时代,最重要的是人而不是科技,“我们应该懂得如何去教育并且培养人才,这样才能够合理的解决网络安全问题,因为在这个过程当中,需要人与人之间相互的帮扶,并没有任何科技能够解决问题,只有人才能够解决问题。”这也是DEFCON的理念,即为那些黑客以及极客们提供交流的平台,大家一起发现新的东西,相互学习。

“如果真的有问题发生的话,可以解决,因为我们到时候会有这样的能力来理解不同的先进技术,有能力来解决这些漏洞,我们可以把事情做得更好。这也就是为什么我们需要相互了解,需要有更多的交流,以及更多的相互信任。” Jeff Moss表示。

刘睿经济观察报编辑