Facebook員工用谷歌FaceNet開(kāi)源代碼模型攻破了亞馬遜的人臉識(shí)別算法，讓其把《最強(qiáng)大腦》主持人蔣昌建的照片識(shí)別成了施瓦辛格，這種神操作，在GeekPwn國(guó)際安全極客大賽上真的發(fā)生了。

　　24日，“GeekPwn國(guó)際安全極客大賽在上海舉行。本屆大賽共計(jì)6個(gè)團(tuán)隊(duì)參加，最終唯有IYSWIM團(tuán)隊(duì)攻破了人臉識(shí)別算法，該算法的API接口來(lái)自于亞馬遜名人鑒別系統(tǒng)Rekognition。而更有意思的是，IYSWIM團(tuán)隊(duì)中有一名隊(duì)員來(lái)自Facebook，更在賽后直言他們采用的是谷歌的FaceNet開(kāi)源代碼模型。

　　據(jù)了解，整個(gè)賽程以“AI控制人類世界”為故事背景，參賽隊(duì)需要通過(guò)利用CAAD對(duì)抗樣本”技術(shù)生成對(duì)抗樣本，讓AI依次突破飛行器、武器和人臉識(shí)別算法，最終逃出“覺(jué)醒黑客”囚禁地。具體要求上，AI需要將宇宙飛船、飛行器識(shí)別稱普通的石頭，判定導(dǎo)彈是安全的，更要將《最強(qiáng)大腦》主持人蔣昌建的照片識(shí)別為施瓦辛格。其中，最后的人臉識(shí)別關(guān)難度最大，因?yàn)榇筚惙讲捎玫氖瞧�今為止尚未有人攻破的亞馬遜名人鑒別系統(tǒng)Rekognition API接口。

　　然而，大賽進(jìn)行不到20分鐘，IYSWIM團(tuán)隊(duì)成功逃出了“覺(jué)醒黑客”囚禁地。其團(tuán)隊(duì)代表吳育昕表示，“我是以個(gè)人名義報(bào)名參賽的，比賽之前雖然知道有人臉識(shí)別關(guān)，但不知道具體是哪張圖片。所以就從網(wǎng)上找到了FaceNet開(kāi)源代碼(基于Tensorflow環(huán)境運(yùn)行的谷歌人臉識(shí)別系統(tǒng)，可以用于人臉驗(yàn)證、識(shí)別和聚類等)并用其中的幾套模型進(jìn)行訓(xùn)練。”

　　當(dāng)然，比賽的最終目的不是為了攻破，而是為了預(yù)演潛在風(fēng)險(xiǎn)、拓寬安全思維。隨著AI相關(guān)技術(shù)的發(fā)展，有關(guān)AI威脅論等觀點(diǎn)大行其道，其本質(zhì)上就是認(rèn)為人類會(huì)通過(guò)AI做壞事，甚至最終無(wú)法控制AI。但這些擔(dān)心不是毫無(wú)道理的。

　　可以看到，即便是被認(rèn)為絕無(wú)攻克可能的Rekognition也在大賽中被輕易攻破。更有人認(rèn)為，AI時(shí)代的安全攻防難度是互聯(lián)網(wǎng)時(shí)代的3倍，因?yàn)榛ヂ?lián)網(wǎng)安全攻防只涉及到人與人的對(duì)抗，而AI時(shí)代則同時(shí)涉及到人與人的對(duì)抗、人與機(jī)器的對(duì)抗以及機(jī)器與機(jī)器的對(duì)抗。

　　而當(dāng)前，僅人臉識(shí)別技術(shù)就已被應(yīng)用于各個(gè)領(lǐng)域，其中甚至包括安防、金融等對(duì)信息安全要求極高的領(lǐng)域。IYSWIM團(tuán)隊(duì)用20分鐘向行業(yè)揭示了相關(guān)技術(shù)可能存在的漏洞和危險(xiǎn)，是對(duì)行業(yè)的一次警醒，也是對(duì)技術(shù)更高要求的體現(xiàn)。