GeekPwn2018：小心！馬賽克也守不住你的“小秘密”

不經意間，人工智能已經全面占領了我們的日常——“刷臉時代”似乎真的來了。隨著辦公室可以“刷臉打卡”、機場用上了“刷臉安檢”、銀行“刷臉取款”， 廁所 “刷臉取紙”等人臉識別技術的普及，人工智能成功從好萊塢巨幕中走進了人類的現(xiàn)實生活。

當它們在生活中扮演越來越重要的角色時，我們開始質疑：看似一絲不茍的AI是否是未來智能生活的最安全解決方案?GeekPwn2018揭開你的迷思。10月24日，在中國上海舉辦的GeekPwn2018國際安全極客大賽的現(xiàn)場，白帽黑客與人工智能的“爭鋒相對”——一場史無前例的人工智能項目破解秀，揭露了現(xiàn)階段人工智能發(fā)展過程所存在的安全問題。

　　GeekPwn2018大賽上海站現(xiàn)場

作為全球首個探索人工智能與專業(yè)安全的前沿平臺，GeekPwn始終保持敏銳的科技洞察力，在創(chuàng)建之初就開始關注AI安全問題。今年，以“人‘攻’智能，洞見未來”為主題的GeekPwn又對人工智能時代下的安全問題開啟全新一輪的探索，其中重點項目“CAAD對抗性樣本攻防挑戰(zhàn)賽“的命題專項賽和“GAN掉馬賽克挑戰(zhàn)賽”的趣味挑戰(zhàn)賽，創(chuàng)新國內人工智能對抗新玩法，黑客與人工智能之間的博弈無疑成為本屆GeekPwn大賽最大的亮點。

“宇宙飛船”or“巨石”傻傻分不清楚?AI在誘導下也會看花眼

眾所周知，人臉識別技術為生活帶來諸多高效體驗的同時，也打開了人類無限的想象空間。AI保安、AI警衛(wèi)正在逐漸代替?zhèn)鹘y(tǒng)人力，承擔起為重要場所“看家護院”的職責。似乎AI將不可避免地在某些領域被賦予“至高無上”的權利。但是，它真的能扮演好一個優(yōu)秀警衛(wèi)的角色，眼里容不得“半點沙”?

目前的AI識圖并不能夠萬無一失，它不僅也會看花眼，而且離譜到“人人”都可以是施瓦辛格!本是肉眼就能輕易分辨出來的“事物”，被GeekPwn2018選手們“黑”去細節(jié)后，AI誤將“宇宙飛行器”識別成“巨石”;將“導彈”判定為“安全物品”;甚至將現(xiàn)場特邀主持人蔣昌建老師的照片識別為阿諾德·施瓦辛格。在GeekPwn2018大賽現(xiàn)場，由吳青昕和謝慈航兩位選手組成的IYSWIM戰(zhàn)隊，通過生成一系列“對抗樣本”，成功欺騙亞馬遜celebrity recognition，實現(xiàn)對AI識圖的PWN三連擊，以第一名的成績率先完成“CAAD對抗性樣本攻防挑戰(zhàn)賽”項目第一階段的限時挑戰(zhàn)。

　　“CAAD對抗性樣本攻防挑戰(zhàn)賽”參賽隊伍 IYSWIM

這是繼今年8月GeekPwn拉斯維加斯站之后，“CAAD對抗性樣本攻防挑戰(zhàn)賽”首次登陸上海。GeekPwn 聯(lián)合谷歌大腦人工智能研究科學家Ian Goodfellow、Alexey Kurakin以及美國加州大學伯克利分校計算機系教授宋曉冬等學術機構等權威，延續(xù)拉斯維加斯站上首創(chuàng)的CAAD CTF形式，邀請到來自清華大學、中國科學技術大學、美國約翰·霍普金斯大學、Facebook、騰訊、阿里巴巴、扇貝等知名高校與企業(yè)的六支 AI 強隊登上“1024”的舞臺，進行實時攻擊與防守比賽，提前預演人工智能應用潛在的安全風險。

區(qū)別于第一階段的“限時挑戰(zhàn)賽”完成規(guī)定挑戰(zhàn)即可，第二階段的“攻防賽”是戰(zhàn)隊間一場不定向的拉鋸戰(zhàn)——各隊伍相互攻擊、相互防御，誰也預測不到下一個攻擊來自“who”。選手們一手握著鋒利的“刺刀“，一手把著厚實的”盾牌“，在攻擊和防御的兩端來回游走。經過兩個階段的激烈角逐，最終，IYSWIM團隊問鼎本屆“CAAD對抗性樣本攻防挑戰(zhàn)賽”項目冠軍，OWLET、TSAIL團隊分別獲得二、三名，Blade、USTC-ALIBABA以及RNG團隊獲得優(yōu)勝獎。

　　CAAD對抗性樣本攻防挑戰(zhàn)賽獲獎選手合照

不僅如此，期待已久的CAAD線上賽最終成績也在GeekPwn2018的現(xiàn)場揭曉。其中ysharma1126、Labmem2018、TSAIL團隊分列非定向對抗攻擊(Non-targeted attack)賽的前三名;ysharma1126、TSAIL、wilson8561團隊分列定向對抗攻擊(Targeted attack)賽的前三名;FAIR & JHU、TSAIL、ysharma1126團隊分列對抗防御(Defense)賽的前三名。據悉，CAAD線上賽的獎金總計65萬元。

打碼如同心理安慰?GeekPwn利用AI還原馬賽克背后的真相

馬賽克作為修圖軟件中必不可少的工具之一，成為當代人獲取“安全感”的重要保障。打碼的背后，究竟是男友出軌的實錘?或是女神住處臟亂差的反差?還是隱婚族的蛛絲馬跡?馬賽克真的能夠守住你的“小秘密“嗎?GeekPwn2018現(xiàn)場，來自中國海洋大學的選手杜昂昂以“生成對抗性網絡-GAN”的AI技術還原打碼圖片的真實原貌，撕碎馬賽克的“偽裝“，宣告僅僅依賴打碼就萬事皆平安的年代已經成為過去式。

　　“GAN掉馬賽克”項目選手杜昂昂

根據“GAN掉馬賽克”的比賽規(guī)則，主辦方提前已告知參賽選手3類(菠蘿、漢堡、比基尼)圖片進行訓練;比賽現(xiàn)場主辦方提供3類中的多張圖片，循環(huán)播放(選手不得觀看)，并由觀眾任選其中3張打上馬賽克，交由選手嘗試還原。選手最終幾乎以“1:1完美復刻”的優(yōu)秀表現(xiàn)成功完成項目破解挑戰(zhàn)。

此次“CAAD對抗樣本限時挑戰(zhàn)賽”和“GAN掉馬賽克挑戰(zhàn)賽“兩個項目的破解挑戰(zhàn)，無疑為大眾敲響了AI安全的警鐘，如果犯罪分子利用對抗樣本偽裝成普通人，騙過強大的人臉識別系統(tǒng);如果犯罪分子利用對抗網絡GAN還原受害人的個人信息，找到其住所……這些隱藏在智能生活里的人工智能安全隱患，未來很可能真的發(fā)生并成為社會新聞的頭條。

人工智能安全距離大眾生活并不遙遠，它與生活息息相關，從前瞻的技術趨勢出發(fā)，智能安全應該引起更廣泛的重視。碁震KEEN公司CEO，GeekPwn發(fā)起創(chuàng)辦人王琦表示：自創(chuàng)辦以來，極棒帶來了許多腦洞大開的破解展示，向廠商提交了上百個漏洞，也讓更多人關注到智能生活中安全問題的重要性和必要性，人“攻”智能不是目的，極棒希望以科學的評判及可視化的展示，讓科學流行起來，讓智慧飛揚起來，讓大家的生活更加安全起來。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。