近日,由全球三大極客賽事之一——GeekPwn打造的全國首檔安全挑戰(zhàn)真人秀《我是極客》火爆開播。節(jié)目上演“破防”智能保險箱、暴走的機器人、AI鑒定師、眼鏡易容術等網(wǎng)絡安全挑戰(zhàn)項目,各路極客精彩攻防輕松破解,讓觀眾紛紛驚呼“怎么可能!”。
節(jié)目中,騰訊優(yōu)圖人臉安全技術總負責人丁守鴻擔任現(xiàn)場評審,共同參與極客選手挑戰(zhàn)細節(jié)的技術討論及打分。作為騰訊旗下頂尖的人工智能實驗室,騰訊優(yōu)圖還為第一期“AI鑒定師”提供了領先的AI算法支持,同時丁守鴻作為第一期“AI鑒定師”和第二期“眼鏡易容術”挑戰(zhàn)環(huán)節(jié)的評審。
在AI鑒定師挑戰(zhàn)項目,騰訊優(yōu)圖和主辦方共同策劃,選手們對其中合成人臉檢測的準確率超過70%即為成功。AI大戰(zhàn)AI,水哥和潘曉婷現(xiàn)場“換臉”爆笑不斷。近期,AI換臉也是風波不斷,部分人覺得AI換臉技術能夠讓生活產(chǎn)生新體驗,但也有部分人飽受被AI換臉的折磨。此項目中,選手利用人工智能技術在15分鐘內判斷100段真假視頻,最終以72%正確率挑戰(zhàn)成功。
在眼鏡易容術項目中,主辦方則構建了一個人臉門禁系統(tǒng),選手通過模型對抗攻擊技術生成對抗素材,貼在臉上欺騙門禁系統(tǒng)的識別模型。在此環(huán)節(jié)4秒“變身”安妮·海瑟薇成功刷過門禁、不到10秒解鎖各種男神、女神身份,甚至實現(xiàn)跨種族、跨性別解鎖門禁系統(tǒng),讓在場嘉賓和觀眾嘆為觀止。
騰訊優(yōu)圖AI算法的加持,讓《我是極客》看點不斷精彩連連,并直觀地展示了人工智能世界的魅力,但同時也令人們開始思考,5G、AI主導的智能時代,終端密碼、人臉識別一向被視為保護個人隱私安全的屏障,卻在選手面前形同虛設,變成毫無防御能力的“紙老虎”,那么智能化在給人提供便利的同時,是否是真的安全呢?
因此,本次《我是極客》節(jié)目以“讓智能更安全、讓安全更智能”為主題,意在探索產(chǎn)業(yè)智能與消費智能潛在安全問題,而為挑戰(zhàn)項目提供了領先AI算法支持的騰訊優(yōu)圖,早已在人臉安全應用的探索上有了不錯的積累。
換臉編輯檢測技術刷新FaceForensicsBenchmark 國際賽事摘金
騰訊優(yōu)圖在人臉偽造檢測方向進行了深入研究,對偽造圖像和偽造視頻分別提出針對性的鑒別方案。針對人臉偽造圖像,騰訊優(yōu)圖關注人臉空間特征的不一致性,提出通過局部關聯(lián)學習來進行偽造檢測的新方法,該方法基于注意力機制同時提取RGB-頻域空間特征,并設計多尺度局部相似性建模網(wǎng)絡來衡量局部區(qū)域特征間的相似性,最終構造泛化性強、魯棒性高的相似模式,支持多種圖像偽造方法的有效檢測。
針對人臉偽造視頻,騰訊優(yōu)圖關注人臉時序運動的不一致性,基于相鄰幀間的特征差異,同時從豎直和水平方向上進行細粒度差異建模,引導模型關注時空上的不一致區(qū)域來進行真假鑒別。相關工作已發(fā)表于AAAI、ACM MM等會議,并刷新過FaceForensics Benchmark,同時在全球最大偽造人臉檢測比賽DFDC中獲得金牌。
模型對抗攻擊和防御研究 獲人工智能國際頂級會議CVPR、IJCAI接收
騰訊優(yōu)圖在對抗攻擊方向也進行了深入研究,針對人臉識別深度模型,提出一種高隱蔽性且可物理化的對抗攻擊的方法Adv-Makeup。該方法首先通過生成對抗網(wǎng)絡生成真實風格的彩妝,并設計融合網(wǎng)絡實現(xiàn)逼真的上妝過程,最后采用基于元學習的對抗攻擊策略實現(xiàn)遷移性強的對抗彩妝。生成的Adv-Makeup可以支持物理化,實現(xiàn)真實場景下的攻擊。
針對黑盒場景攻擊,騰訊優(yōu)圖提出一種全新的替代模型訓練方法,無需真實場景數(shù)據(jù),通過數(shù)據(jù)生成網(wǎng)絡生成具有多樣性的數(shù)據(jù),并設計對抗替代模型訓練框架,將分布在決策邊界的對抗樣本引入到替代模型訓練過程中,進一步提升替代模型和目標黑盒模型的相似度,從而提升黑盒攻擊的成功率。相關工作已被CVPR、IJCAI等會議接收。
優(yōu)圖視覺AI人臉安全應用落地 打造多樣化行業(yè)解決方案
始終秉承科技向善使命的騰訊優(yōu)圖,已擁有超過1000項AI全球專利,超過200篇論文被世界頂級會議收錄,并在人臉識別數(shù)據(jù)庫LFW、MegaFace、MOT challenge等多個國際賽事中不斷刷新紀錄,領先于國際水平的人臉識別技術為現(xiàn)實場景中的應用提供了保障。
如今,人臉應用安全是智能時代的重要命題,為防范AI技術濫用,未來騰訊將在人臉安全領域持續(xù)深耕,精心打磨算法研究和業(yè)務落地,同時開放和輸出相關技術服務,全面覆蓋微信小程序、公眾號、APP、H5以及智能終端等場景,并廣泛應用于金融、直播、游戲、電商、政務民生等數(shù)百行業(yè)場景、數(shù)萬個項目,從而更好的保障人臉相關應用的安全。
(免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )