近日，由全球三大極客賽事之一——GeekPwn打造的全國首檔安全挑戰(zhàn)真人秀《我是極客》火爆開播。節(jié)目上演“破防”智能保險(xiǎn)箱、暴走的機(jī)器人、AI鑒定師、眼鏡易容術(shù)等網(wǎng)絡(luò)安全挑戰(zhàn)項(xiàng)目，各路極客精彩攻防輕松破解，讓觀眾紛紛驚呼“怎么可能!”。
節(jié)目中，騰訊優(yōu)圖人臉安全技術(shù)總負(fù)責(zé)人丁守鴻擔(dān)任現(xiàn)場評(píng)審，共同參與極客選手挑戰(zhàn)細(xì)節(jié)的技術(shù)討論及打分。作為騰訊旗下頂尖的人工智能實(shí)驗(yàn)室，騰訊優(yōu)圖還為第一期“AI鑒定師”提供了領(lǐng)先的AI算法支持，同時(shí)丁守鴻作為第一期“AI鑒定師”和第二期“眼鏡易容術(shù)”挑戰(zhàn)環(huán)節(jié)的評(píng)審。
在AI鑒定師挑戰(zhàn)項(xiàng)目，騰訊優(yōu)圖和主辦方共同策劃，選手們對(duì)其中合成人臉檢測的準(zhǔn)確率超過70%即為成功。AI大戰(zhàn)AI，水哥和潘曉婷現(xiàn)場“換臉”爆笑不斷。近期，AI換臉也是風(fēng)波不斷，部分人覺得AI換臉技術(shù)能夠讓生活產(chǎn)生新體驗(yàn)，但也有部分人飽受被AI換臉的折磨。此項(xiàng)目中，選手利用人工智能技術(shù)在15分鐘內(nèi)判斷100段真假視頻，最終以72%正確率挑戰(zhàn)成功。
在眼鏡易容術(shù)項(xiàng)目中，主辦方則構(gòu)建了一個(gè)人臉門禁系統(tǒng)，選手通過模型對(duì)抗攻擊技術(shù)生成對(duì)抗素材，貼在臉上欺騙門禁系統(tǒng)的識(shí)別模型。在此環(huán)節(jié)4秒“變身”安妮·海瑟薇成功刷過門禁、不到10秒解鎖各種男神、女神身份，甚至實(shí)現(xiàn)跨種族、跨性別解鎖門禁系統(tǒng)，讓在場嘉賓和觀眾嘆為觀止。
騰訊優(yōu)圖AI算法的加持，讓《我是極客》看點(diǎn)不斷精彩連連，并直觀地展示了人工智能世界的魅力，但同時(shí)也令人們開始思考，5G、AI主導(dǎo)的智能時(shí)代，終端密碼、人臉識(shí)別一向被視為保護(hù)個(gè)人隱私安全的屏障，卻在選手面前形同虛設(shè)，變成毫無防御能力的“紙老虎”，那么智能化在給人提供便利的同時(shí)，是否是真的安全呢?
因此，本次《我是極客》節(jié)目以“讓智能更安全、讓安全更智能”為主題，意在探索產(chǎn)業(yè)智能與消費(fèi)智能潛在安全問題，而為挑戰(zhàn)項(xiàng)目提供了領(lǐng)先AI算法支持的騰訊優(yōu)圖，早已在人臉安全應(yīng)用的探索上有了不錯(cuò)的積累。
換臉編輯檢測技術(shù)刷新FaceForensicsBenchmark 國際賽事摘金
騰訊優(yōu)圖在人臉偽造檢測方向進(jìn)行了深入研究，對(duì)偽造圖像和偽造視頻分別提出針對(duì)性的鑒別方案。針對(duì)人臉偽造圖像，騰訊優(yōu)圖關(guān)注人臉空間特征的不一致性，提出通過局部關(guān)聯(lián)學(xué)習(xí)來進(jìn)行偽造檢測的新方法，該方法基于注意力機(jī)制同時(shí)提取RGB-頻域空間特征，并設(shè)計(jì)多尺度局部相似性建模網(wǎng)絡(luò)來衡量局部區(qū)域特征間的相似性，最終構(gòu)造泛化性強(qiáng)、魯棒性高的相似模式，支持多種圖像偽造方法的有效檢測。
針對(duì)人臉偽造視頻，騰訊優(yōu)圖關(guān)注人臉時(shí)序運(yùn)動(dòng)的不一致性，基于相鄰幀間的特征差異，同時(shí)從豎直和水平方向上進(jìn)行細(xì)粒度差異建模，引導(dǎo)模型關(guān)注時(shí)空上的不一致區(qū)域來進(jìn)行真假鑒別。相關(guān)工作已發(fā)表于AAAI、ACM MM等會(huì)議，并刷新過FaceForensics Benchmark，同時(shí)在全球最大偽造人臉檢測比賽DFDC中獲得金牌。
模型對(duì)抗攻擊和防御研究 獲人工智能國際頂級(jí)會(huì)議CVPR、IJCAI接收
騰訊優(yōu)圖在對(duì)抗攻擊方向也進(jìn)行了深入研究，針對(duì)人臉識(shí)別深度模型，提出一種高隱蔽性且可物理化的對(duì)抗攻擊的方法Adv-Makeup。該方法首先通過生成對(duì)抗網(wǎng)絡(luò)生成真實(shí)風(fēng)格的彩妝，并設(shè)計(jì)融合網(wǎng)絡(luò)實(shí)現(xiàn)逼真的上妝過程，最后采用基于元學(xué)習(xí)的對(duì)抗攻擊策略實(shí)現(xiàn)遷移性強(qiáng)的對(duì)抗彩妝。生成的Adv-Makeup可以支持物理化，實(shí)現(xiàn)真實(shí)場景下的攻擊。
針對(duì)黑盒場景攻擊，騰訊優(yōu)圖提出一種全新的替代模型訓(xùn)練方法，無需真實(shí)場景數(shù)據(jù)，通過數(shù)據(jù)生成網(wǎng)絡(luò)生成具有多樣性的數(shù)據(jù)，并設(shè)計(jì)對(duì)抗替代模型訓(xùn)練框架，將分布在決策邊界的對(duì)抗樣本引入到替代模型訓(xùn)練過程中，進(jìn)一步提升替代模型和目標(biāo)黑盒模型的相似度，從而提升黑盒攻擊的成功率。相關(guān)工作已被CVPR、IJCAI等會(huì)議接收。
優(yōu)圖視覺AI人臉安全應(yīng)用落地 打造多樣化行業(yè)解決方案
始終秉承科技向善使命的騰訊優(yōu)圖，已擁有超過1000項(xiàng)AI全球?qū)＠?，超過200篇論文被世界頂級(jí)會(huì)議收錄，并在人臉識(shí)別數(shù)據(jù)庫LFW、MegaFace、MOT challenge等多個(gè)國際賽事中不斷刷新紀(jì)錄，領(lǐng)先于國際水平的人臉識(shí)別技術(shù)為現(xiàn)實(shí)場景中的應(yīng)用提供了保障。
如今，人臉應(yīng)用安全是智能時(shí)代的重要命題，為防范AI技術(shù)濫用，未來騰訊將在人臉安全領(lǐng)域持續(xù)深耕，精心打磨算法研究和業(yè)務(wù)落地，同時(shí)開放和輸出相關(guān)技術(shù)服務(wù)，全面覆蓋微信小程序、公眾號(hào)、APP、H5以及智能終端等場景，并廣泛應(yīng)用于金融、直播、游戲、電商、政務(wù)民生等數(shù)百行業(yè)場景、數(shù)萬個(gè)項(xiàng)目，從而更好的保障人臉相關(guān)應(yīng)用的安全。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
