11月20日，2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)在浙江省桐鄉(xiāng)市烏鎮(zhèn)開(kāi)幕，主題為“擁抱以人為本、智能向善的數(shù)字未來(lái)——攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體”。會(huì)議期間，由中國(guó)圖象圖形學(xué)學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟（CSA）大中華區(qū)聯(lián)合主辦的AI大模型攻防賽圓滿落下帷幕，該賽事聯(lián)合了清華大學(xué)、上海交通大學(xué)、浙江大學(xué)等高校及多家產(chǎn)學(xué)研組織共同發(fā)起，直面并解決大模型應(yīng)用中潛藏風(fēng)險(xiǎn)，助力全球AI產(chǎn)業(yè)健康可持續(xù)發(fā)展。
大賽吸引了來(lái)自全球18個(gè)國(guó)家和地區(qū)的3200余名技術(shù)精英參與，參賽者來(lái)自清華大學(xué)、北京大學(xué)、交通大學(xué)、南洋理工大學(xué)等290多所國(guó)內(nèi)外高校，以及字節(jié)跳動(dòng)、理想汽車、騰訊、合合信息等上百家科技企業(yè)。憑借領(lǐng)先的AI視覺(jué)安全技術(shù)，合合信息從全球超千支參賽團(tuán)隊(duì)中脫穎而出，獲得“AI核身－金融場(chǎng)景憑證篡改檢測(cè)”（簡(jiǎn)稱“AI核身”）賽道冠軍。
合合信息獲全球AI大模型攻防挑戰(zhàn)賽“AI核身-金融場(chǎng)景憑證篡改檢測(cè)”賽道冠軍
近年來(lái)，以大模型及AIGC為代表的技術(shù)飛躍，給人們的生活帶來(lái)了便利，也產(chǎn)生了前所未有的安全挑戰(zhàn)。在金融、生活等領(lǐng)域，“眼見(jiàn)不為實(shí)、耳聽(tīng)不為實(shí)”的場(chǎng)景頻頻發(fā)生，偽造身份材料是常見(jiàn)的欺詐手段，給機(jī)構(gòu)及個(gè)人造成了重大財(cái)產(chǎn)損失。
在“AI核身”賽道中，主辦方以金融領(lǐng)域進(jìn)件審核為背景，考驗(yàn)參賽隊(duì)伍實(shí)現(xiàn)大模型生成內(nèi)容的防偽檢測(cè)的能力。金融領(lǐng)域進(jìn)件審核業(yè)務(wù)涵蓋了信用成長(zhǎng)、用戶開(kāi)戶、商家入駐等多個(gè)場(chǎng)景，用戶在辦理這些業(yè)務(wù)時(shí)，需提交一定的材料（即憑證）用于證明個(gè)人身份、資產(chǎn)收入等信息，其真實(shí)性是困擾金融場(chǎng)景自動(dòng)化審核的一大難題。如何通過(guò)創(chuàng)新技術(shù)手段提高金融憑證篡改檢測(cè)精度，是賽道關(guān)注的重點(diǎn)。
為解決金融憑證篡改“檢測(cè)難”的問(wèn)題，賽道提供了大規(guī)模的、貼合實(shí)際業(yè)務(wù)場(chǎng)景的憑證篡改數(shù)據(jù)集，作為大賽“考卷”。據(jù)合合信息技術(shù)人員介紹，圖像篡改手段“花樣”繁多，即便是一張小小的購(gòu)物票據(jù)，也可分為復(fù)制粘貼、拼接、擦除、AIGC生成等多種造假形式。受多種偽造方法疊加、新偽造工具涌現(xiàn)等因素影響，篡改圖像特征分布復(fù)雜，目前的圖像篡改檢測(cè)技術(shù)面臨泛化性和魯棒性不足的困境，解決真實(shí)業(yè)務(wù)場(chǎng)景的圖像偽造鑒別問(wèn)題是一項(xiàng)艱巨的挑戰(zhàn)。
本次比賽中，合合信息基于自主研發(fā)的圖像篡改檢測(cè)系統(tǒng)，針對(duì)百萬(wàn)級(jí)金融場(chǎng)景的憑證材料，提取圖像多模態(tài)信息；系統(tǒng)結(jié)合低維視覺(jué)特征和高階語(yǔ)義異常進(jìn)行綜合分析，在保持極低誤檢率的同時(shí)，精準(zhǔn)識(shí)別偽造區(qū)域，有效解決了不法分子利用PS、AIGC等工具制作的高度逼真憑證樣本中偽造區(qū)域難以檢測(cè)的技術(shù)難題。
合合信息篡改檢測(cè)技術(shù)在偽造視覺(jué)圖像鑒別上有著豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)。此前，合合信息推出了圖像篡改檢測(cè)技術(shù)，不僅支持檢測(cè)身份證、護(hù)照在內(nèi)的多種卡證，營(yíng)業(yè)執(zhí)照，商場(chǎng)小票等各類票據(jù)，還能夠?qū)貓D場(chǎng)景、PDF掃描文件進(jìn)行審核，適用于金融、保險(xiǎn)等多個(gè)場(chǎng)景下的文檔篡改檢測(cè)。
合合信息圖像篡改檢測(cè)技術(shù)對(duì)常見(jiàn)證照篡改痕跡進(jìn)行定位
此次大賽中眾多隊(duì)伍“各顯神通”，再次證明了AI產(chǎn)業(yè)的健康發(fā)展離不開(kāi)學(xué)界和產(chǎn)業(yè)界的共同努力。據(jù)悉，在圖像內(nèi)容安全領(lǐng)域，由中國(guó)圖象圖形學(xué)學(xué)會(huì)、中國(guó)信息通信研究院、合合信息等公司和多所高校聯(lián)合編制、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布的《文本圖像篡改檢測(cè)系統(tǒng)技術(shù)要求》團(tuán)體標(biāo)準(zhǔn)于今年9月正式發(fā)布，為企業(yè)在開(kāi)發(fā)篡改檢測(cè)技術(shù)時(shí)提供明確指導(dǎo)，建立行業(yè)聯(lián)合防范機(jī)制。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
