奇安信齊向東：大模型應(yīng)用一端連著機(jī)遇，一端連著挑戰(zhàn)

4月30日消息（九九）4月29-30日，由國家發(fā)展改革委、國家數(shù)據(jù)局等主辦的第八屆數(shù)字中國建設(shè)峰會(huì)在福建福州舉行。大會(huì)首日，奇安信董事長(zhǎng)齊向東在數(shù)字經(jīng)濟(jì)論壇發(fā)表演講并接受媒體采訪。

齊向東表示，發(fā)展是硬道理，安全也是硬道理。在數(shù)字經(jīng)濟(jì)發(fā)展過程中，網(wǎng)絡(luò)安全是底線根基和上限支撐，是價(jià)值創(chuàng)造的強(qiáng)勁引擎。面向未來網(wǎng)絡(luò)安全，得AI者得天下！

大模型應(yīng)用一端連著機(jī)遇，一端連著挑戰(zhàn)

當(dāng)前，人工智能大模型應(yīng)用迎來大爆發(fā)，千行百業(yè)都爭(zhēng)先恐后擁抱大模型，搶占高質(zhì)量發(fā)展先機(jī)。齊向東指出，“這些層出不窮的新興場(chǎng)景，充分展現(xiàn)出人工智能大模型帶給我們的無限生產(chǎn)力、創(chuàng)造力。但我們也要清醒地意識(shí)到，新技術(shù)是把雙刃劍，大模型應(yīng)用一端連著機(jī)遇，一端連著挑戰(zhàn)。”

齊向東深度剖析了大模型應(yīng)用的三重挑戰(zhàn)。

一是“小數(shù)據(jù)”一失萬無，“小數(shù)據(jù)安全”成為數(shù)字經(jīng)濟(jì)時(shí)代的核心關(guān)切。數(shù)據(jù)是驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的“石油”，人工智能是“發(fā)動(dòng)機(jī)”。過去，提到數(shù)據(jù)人們想到的都是大數(shù)據(jù)，規(guī)模大，但碎片化、質(zhì)量參差不齊，數(shù)據(jù)價(jià)值挖掘和變現(xiàn)難?，F(xiàn)在有了人工智能，尤其是大模型，傳統(tǒng)企業(yè)開始把所積累的設(shè)計(jì)數(shù)據(jù)、生產(chǎn)數(shù)據(jù)、安裝調(diào)試數(shù)據(jù)等，通過去粗取精、去重整合、分類標(biāo)注等加工處理，形成精華小數(shù)據(jù)。對(duì)企業(yè)而言，一旦精華小數(shù)據(jù)被竊取、被泄露、被篡改，企業(yè)常年積累的核心競(jìng)爭(zhēng)力會(huì)瞬間崩塌。

二是大模型融通百業(yè)，“裸奔”上線極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C(jī)。當(dāng)大模型深度融入智慧城市、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時(shí)，會(huì)將風(fēng)險(xiǎn)串聯(lián)成網(wǎng)，一旦被攻擊會(huì)“牽一發(fā)動(dòng)全身”。奇安信資產(chǎn)測(cè)繪鷹圖平臺(tái)監(jiān)測(cè)發(fā)現(xiàn)，8971個(gè)Ollama大模型服務(wù)器中，有6449個(gè)活躍服務(wù)器，其中近九成都在“裸奔”。也就是說，別有用心者可以在未經(jīng)授權(quán)的情況下訪問服務(wù)，甚至可以發(fā)送指令刪除所部署的DeepSeek、Qwen等大模型文件，進(jìn)而導(dǎo)致與大模型關(guān)聯(lián)的應(yīng)用業(yè)務(wù)中斷。

三是對(duì)AI過度依賴，善惡真?zhèn)坞y辨，一旦大模型決策失準(zhǔn)會(huì)引發(fā)“蝴蝶效應(yīng)”。隨著人工智能的深入應(yīng)用，大模型的“本領(lǐng)”會(huì)越來越強(qiáng)，人們會(huì)對(duì)人工智能的輔助決策和判斷產(chǎn)生過度依賴，給不法分子可乘之機(jī)。從外部攻擊視角看，黑客可以通過漏洞利用、數(shù)據(jù)投毒等方式，干擾大模型的決策，披著大模型的外衣作惡；從內(nèi)部運(yùn)營(yíng)視角看，如果內(nèi)部員工在更新知識(shí)庫時(shí)，引入錯(cuò)誤信息會(huì)污染模型學(xué)習(xí)環(huán)境，使其輸出錯(cuò)誤結(jié)論。

順應(yīng)“AI+安全”大勢(shì)，用AI對(duì)抗AI

不可否認(rèn)，大模型技術(shù)的突破和落地，讓千行百業(yè)智能化的周期大幅縮短，為全產(chǎn)業(yè)升級(jí)按下“加速鍵”，同時(shí)帶來網(wǎng)絡(luò)安全需求大爆發(fā)。

齊向東介紹，奇安信順應(yīng)“AI+安全”大勢(shì)，一方面，針對(duì)AI大模型的垂直新場(chǎng)景，創(chuàng)新研發(fā)安全產(chǎn)品，護(hù)航千行百業(yè)踏實(shí)地向人工智能要生產(chǎn)力。另一方面，又把AI技術(shù)深度集成到安全產(chǎn)品中，“用AI對(duì)抗AI”，促進(jìn)安全防護(hù)提質(zhì)增效。

圍繞大模型應(yīng)用，奇安信推出大模型安全空間、奇安天界大模型安全一體機(jī)，為基于大模型的智能業(yè)務(wù)應(yīng)用保駕護(hù)航。面向中大型客戶，推出“大模型應(yīng)用安全空間”，通過“清風(fēng)險(xiǎn)、強(qiáng)基礎(chǔ)、控權(quán)限、審數(shù)據(jù)、攔攻擊”五個(gè)步驟，構(gòu)建多個(gè)維度縱深防御體系。面向教育、基層衛(wèi)生、中小企業(yè)等輕量級(jí)客戶，推出奇安天界大模型安全一體機(jī)，通過一體化交付、一體化運(yùn)維和一體化管理，滿足大模型安全和合規(guī)需求，目前該產(chǎn)品已在超過1000家政企客戶中獲得成功部署。

與此同時(shí)，奇安信在AI賦能安全產(chǎn)品上也做出很多嘗試，提出AI驅(qū)動(dòng)安全理念，安全產(chǎn)品全面AI化進(jìn)展顯著。其“AI+SOC”“AI+天眼”“AI+天擎”“AI+椒圖”等產(chǎn)品在實(shí)際應(yīng)用中受到來自金融、能源、醫(yī)療等領(lǐng)域客戶的廣泛好評(píng)。

齊向東進(jìn)一步介紹，奇安信安全智能體已經(jīng)深度接入DeepSeek大模型，在為政企客戶提供威脅研判等多個(gè)場(chǎng)景里表現(xiàn)卓越。今年，奇安信的“AI+代碼衛(wèi)士”產(chǎn)品也已經(jīng)落地金融行業(yè)，在人保科技和北京銀行部署上線。運(yùn)營(yíng)商方面，中國電子與中國電信簽署戰(zhàn)略合作協(xié)議，奇安信作為中國電子的成員單位，將提供信息安全、人工智能等各領(lǐng)域的支持。

面向未來，齊向東表示，奇安信將聚焦網(wǎng)絡(luò)安全主業(yè)多維發(fā)力，以科技創(chuàng)新筑牢安全底座、以全球化視野拓展安全邊界，以責(zé)任擔(dān)當(dāng)護(hù)航國家戰(zhàn)略、以生態(tài)協(xié)同激活產(chǎn)業(yè)動(dòng)能，為中國式現(xiàn)代化筑牢網(wǎng)絡(luò)安全防線。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。