4月22日，抖音發(fā)布《2025第一季度黑產治理數據報告》。據公開數據顯示，自2025年以來，抖音持續(xù)加強對黑色產業(yè)鏈的打擊，隨著AI能力在治理場景的深度利用，平臺在黑產違規(guī)場景的巡檢、預警、研判等環(huán)節(jié)的效率都獲得了大幅提升。
今年第一季度，抖音封禁水軍、欺詐和違規(guī)導流相關黑產賬號260萬個，并將涉嫌違法犯罪的線索上報有關部門。
搭建AI智能體，網絡水軍巡檢效率提升10倍
今年以來，抖音風險治理團隊在大模型基礎上，以“AI能力”為核心，構建覆蓋風險感知、智能決策、閉環(huán)處置的治理體系，系統(tǒng)性提升AI在復雜場景下的風險治理應用，單個案例的處理時間達秒級，各環(huán)節(jié)運行綜合準確率達到85%以上。
以網絡水軍治理為例，雖然在長時間的治理中平臺已經有了一套流程并完成了部分內容自動化運行，但日常的研判、回掃等工作仍以人工處置為主。隨著大模型的發(fā)展，工作人員借用AI能力搭建出不同的智能機器人工具，在風險發(fā)現、風險預警、線上巡檢、風險研判、風險回掃等多個環(huán)節(jié)實現線上自動運營。尤其在“刷量”的識別和處置上，人工智能極大提高了處置鏈路的效率，不僅能3分鐘內完成自動研判，且準確率高達95%以上。
在今年第一季度的試運行中，平臺網絡水軍服務違規(guī)的巡檢效率提升了10.25倍，日均攔截違規(guī)請求6000萬次，封禁水軍賬號超20萬個。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
