Gartner預測：未來1/3的AI市場將由守護代理AI瓜分，引領代理型AI新潮流

Gartner預測：守護代理AI引領代理型AI新潮流

隨著科技的飛速發(fā)展，人工智能（AI）的應用已經滲透到我們生活的方方面面。Gartner，全球著名的IT研究與顧問咨詢公司，近期發(fā)布預測，到2030年，守護代理（Guardian Agent）技術將在代理型AI市場中占據(jù)至少10%至15%的份額，預示著未來1/3的AI市場將由守護代理AI瓜分，這無疑將引領代理型AI的新潮流。

守護代理，作為一種專為實現(xiàn)可信、安全的AI交互而設計的AI技術，其涵蓋的范圍既包括協(xié)助用戶完成內容審核、監(jiān)控、分析等任務的AI助手，也包括可不斷進化的半自主或全自主代理。這些守護代理具有根據(jù)既定目標制定與執(zhí)行行動計劃、甚至調整或阻止行動的能力。它們將管理所有類型的交互和異常情況，成為多代理系統(tǒng)的重要驅動因素，也是守護代理集成需求上升的關鍵。

Gartner的調查顯示，雖然目前只有24%的受訪者已部署了少量AI代理（少于12個），但有4%的受訪者部署了12個以上的AI代理，并且有50%的受訪者正在研究和實驗該技術，另有17%的受訪者尚未開展相關工作，但計劃最遲于2026年底前部署該技術。這一現(xiàn)象表明，隨著AI技術的發(fā)展和應用，越來越多的組織開始探索和嘗試使用AI代理。

然而，隨著AI代理的廣泛應用，也帶來了一系列新的挑戰(zhàn)和威脅。自動化信任、風險和安全控制措施是確保AI代理一致、安全運行的必要條件，這也推動了守護代理的需求和該技術的增長。而Gartner杰出研究副總裁Avivah Litan的話更是給我們敲響了警鐘：“如果沒有適當?shù)姆雷o措施，代理型AI將導致意想不到的結果。”

在調查中，我們發(fā)現(xiàn)有52%的受訪者表示其AI代理當前或在未來將主要側重于IT、人力資源、會計等與內部行政職能相關的用例，而有23%的受訪者表示其AI代理側重于面向外部客戶的職能。然而，隨著用例的不斷增加，AI代理也面臨著越來越多的威脅，如輸入操縱、數(shù)據(jù)中毒等，這些都可能對AI代理的運行和安全性造成威脅。

此外，AI代理的快速發(fā)展及其自主性的提升使傳統(tǒng)的人類監(jiān)督模式已不再足夠。由于企業(yè)開始轉向復雜的多代理系統(tǒng)并且此類系統(tǒng)的通信速度驚人，人類已跟不上錯誤和惡意活動的速度。因此，企業(yè)更加迫切地需要守護代理對AI應用和代理進行自動監(jiān)視和控制并提供安全保障。

總的來說，守護代理技術的崛起和普及，不僅將改變我們與AI交互的方式，也將極大地提高我們使用AI的安全性和便利性。Gartner的預測顯示，未來1/3的AI市場將由守護代理AI瓜分，這無疑將引領代理型AI的新潮流。在這個潮流中，我們期待看到更多創(chuàng)新和突破性的技術出現(xiàn)，以應對日益復雜的AI應用場景和威脅。

最后，我們也要認識到，任何技術都有其兩面性，如何平衡其優(yōu)點和缺點，如何制定合適的政策和法規(guī)，都是我們在擁抱AI時代時必須面對和解決的問題。只有通過全面的思考和科學的決策，我們才能真正把握住AI時代的機遇，應對好其中的挑戰(zhàn)。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。