Gartner研究副總裁孫鑫：AI Agent要被廣泛使用，需要邁過(guò)這些檻

3月27日消息，大模型熱潮推動(dòng)AI Agent應(yīng)用高漲，近日，Gartner公司發(fā)布了 2025年數(shù)據(jù)和分析（D&A）的9大重要趨勢(shì)，其中，就指出AI代理對(duì)于滿足臨時(shí)的、靈活的或復(fù)雜的自適應(yīng)自動(dòng)化需求至關(guān)重要。使用AI智能體進(jìn)行數(shù)據(jù)分析，完成業(yè)務(wù)成果的自動(dòng)化閉環(huán)具有變革性意義。

Gartner研究副總裁孫鑫（Julian Sun）在談到AI Agent在企業(yè)數(shù)據(jù)和分析中的使用時(shí)表示，企業(yè)不能僅僅依賴大語(yǔ)言模型（LLM），還需要采用其他形式的分析和AI技術(shù)，多種AI技術(shù)的結(jié)合可提高AI的影響力和可靠性。

孫鑫向TechWeb表示，如今市場(chǎng)上有各種預(yù)構(gòu)建的Agent，包括通用生產(chǎn)力Agent、特定任務(wù)Agent、特定業(yè)務(wù)功能Agent以及行業(yè)垂直Agent。但是，目前AI Agent的局限性在于超出特定范圍后表現(xiàn)不佳。AI Agent被廣泛使用還存以下這些障礙和困難：

可靠性問題： 當(dāng)前的AI Agent依賴于像LLMs這樣本身就存在不確定性的組件，且在一個(gè)Agent的工作流程中通常包含多個(gè)步驟，每個(gè)步驟都可能出錯(cuò)，導(dǎo)致錯(cuò)誤累積，整體可靠性不高。

規(guī)劃能力不足： 有效的規(guī)劃是Agent的核心功能，但目前的LLMs在處理不熟悉的規(guī)劃任務(wù)時(shí)表現(xiàn)不佳。更先進(jìn)的推理模型雖然有所改善，但成本高、延遲大，難以在許多場(chǎng)景中應(yīng)用。

成本和延遲： LLM驅(qū)動(dòng)的AI Agent通常需要多次調(diào)用LLM，增加了計(jì)算成本和響應(yīng)時(shí)間。復(fù)雜的Agent架構(gòu)（如包含反饋循環(huán)和多Agent系統(tǒng)）會(huì)進(jìn)一步加劇這些問題。

可解釋性差： 盡管AI Agent可以提供行動(dòng)解釋，但其核心的LLM本質(zhì)上是概率性的“黑箱”，難以完全理解其決策過(guò)程，這在需要Agent自主決策和行動(dòng)的場(chǎng)景中是一個(gè)重要風(fēng)險(xiǎn)。

安全性風(fēng)險(xiǎn)： 由于AI Agent具有更高的自主性，因此更難進(jìn)行大規(guī)模的管理和安全保障。其潛在的攻擊面擴(kuò)大，包括其觸發(fā)和參與的事件鏈和交互，這些通常對(duì)人類或系統(tǒng)操作員來(lái)說(shuō)是不可見或無(wú)法阻止的。另外潛在的風(fēng)險(xiǎn)如數(shù)據(jù)泄露、系統(tǒng)資源濫用、惡意活動(dòng)、代碼邏輯錯(cuò)誤以及供應(yīng)鏈風(fēng)險(xiǎn)。

期望與現(xiàn)實(shí)的差距： 市場(chǎng)對(duì)AI Agent的期望普遍較高，希望其能夠處理廣泛的任務(wù)。然而，現(xiàn)實(shí)情況是目前的AI Agent更適合處理范圍較窄、較為專業(yè)的任務(wù)。這種認(rèn)知差距也會(huì)阻礙AI Agent的有效應(yīng)用。

特定領(lǐng)域的挑戰(zhàn)： 例如在人力資源領(lǐng)域，由于工作流程涉及多個(gè)應(yīng)用、數(shù)據(jù)孤島以及對(duì)高準(zhǔn)確性的要求，實(shí)現(xiàn)廣泛應(yīng)用的AI Agent面臨著數(shù)據(jù)集成和系統(tǒng)互操作性等方面的特殊困難。

孫鑫認(rèn)為，目前來(lái)看，針對(duì)特定需求和場(chǎng)景的專用AI Agent由于其更高的可控性和可靠性，可能在短期內(nèi)更容易落地和取得實(shí)際應(yīng)用。成功的多Agent系統(tǒng)也往往通過(guò)將流程分解為不同的任務(wù)，由更專業(yè)化的Agent來(lái)處理，這進(jìn)一步支持了專業(yè)化Agent在復(fù)雜場(chǎng)景中的應(yīng)用前景。

未來(lái)AI Agent的發(fā)展趨勢(shì)，如更強(qiáng)的規(guī)劃和推理能力、大行動(dòng)模型（LAMs）、多模態(tài)模型以及神經(jīng)符號(hào)AI，可能會(huì)逐步提升AI Agent的通用能力，從而推動(dòng)通用AI Agent的發(fā)展。

另外，附上《Gartner2025年數(shù)據(jù)和分析重要趨勢(shì)》：

趨勢(shì)1：高消耗數(shù)據(jù)產(chǎn)品

為了充分利用高消耗數(shù)據(jù)產(chǎn)品，D&A領(lǐng)導(dǎo)者應(yīng)重點(diǎn)關(guān)注關(guān)鍵業(yè)務(wù)用例，通過(guò)產(chǎn)品關(guān)聯(lián)和規(guī)模化來(lái)減少數(shù)據(jù)交付方面的挑戰(zhàn)，優(yōu)先交付可重復(fù)使用和可組合的最小可行數(shù)據(jù)產(chǎn)品，以便讓團(tuán)隊(duì)不斷改進(jìn)這些產(chǎn)品。同時(shí)，D&A領(lǐng)導(dǎo)者還必須在數(shù)據(jù)生產(chǎn)和使用團(tuán)隊(duì)之間就關(guān)鍵績(jī)效指標(biāo)達(dá)成共識(shí)，這對(duì)于衡量數(shù)據(jù)產(chǎn)品的成功至關(guān)重要。

趨勢(shì)2：元數(shù)據(jù)管理解決方案

有效的元數(shù)據(jù)管理應(yīng)先從技術(shù)元數(shù)據(jù)出發(fā)，然后擴(kuò)展到業(yè)務(wù)元數(shù)據(jù)以增強(qiáng)上下文。通過(guò)整合各種類型的元數(shù)據(jù)，企業(yè)能夠?qū)崿F(xiàn)數(shù)據(jù)目錄、數(shù)據(jù)脈絡(luò)和AI用例。因此，選擇有助于自動(dòng)發(fā)現(xiàn)和分析元數(shù)據(jù)的工具勢(shì)在必行。

趨勢(shì)3：多模態(tài)數(shù)據(jù)編織

建立強(qiáng)大的元數(shù)據(jù)管理實(shí)踐涉及獲取和分析整個(gè)數(shù)據(jù)管道中的元數(shù)據(jù)。數(shù)據(jù)編織提供的洞察和自動(dòng)化可滿足編排需求、通過(guò)數(shù)據(jù)運(yùn)維（DataOps）實(shí)現(xiàn)更卓越的運(yùn)營(yíng)，并最終實(shí)現(xiàn)數(shù)據(jù)產(chǎn)品。

趨勢(shì)4：合成數(shù)據(jù)

識(shí)別缺失、不完整或獲取成本高的數(shù)據(jù)對(duì)于推進(jìn)AI行動(dòng)至關(guān)重要。合成數(shù)據(jù)既可以作為原始數(shù)據(jù)的變體，也可以替代敏感數(shù)據(jù)，能夠在促進(jìn)AI發(fā)展的同時(shí)保護(hù)數(shù)據(jù)隱私。

趨勢(shì)5：代理式分析

使用AI智能體進(jìn)行數(shù)據(jù)分析，完成業(yè)務(wù)成果的自動(dòng)化閉環(huán)具有變革性意義。Gartner建議嘗試開發(fā)自然語(yǔ)言接口連接業(yè)務(wù)洞察的用例，并評(píng)估供應(yīng)商的數(shù)字化工作場(chǎng)所應(yīng)用集成路線圖。同時(shí)，建立治理機(jī)制可最大程度地減少錯(cuò)誤和幻覺，并且通過(guò)AI就緒數(shù)據(jù)原則評(píng)估數(shù)據(jù)就緒度十分重要。

趨勢(shì)6：AI代理

AI代理對(duì)于滿足臨時(shí)的、靈活的或復(fù)雜的自適應(yīng)自動(dòng)化需求至關(guān)重要。企業(yè)不能僅僅依賴大語(yǔ)言模型（LLM），還需要采用其他形式的分析和AI技術(shù)。D&A領(lǐng)導(dǎo)者應(yīng)使AI代理能夠無(wú)縫訪問和共享所有應(yīng)用的數(shù)據(jù)。

趨勢(shì)7：小語(yǔ)言模型

相比大語(yǔ)言模型，Gartner更推薦企業(yè)考慮使用小語(yǔ)言模型，以便在特定領(lǐng)域獲得更加準(zhǔn)確、更符合語(yǔ)境的AI輸出結(jié)果。Gartner建議提供用于檢索增強(qiáng)生成或微調(diào)自定義領(lǐng)域模型的數(shù)據(jù)，特別是在本地使用時(shí)，可以處理敏感數(shù)據(jù)并減少計(jì)算資源和成本。

趨勢(shì)8：復(fù)合型AI

多種AI技術(shù)的結(jié)合可提高AI的影響力和可靠性。D&A團(tuán)隊(duì)不應(yīng)局限于GenAI和LLM（大語(yǔ)言模型），還應(yīng)整合數(shù)據(jù)科學(xué)、機(jī)器學(xué)習(xí)、知識(shí)圖譜以及優(yōu)化等技術(shù)，以實(shí)現(xiàn)全面的AI解決方案。

趨勢(shì)9：決策智能平臺(tái)

從數(shù)據(jù)驅(qū)動(dòng)到以決策為中心的轉(zhuǎn)變至關(guān)重要。Gartner建議采取的步驟包括：優(yōu)先考慮急需建模的業(yè)務(wù)決策、調(diào)整決策智能（DI）實(shí)踐、評(píng)估DI平臺(tái)。成功的關(guān)鍵在于重新發(fā)掘數(shù)據(jù)科學(xué)技術(shù)并解決決策自動(dòng)化的道德、法律和合規(guī)問題。（果青）

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。