2024年12月26日，經(jīng)工信部指導、由中國電子技術標準化研究院主辦的2024云計算產(chǎn)業(yè)和標準應用大會在北京舉行。本次大會以“云承百業(yè)促發(fā)展 智引標準啟新程”為主題，匯集政產(chǎn)學研用各方專家學者，共同探討云計算產(chǎn)業(yè)發(fā)展方向和未來機遇，展示云計算標準化工作重要成果。會上，百度智能云榮獲2024年度云計算標準化優(yōu)秀成員單位及2024年度全國信標委云計算標準工作組優(yōu)秀專題組單位，并成功當選“智能云服務標準工作組”組長單位。
大會還公布了《信息技術 云計算 智能云服務通用要求》測評結(jié)果，百度智能云百舸異構計算平臺(以下簡稱百舸平臺)，百度智能云千帆大模型平臺(以下簡稱千帆平臺)、百度專有云ABC Stack平臺(以下簡稱ABC Stack)順利通過測評。
大會最后，百度集團產(chǎn)品委員會聯(lián)席主席宋飛作為企業(yè)代表，分享了大模型時代云計算發(fā)展的新趨勢與新動態(tài)。
從極致彈性到極致規(guī)模：大模型時代的基礎設施升級
談及大模型時代對基礎設施的需求時，宋飛表示，大模型技術的興起引領了計算范式的深刻變革。在以 CPU 為核心的通用計算時代，計算主要依賴通用服務器，追求極致的彈性和性價比。而在大模型時代，隨著模型參數(shù)規(guī)模的快速增長，算力需求呈現(xiàn)爆發(fā)式提升。這不僅要求企業(yè)持續(xù)提升單服務器的計算密度，還需通過高效互聯(lián)構建大規(guī)模集群。目前，大模型已進入十萬卡規(guī)模的集群階段，對企業(yè)在運營、調(diào)度、機房和網(wǎng)絡等多個方面提出了高要求。企業(yè)亟需構建具備極致高密、極致互聯(lián)和極致規(guī)模特性的基礎設施。
宋飛指出，構建極致規(guī)模的基礎設施首先需要解決算力供應問題。在國內(nèi)環(huán)境下，采購英偉達的GPU常受多重限制，“一云多芯”是必然選擇。而如何在算力受限的情況下，把有限的卡聚合起來，充分利用是關鍵所在。目前，通過一系列優(yōu)化手段，在萬卡集群上，百舸已實現(xiàn)95%以上的多芯混合訓練效能。
在解決了算力供給問題后，如何確保大模型訓練的穩(wěn)定性同樣至關重要。穩(wěn)定運行要求快速發(fā)現(xiàn)和定位故障，盡量減少任務中斷時間甚至實現(xiàn)不中斷運行。針對這一挑戰(zhàn)，百舸平臺對模型訓練的穩(wěn)定性進行了全面優(yōu)化。平臺具備強大的故障診斷能力，能夠快速自動檢測導致訓練異常的節(jié)點故障，同時提供自動化容錯功能，將任務重新調(diào)度至健康節(jié)點，確保訓練順利進行。
“目前，百舸平臺已實現(xiàn)萬卡集群99.5%以上的有效訓練時長，在業(yè)內(nèi)處于領先水平。”宋飛說。
從繁瑣到高效：大模型改變AI應用落地范式
傳統(tǒng)AI應用落地時，需要針對不同的細分場景訓練專屬模型，涉及數(shù)據(jù)準備、模型訓練和場景開發(fā)等復雜流程，效率低下且容易產(chǎn)生碎片化問題。大模型時代的到來，通過利用大模型的泛化能力，只需適量的行業(yè)數(shù)據(jù)或精調(diào)處理，即可顯著提升效率，降低開發(fā)門檻與成本。
百度智能云AI與大模型平臺副總經(jīng)理施恩表示，目前企業(yè)通過大模型進行AI應用落地的路徑有三種：一種選擇是直接調(diào)用模型，也就是模型推理;第二種是模型應用效果優(yōu)化，包含了提示詞優(yōu)化、模型精調(diào)以及模型能力增強;第三種則是大模型應用開發(fā)。在這一過程中，千帆平臺從模型開發(fā)、模型服務到應用開發(fā)，為企業(yè)提供全流程支持，打通了大模型落地應用的“最后一公里”。
模型調(diào)用方面，千帆ModelBuilder提供包括文心全系列模型在內(nèi)的豐富模型，其中ERNIE 4.0 Turbo等旗艦模型適用于通用的復雜場景;ERNIE Speed Pro、ERINIE Lite Pro等主力模型，適用于垂直場景定制訓練或構建行業(yè)模型;此外，還有輕量級、垂直場景模型，分別適用于特定垂直場景調(diào)用。
模型應用效果優(yōu)化方面，千帆ModelBuilder通過準確簡練、邏輯詳盡的提示詞，以及提供模型精調(diào)全流程工具鏈，幫助企業(yè)快速實現(xiàn)效果調(diào)優(yōu)。為激發(fā)大模型推理效果，千帆ModelBuilder還預置了近300個行業(yè)場景的prompt模版以及模型精調(diào)樣板間，提供了多場景模型精調(diào)工具鏈，并通過模型蒸餾、數(shù)據(jù)飛輪等工具，幫助企業(yè)實現(xiàn)模型精調(diào)快速冷啟，持續(xù)提升模型及應用效果。
針對應用開發(fā)，千帆AppBuilder為提供企業(yè)級大模型應用開發(fā)平臺，不僅滿足企業(yè)級Agent的開發(fā)、企業(yè)級集成和安全部署，另外沉淀了工業(yè)、政務、能源等6大行業(yè)應用開發(fā)解決方案。通過千帆AppBuilder，用戶可以生成具有自主規(guī)劃能力的Agent，支持用戶自定義創(chuàng)建組件，并被Agent自動編排調(diào)用。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
