7月5日，2024世界人工智能大會期間，中國電信星辰人工智能生態(tài)論壇在上海世博中心啟幕。論壇以“星辰注智，煥新領航”為主題，圍繞人工智能技術發(fā)展趨勢，分享中國電信與產業(yè)各界在人工智能領域的創(chuàng)新與實踐。天翼云科技有限公司董事長、總經理胡志強出席，并發(fā)表演講《云智一體 國云煥新》。他表示，人工智能已成為新一輪科技革命和產業(yè)變革的核心驅動力量。天翼云堅持科技創(chuàng)新驅動高質量發(fā)展，以豐富的智算資源供給、強大的智算服務能力和開放的模型應用生態(tài)，為數字經濟發(fā)展注入新動能。
在智算資源供給方面，天翼云自建了豐富、多樣化的智能算力資源。圍繞AI產業(yè)集聚地區(qū)，天翼云規(guī)劃建設北京、上海、廣東、浙江、安徽人工智能公共算力中心，提供訓推一體化能力，并先后建成上海、北京萬卡池，這也是全國最早建成并真正投產運行的兩個國產化、全液冷、單集群萬卡公共智算中心;在清潔能源集聚地，建設內蒙、貴州、寧夏智算中心，提供綠色算力;此外，天翼云還在31省預部署AI云電腦和推理池，在280多個地市的一城一池節(jié)點和1000多個邊緣節(jié)點按需下沉AI云電腦算力和推理算力;提供國內外主流的GPU、NPU算力方案，面向不同場景為用戶提供公有云、私有云、邊緣云多種形態(tài)服務。
另一方面，天翼云匯聚社會多方算力，通過高效調度實現算力供需匹配。天翼云重點研發(fā)算力分發(fā)網絡平臺“息壤”，從算力統(tǒng)一接入、算數網一體化調度、算力簡便易用三方面進行技術創(chuàng)新，實現裸算力云化接入、算力更泛在、算力選擇和應用部署更簡單，促進算力互聯(lián)互通、高效利用、供需匹配。
基于此，息壤可賦能三大算力服務場景。一是天翼云自營的公共算力服務平臺，目前已接入多家算力伙伴，擴大了天翼云算力規(guī)模和品類，滿足公有云客戶的多元算力需求;二是行業(yè)算力互聯(lián)網，如國資央企智算云管理調度平臺，接入多家央企算力，提高國資監(jiān)管水平，提升算力利用率;三是城市算力互聯(lián)網，通過整合區(qū)域內多方算力，結合產業(yè)政策，實現一體化統(tǒng)籌調度算力，目前已在多個區(qū)域成功實踐。
當前，基礎大模型訓練呈現參數越來越大的趨勢，在超大規(guī)模參數的基礎大模型開發(fā)訓練場景中，對AI基礎設施的算力、性能、穩(wěn)定性都提出了更高要求。天翼云基于單集群萬卡智算中心，搭載一體化計算加速平臺云驍和一站式智算服務平臺慧聚，從基礎設施到平臺，構建了基礎大模型訓練解決方案。
在大算力需求方面，天翼云建設了可橫向擴展的PB級HPFS，滿足存儲要求;組建了低延時的超大規(guī)模RDMA網絡，滿足基礎算力需求;同時，通過計算、內存、通信多維優(yōu)化，提升綜合算效。在性能方面，天翼云升級AI框架，編譯效率翻番，通過拓撲感知調度，集合通信效率提升顯著，多種加速優(yōu)化后將國產算力的綜合算效比提升到了行業(yè)可比水平。在穩(wěn)定性方面，故障訓前發(fā)現，結合斷點續(xù)訓能力，實現訓練任務長期穩(wěn)定、高可用運行。
構建國產萬卡集群不是一萬張卡的簡單堆疊，而是一項高度復雜的系統(tǒng)工程，需要解決超大規(guī)模的組網互聯(lián)、高效率的集群計算、長期穩(wěn)定性和高可用性等眾多技術難題。天翼云基于國產萬卡智算集群和自研智算平臺，已具備支撐萬億參數基礎大模型訓練的能力。
在行業(yè)大模型訓推過程中，普遍存在著訓練部署工程化復雜、訓推效率有待提高、訓練中斷頻繁等挑戰(zhàn)。面向行業(yè)大模型訓推場景，天翼云提供一站式智算服務。其中，“慧聚”平臺預置行業(yè)數據集、納管國內外主流AI加速硬件、并預置基于國產算力的基礎大模型等全棧工具鏈能力，大模型精調場景通過選數據、選硬件、選模型3步，即可實現大模型訓推;通過自研AI框架、3D并行加速、自研訓練加速庫、容器調度優(yōu)化等核心技術，大幅提升訓練效率;通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術，推理效率也明顯提升;通過全鏈路故障分鐘級檢測、定位、告警，全鏈路日志監(jiān)控與可視化、斷點續(xù)訓快速恢復等核心技術，實現訓推過程全鏈路監(jiān)控。
基于技術創(chuàng)新與項目經驗沉淀，天翼云打造了全面的平臺化能力和解決方案，保障客戶高效、便捷、穩(wěn)定、安全使用智算服務。
在模型應用生態(tài)建設方面，天翼云在業(yè)界率先發(fā)布AI云電腦。AI云電腦具有算力更強大、更彈性、更安全、更優(yōu)惠的優(yōu)勢，降低大眾使用AI的門檻，加速推進AI普惠化。目前天翼AI云電腦已接入多個主流通用大模型，以及教育、醫(yī)療、法律、心理等多個行業(yè)大模型，打造AI應用中心，創(chuàng)新推出AI會議、AI低代碼、AI文檔、AI教育等場景化標桿應用，提升客戶辦公、生產效率。
此外，天翼云打造紅云大模型開發(fā)者社區(qū)，聚合本土中文優(yōu)質AI資源，加速AI應用創(chuàng)新和商業(yè)閉環(huán)。通過簡單易用的工具鏈，端到端使能AI應用開發(fā)全流程，助力孵化國產原生模型。
大會期間，天翼云攜智算創(chuàng)新成果亮相世博展覽館，展出了國內領先的單體萬卡液冷智算池、“息壤”“云驍”“慧聚”三大智算平臺、AI云電腦以及基于天翼云智算云底座的星辰大模型等硬核技術成果，全方位展現在人工智能領域的深厚實力。
人工智能正成為發(fā)展新質生產力的重要引擎，作為云服務國家隊，天翼云具有豐富的智算資源儲備、強大的智算平臺能力以及開放的模型應用生態(tài)。未來，天翼云將持續(xù)深耕技術創(chuàng)新，攜手產業(yè)各界共創(chuàng)智算未來，共贏AI時代。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
