為什么說MEMS-OXC在智算場景沒有未來?

智算中心是這一輪科技革命的算力“心臟”,更是國際科技博弈的長期焦點。智算中心建設(shè)方案,一直牽動著國人的神經(jīng)。

近期,OXC光交換技術(shù)在智算場景的應(yīng)用,走進了大眾視野,這個技術(shù)及其解決方案,撐得起智算中心網(wǎng)絡(luò)嗎?

深入技術(shù)本質(zhì)、落地實踐、產(chǎn)業(yè)進程來看,恐怕都要說一句,“OXC技術(shù)在智算場景其實沒有未來”。

技術(shù)上看,OXC光交換技術(shù)在智算場景中會面臨光電協(xié)同、不支持AI任務(wù)多對多傳輸?shù)燃夹g(shù)挑戰(zhàn),很難有效解決。

實踐上看,當前業(yè)界僅谷歌一家商用MEMS-OXC設(shè)備,而谷歌TPU集群用OXC的核心目的是解決Torus拓撲的可用度問題,但網(wǎng)絡(luò)可用度的短板其實是在接入端口,OXC不解決網(wǎng)絡(luò)可用度問題,所以實際上跟自動配線架沒有本質(zhì)區(qū)別。

產(chǎn)業(yè)上看,谷歌商用OXC全球僅此一家,根據(jù)LightCounting預(yù)測,到2029年OXC的全球市場空間約為5億美元,其中大部分是谷歌,產(chǎn)業(yè)規(guī)模僅為電交換的二十分之一。

綜合上述維度,不難得出結(jié)論,OXC技術(shù)在智算場景中只是配線架,無法真的規(guī)?;涞?,也支撐不了超萬卡集群智算中心網(wǎng)絡(luò)。

接下來咱們就從技術(shù)的起點到產(chǎn)業(yè)的終點,全面掀開智算場景MEMS-OXC的面紗。

簡單來說,OXC光交換技術(shù)就是在不同的光路徑之間進行光信號交換。技術(shù)路徑包括MEMS、DLC、和DLBS。其中,MEMS技術(shù)是目前最主流的方案,MEMS-OXC設(shè)備也是目前唯一被谷歌這一家所商用的。

但在超萬卡集群的智算中心網(wǎng)絡(luò)中,MEMS-OXC發(fā)揮的作用其實就是配線架。

我們先來看看,智算中心組網(wǎng)是怎么實現(xiàn)的。ODCC(開放數(shù)據(jù)中心委員會)發(fā)布的《AI數(shù)據(jù)中心網(wǎng)絡(luò)建網(wǎng)》報告提到,AI參數(shù)面網(wǎng)絡(luò)有兩層Spine—Leaf,以及三層CLOS架構(gòu)組網(wǎng),而在AI集群組網(wǎng)實踐中,通過三層組網(wǎng)達到十萬卡以上的組網(wǎng)規(guī)模。

目前,Meta、OpenAI、微軟等AI巨頭,都是通過從兩層向三層擴展的組網(wǎng)模式,去構(gòu)建超大規(guī)模集群的,也就是在Leaf層、Spine層之外增加Core層。其中,兩層組網(wǎng)使用的是電交換機。比如目前業(yè)界唯一的OXC商用實踐——谷歌也采用的是光電混合架構(gòu)。

可以看到,智算中心網(wǎng)絡(luò)如果采用兩層組網(wǎng),不需要OXC;如果是三層組網(wǎng),MEMS -OXC設(shè)備在Core層主要發(fā)揮的作用是靈活配線,與自動配線架沒有本質(zhì)區(qū)別。

引入MEMS-OXC,不僅無法給網(wǎng)絡(luò)帶來增益,還可能制造出額外的問題:

首先,光電協(xié)同問題。

如果在第三層引入OXC光交換機,但數(shù)據(jù)中心網(wǎng)絡(luò)底層用的還是電交換機,這就需要光電之間的協(xié)同、通信、配合,對整個數(shù)據(jù)中心網(wǎng)絡(luò)的沖擊是比較大的。

舉個例子,OXC技術(shù)有靈活切換的特征,但對于整網(wǎng)來說,光交換機一會兒連通、一會兒斷開,這就需要整個接入層和Spine層,都要隨之進行策略調(diào)整。

試想一下,智算場景下的大模型訓練大多采用并行訓練,業(yè)務(wù)流隨時變化,如果數(shù)據(jù)中心網(wǎng)絡(luò)隨時隨地在進行秒級調(diào)整,那訓練的可靠性就很難保證了。任何一個大模型研發(fā)團隊,恐怕都無法接受訓練的高頻中斷。

其次,OXC與AI業(yè)務(wù)的適配問題。

OXC光交換技術(shù)是不支持多對多通信的,只能進行純物理的轉(zhuǎn)發(fā)。而在智算場景中,AI任務(wù)是有很多算法和算子的,不同算法的通信模式都不太一樣,可能需要一對多、多對一、多對多等多種轉(zhuǎn)發(fā)方式。這些算法的高效通信,OXC技術(shù)就很難滿足,導致相關(guān)智算業(yè)務(wù)無法開展。

第三大問題,就是OXC的耗能問題。

OXC光交換機的插損很大,也就是信號在光折射的過程中產(chǎn)生了衰減。那么為了彌補OXC的插損,就不得不采用更大功率或更長距離的光模塊,這又會導致能耗上升。此外,插損問題,還會導致光模塊速率無法演進。

由于上述問題的存在,智算中心結(jié)合插損、功耗等多方面進行考量,算一筆綜合賬,就會發(fā)現(xiàn)MEMS-OXC設(shè)備還不如自動配線架。

MEMS-OXC不如自動配線架的另一個關(guān)鍵因素,就是商用前景。

我們知道,一項新技術(shù)都必須在商業(yè)市場中完成閉環(huán),能夠通過使用來回收投資,才能吸引基礎(chǔ)設(shè)施的進一步投入,形成良性循環(huán)。而OXC技術(shù)的產(chǎn)業(yè)化,良性商業(yè)閉環(huán)是很難的。

最首要的制約,是成本。

OXC技術(shù)的落地需要光交換機的大量使用,并且所有的相關(guān)器件如光模塊都需要進行升級,這會導致前期投資巨大,綜合成本高。

ODCC(開放數(shù)據(jù)中心委員會)在《AI網(wǎng)絡(luò)光交換機技術(shù)報告》中提出,考慮到網(wǎng)絡(luò)系統(tǒng)和OCS(光交換機)本身的挑戰(zhàn),從端口數(shù)量需求、切換時間需求、低成本、高可靠性、拓撲易于管理等維度分析,光交換機還需要優(yōu)化設(shè)計以降低插損和回波損耗,以及探索與電交換機組網(wǎng)方案來降低成本等。

而上述投資,都需要從產(chǎn)業(yè)用戶身上完成商業(yè)回報。但如前所說,受限于光交換技術(shù)本身的瓶頸,許多AI任務(wù)及場景是短期內(nèi)難以落地的,這就導致OXC的商業(yè)不確定性強。

這樣綜合考慮下來,就導致業(yè)界落地OXC的步伐明顯冷靜,基本處于觀望狀態(tài)。

技術(shù)不是生存在真空之中的,是寄生在人才、資金、產(chǎn)業(yè)、實體經(jīng)濟等多重因素的現(xiàn)實中。

中國智算產(chǎn)業(yè)仍處于追趕階段,資源、人才等都相對不足,既要把握發(fā)展前景與機遇,也要面對當下生存、商業(yè)的現(xiàn)實挑戰(zhàn),甚至有的還要處理歷史遺留問題。

這種情況下,如果國內(nèi)智算產(chǎn)業(yè)將寶貴的資源,投入并不適合用來組網(wǎng)的OXC身上,可能會導致一系列連鎖反應(yīng)。

比如產(chǎn)業(yè)資源的分散,智算中心建設(shè)昂貴,而在組網(wǎng)規(guī)模、插損、功耗、成本等方面都沒有優(yōu)勢的OXC設(shè)備,意味著低效投資,降低科技企業(yè)的抗風險能力。

MEMS-OXC設(shè)備在智算集群中的落地效果并不顯著,解決不了網(wǎng)絡(luò)可用度問題,引入OXC會影響到AI算力的傳輸與供給,進而阻礙AI訓練、AI推理等業(yè)務(wù)的韌性開展。

更需要警惕的是,對OXC路線的炒作,可能導致國內(nèi)智算錯過對其他技術(shù)路線的探索,由此帶來的機會成本,是無法估量的。

所以,只能作為自動配線架的OXC,并不適合成為智算中心組網(wǎng)的選擇,在智算場景沒有未來。眼下,中國智算產(chǎn)業(yè)真正該做的,是把自身在成熟交換技術(shù)、現(xiàn)有寶貴資源、產(chǎn)業(yè)智能化機遇等方面的核心優(yōu)勢,進一步發(fā)揮好。

免責聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2024-11-16
為什么說MEMS-OXC在智算場景沒有未來?
為什么說MEMS-OXC在智算場景沒有未來?

長按掃碼 閱讀全文