AI第3場戰爭對決上演!反輝達聯盟正扼住AI算力的咽喉
發表於 2024-04-22 00:00 作者: 區塊鏈情報速遞pro
隨著反輝達超以太聯盟的反擊,交換機正在扼住AI算力的咽喉(法新社)
〔財經頻道/綜合報導〕從互聯網時代圽換到AI算力網時代,鮮有人知的是,時代轉折序曲中,遇到的第1批實體障礙,除了GPU、HBM,還有交換機,隨著反輝達超以太聯盟的反擊,交換機正在扼住AI算力的咽喉,AI的第3場戰爭將圍繞交換機的精彩對決即將上演。
外電報導,如果用人體結構來類比AI算力,可以做如下理解,AI晶片(由GPU+HBM+CoWoS組成)是心臟,CUDA等加速軟體是大腦,光模組是關節,線纜光纖是血管,以交換機為代表的網絡設備是咽喉。不同的設備合集,最終呈現的是整個服務器集群。
其中AI晶片、CUDA、光模組、線纜,都已經被翻來覆去的討論過無數回,成為陽謀。但令人詫異的是,為什麼交換機作為核心的組網設備之一,卻一直備受冷落,只能充當AI暗器。
而且從市場規模來看,交換機也相當之重要。根據IDC《2023年網路市場跟蹤報告》的最新數據,2023年全球網路設備市場規模為714億美元,其中交換機超過400億美元,是僅次於AI晶片、服務器的核心算力組件,規模甚至要遠大於近期被火熱討論的光模組和高速存儲HBM。
輝達執行長黃仁勳其實在公開場合也表達過交換機的核心地位。老黃曾透露,在AI整個集群投資中,InfiniBand網絡(以下均簡稱IB)約佔總成本的20%。
IB網路是輝達在子公司Mellanox的幫助下,自己搭建用在服務器之間的算力通信網路,其中所使用的核心交換機為自產的IB交換機。
既然從技術角度來看如此重要、從市場規模看也不小,怎麼交換機就始終不被大家重視呢?
最主要的原因在於交換機被成見式的認為是網路架構中配角的存在,畢竟HBM、CoWoS這些新名詞一聽就是十倍空間起跳的宏大故事。而一提交換機,大家條件反射式的想到,這不就是2000年網路泡沫時的思科的產品,還能炒嗎?
但成見已經是過去式,當下時點,勢必要重新審視對交換機、尤其是AI交換機的理解了。原因無他,各方面的信號已經非常明顯,隨便舉2個例子,1是全球龍頭企業,已經開始在新型交換機和網路架構上正面激烈交鋒。除了上面提到的輝達,其實超以太網聯盟的動作也非常之大。
2是美股投資人也開始追捧交換機標的,在最新的AI交換機中,龍頭毫無疑問是輝達的子公司Mellanox,但是由於不單獨上市和披露財務數據,看不到太多細節。第三方AI交換機的龍頭,不是思科而是後期之秀Arista Networks (ANET.US),其股價在2023年上半年第1輪AI浪潮中之中,沒跑贏納斯達克,但是自2023年底開始加速上漲,這顯示美國投資人正在重新審視它的重要性。
報導進一步分析,現在很多客戶由於只能採購輝達的GPU,已經非常被動了,因此很多企業並不情願採購IB方案,仍堅持以太網方案。對於這種客戶,輝達也可配套提供Spectrum-X系列的以太網交換機,同樣也是將依次對應從400G升級到今年的800G,再到明年的1.6T,只不過互聯效率要弱於IB方案;這幾款交換機也是由Mellanox來提供。
所以,在老黃的構想裡,如果1個超算中心是專門為AI建的,那就用最快的IB交換機方案;對於存量的以太網算力中心,如果客戶扭扭捏捏,輝達也能匹配提供以太網方案,就用Spectrum-X交換機。簡單來說,就是面向現在和未來的生意輝達全包了。
別看各大廠的老闆,求著老黃買卡是對輝達態度非常好;但實際上,對輝達恐懼在矽谷正與日俱增,大佬們都在牌桌底下熱議如何擺脫。面對輝達如此凌厲的明牌攻勢,此前一盤散沙的非輝達陣營也展示出了空前的團結。
GPU晶片和CUDA網絡,似乎壁壘過高,儘管比如GOOGLE已經死磕TPU多年,但收效甚微,更多人是選擇了躺平接受輝達在GPU上壟斷的現實,所以輝達的GPU才能毛利率高達90%以上,堪稱有史以來最暴力的硬件。
而交換協議和交換機,由於技術壁壘相對低,且處於產業變革的早期,成為眾人攻破輝達堡壘最優的一致選擇。
至此,交換機這一長久以來不被重視的網絡設備,一下子躍升爲AI算力基礎中的暗戰高地。
爲了追趕輝達IB方案,2023年7月,“超以太網聯盟”(Ultra Ethernet Consortium)正式成立,這一聯盟迅速成為各個大廠的救命稻草。英特爾、微軟、META、博通、超微、思科、Arista Networks等陸續加入。
超以太聯盟成立後,便馬上推出了RoCEv2(RDMA over Converged Ethernet)方案,在軟體層吸收了關鍵技術RDMA,劍指的方向非常明確,那就是力爭對標IB性能。
以太網的後發優勢有2個,根據產業鏈調研,1是輝達的IB方案比以太網方案貴20-30%。以太網方案可以通過主打性價比來扳回一局。
2是人多勢眾,傳統的數據中心,基本都是以太網協議,對於升級到超以太,兼容性要好得多,畢竟協議就是硬件對話的語言,用的人多自然就成了主流。
在超以太聯盟中的GPU全球老2超微,把這兩點說得更加清晰,以太網將成為AMD構建算力集群的基礎協議,因為以太網擁有更好的性能、更強大的大規模集群能力,以及最為核心的開放性,希望與頭部交換機廠商一起,降低組網成本,打造更具性價比的網絡。
也正是基於這兩點原因,不少人對於超以太網聯盟還是很有信心的,到底是以太網勝出,還是IB一統天下,最終答案只能留給時間來驗證。但不管怎麼樣,輝達與超以太聯盟的這輪對壘應該是非常精彩的,必將成為科技史上日後被人反覆提及的經典橋段。
標題:AI第3場戰爭對決上演!反輝達聯盟正扼住AI算力的咽喉
地址:https://www.coinsdeep.com/article/116218.html
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。