成人免费午夜在线观看,伊人久久精品,一区二区三区精品

當AI算力競賽進入“系統(tǒng)級對決”時代，單卡性能的“摩爾定律神話”正被架構(gòu)革命重構(gòu)。在美國對華芯片制裁持續(xù)加壓的背景下，華為昇騰CLoudMatrix 384超節(jié)點的橫空出世，不僅以300PFlops算力規(guī)模反超英偉達旗艦系統(tǒng)NVL72達70%，更揭示出一條破局之路——用“全對等架構(gòu)”打破傳統(tǒng)算力枷鎖，以光通信技術(shù)跨越“內(nèi)存墻”與“通信墻”。

黃仁勛的焦慮印證了行業(yè)變局：中國AI算力生態(tài)正從“單點突圍”轉(zhuǎn)向“系統(tǒng)升維”。華為通過計算-存儲-網(wǎng)絡(luò)協(xié)同創(chuàng)新，將國產(chǎn)昇騰芯片的集群效能推向極致，其高速互聯(lián)總線與萬卡級擴展能力，直指大模型訓(xùn)練的核心痛點。更深遠的意義在于，昇騰CLoudMatrix 384超節(jié)點支撐的準萬億盤古Ultra MoE模型訓(xùn)練與DeepSeek推理實踐，驗證了國產(chǎn)算力全鏈條自主的可能，而光通信等傳統(tǒng)優(yōu)勢技術(shù)的跨域復(fù)用，凸顯中國在系統(tǒng)級創(chuàng)新中的獨特路徑。

這場“超節(jié)點之戰(zhàn)”的本質(zhì)，是算力范式從硬件堆砌到架構(gòu)重定義的變革。當制裁倒逼出“用數(shù)學補物理”、“用非摩爾補摩爾”等顛覆性思維，全球AI競賽的決勝點，已悄然落在誰能以系統(tǒng)工程彌合單點技術(shù)代差，而這恰是中國企業(yè)被逼出的生存智慧。

黃仁勛越來越焦慮

關(guān)注AI產(chǎn)業(yè)發(fā)展的都能感受到，掌舵英偉達“算力帝國”的黃仁勛，最近越來越焦慮了，開始頻繁地提起“中國”和“華為”。

“中國做得太棒了，全球50%的人工智能研究人員都是中國人，你無法阻止他們，也無法阻止他們推進人工智能的發(fā)展。如果有人以為，一招就能切斷中國發(fā)展人工智能的能力，那他絕對是無知的。”黃仁勛近期在臺北電腦展上表示。

5月19日，英偉達CEO黃仁勛在臺北電腦展上發(fā)表演講 圖自臺媒

今年4月，美國政府再度對英偉達中國“特供版”芯片H20發(fā)出禁令。公告一出，黃仁勛立刻把皮衣?lián)Q成西裝，飛往中國，這是他3個月里第二次來華。在與政府官員的會面中，黃仁勛多次強調(diào)中國市場的重要性，表示希望繼續(xù)與中國合作。

最新禁令，導(dǎo)致英偉達計提了55億美元的庫存損失，令黃仁勛“深感痛苦”。

事實上，如果僅僅是數(shù)十億美元的損失，對英偉達并不算“傷筋動骨”。這家市值超過3萬億美元的巨頭，在AI風口下賺得盆滿缽滿，2025財年收入達到了1305億美元，同比增長114%；凈利潤達到729億美元，同比增長145%；毛利率達到驚人的75%。

真正讓黃仁勛感到焦慮的，是中國自主技術(shù)正在美國禁令逼迫下快速突圍。在英偉達的關(guān)鍵護城河中，不僅有GPU這種硬件，還有并行計算平臺和編程模型CUDA，以及高速互聯(lián)技術(shù)NVLink。在單點競爭上，中國企業(yè)可能很難撼動英偉達地位，但系統(tǒng)競爭并不一定。

近期，華為對外詳細介紹了昇騰CLoudMatrix 384超節(jié)點技術(shù)，該技術(shù)使用國產(chǎn)昇騰芯片，在算力規(guī)模、訓(xùn)推效率和可靠性等關(guān)鍵維度上，全面超越了英偉達最強的NVL72系統(tǒng)。其中的核心在于，華為跳出了單卡算力的競爭，通過計算、存儲、網(wǎng)絡(luò)和架構(gòu)的協(xié)同創(chuàng)新，彌補了硬件和芯片工藝的局限性，最大化發(fā)揮了芯片和系統(tǒng)能力。

中國建立了替代英偉達的方案，才是黃仁勛最擔心的。這不僅可能導(dǎo)致該公司在中國遭受永久性損失，更可能動搖其“算力帝國”的統(tǒng)治根基。他喊話美國政府：贏得開發(fā)者的平臺才能最終獲勝，出口管制應(yīng)該強化美國平臺，而不是迫使全球一半的AI人才流向競爭對手。

看到中國再度突破，美國政客其實也很著急，但他們顯然忽視了黃仁勛放寬管制的呼聲。在嚴格限制英偉達對華出口的同時，美商務(wù)部最近還試圖在全球封殺華為昇騰芯片，同時逼迫EDA巨頭對華斷供。但就像黃仁勛說的，這樣只會激活中國企業(yè)絕處逢生的能力。

就在今年4月，美國對華斷供H20之際，華為云率先在蕪湖商用了CLoudMatrix 384超節(jié)點，隨后又在貴安和烏蘭察布等地商用，內(nèi)部人士將其稱為“核彈級創(chuàng)新”，今年上半年還將有數(shù)萬卡規(guī)模上線，目標是“徹底終結(jié)行業(yè)算力焦慮”。而近日華為再度重磅宣布，已經(jīng)成功在昇騰平臺上實現(xiàn)了準萬億MoE模型的全流程訓(xùn)練，集群訓(xùn)練系統(tǒng)的性能上實現(xiàn)了業(yè)界領(lǐng)先，進一步驗證了國產(chǎn)AI基礎(chǔ)設(shè)施的自主創(chuàng)新能力。

圖源：觀察者網(wǎng)

“四年前，英偉達在中國的市場份額高達95%，如今只有50%。如果我們不在中國競爭，而是讓中國開發(fā)出新的平臺，建立一個豐富的生態(tài)系統(tǒng)，并且它們不是美國的，在世界推廣人工智能技術(shù)的時候，他們的技術(shù)和領(lǐng)導(dǎo)力將會傳播到世界各地?！辈浑y看出，黃仁勛的焦慮感正越來越重，但美國政客仍在一意孤行，行業(yè)對老黃說辭也逐步失去了新鮮感。

現(xiàn)在更令人感興趣的是，華為是如何在沒有先進工藝的情況下，用超節(jié)點反超英偉達的？

華為造出“算力核彈”

電影《橫空出世》中有這樣一個片段，西北核基地總指揮馮石與海外歸國的專家陸光達，在戈壁灘上聊天，馮石講述了多年以前的經(jīng)歷：“在朝鮮戰(zhàn)場上，我們抓了一個美軍俘虜，一個小小的下士，竟敢在我面前，大聲喊叫著，扔個原子彈讓我們嘗嘗，給我們做外科手術(shù)。”

“武器落后，受氣啊?？杀M管這樣，咱們屈服了嗎？”馮石激動地說道。

在那個年代，蘇聯(lián)在沒有任何征兆的情況下突然中斷協(xié)議，撤走所有提供技術(shù)援助的專家，美國則對華實行技術(shù)封鎖。電影畫面顯示，在缺乏計算機支持的情況下，我方專家決定采取人海戰(zhàn)術(shù)，通過晝夜不停地打算盤，最終在一年多的時間里算出答案，助力原子彈研發(fā)。

《橫空出世》劇照

60年過去，美國依然試圖通過技術(shù)封鎖的手段，阻礙中國AI產(chǎn)業(yè)發(fā)展，這確實給中國帶來了算力焦慮，畢竟大模型的Scaling Law（尺度定律）依然有效，越多的參數(shù)和數(shù)據(jù)，就能帶來越強的性能和智能，這勢必會導(dǎo)致對算力、顯存和帶寬的需求指數(shù)級增長。

但即便芯片制造工藝短期無法趕上，中國也并非束手無策。隨著模型規(guī)模越來越龐大，單卡算力優(yōu)勢相對弱化，集群化、系統(tǒng)化的算力方案是大勢所趨，這對中國是挑戰(zhàn)更是機遇。

制裁重壓下，華為技術(shù)團隊提出了“用數(shù)學補物理”、“非摩爾定律補摩爾定律”、“用系統(tǒng)補單點”等核心思想：基于實際可獲得的芯片制造工藝，計算、存儲和網(wǎng)絡(luò)技術(shù)協(xié)同創(chuàng)新，開創(chuàng)計算架構(gòu)，打造“超節(jié)點+集群”系統(tǒng)算力解決方案，長期持續(xù)滿足算力需求。

2022年下半年，“身處暴風雨中”的華為啟動超節(jié)點研發(fā)，項目涉及海思、計算和云等多個業(yè)務(wù)團隊。一位項目組專家回憶道，當時64卡的方案也夠用，但華為目標是布局未來，并且準備以昇騰AI云服務(wù)的方式向行業(yè)提供算力，可以把超節(jié)點算力分開或合并，做大了沒問題，做小了可能就會很被動。經(jīng)過內(nèi)部研討，華為決定堅定投入384超節(jié)點研發(fā)。

嚴格意義上說，超節(jié)點（SuperPod）并非一個新概念，谷歌、英偉達等巨頭很早就在探索。這項技術(shù)興起的背景是，當Transformer這樣的大型神經(jīng)網(wǎng)絡(luò)模型橫空出世，對算力和顯存的需求呈爆炸式增長，單個GPU甚至單個服務(wù)器已經(jīng)難以招架，這時就需要構(gòu)建大量高速計算芯片的高效統(tǒng)一結(jié)構(gòu)，也就是超節(jié)點。相比傳統(tǒng)的計算集群，超節(jié)點不僅要把大量GPU的算力堆起來，更需要在GPU之間、服務(wù)器之間構(gòu)建超高速互聯(lián)，來降低并行計算的開銷，通過將大量GPU融為一體，提供龐大的有效AI算力，共同承擔訓(xùn)練和推理任務(wù)。

去年3月，英偉達推出了GB200 NVL72超節(jié)點。通過“內(nèi)部高速專線”NVLink，英偉達將36個Grace CPU和72個Blackwell GPU緊密集成，形成一個邏輯上的“巨型GPU”，總算力規(guī)模達到了180Pflops，網(wǎng)絡(luò)互聯(lián)總帶寬達到130TB/s，內(nèi)存總帶寬達到576TB/s。按照英偉達的說法，GB200 NVL72超節(jié)點，可以將萬億參數(shù)大模型推理速度提高30倍。

在國內(nèi)也有不少企業(yè)在探索超節(jié)點技術(shù)，像百度昆侖芯構(gòu)建的超節(jié)點，通過自研互聯(lián)通信協(xié)議XPU Link，單柜可容納32/64張昆侖芯AI加速卡，單柜內(nèi)卡間實現(xiàn)全互聯(lián)通信，帶寬提升高達8倍，一個機柜的算力最高可達到傳統(tǒng)形態(tài)下8臺8卡服務(wù)器。此外，阿里、騰訊、中國移動等巨頭，也聯(lián)合了多家軟硬件企業(yè)，發(fā)起了不同的超節(jié)點互聯(lián)開放標準。

但目前來看，使用全國產(chǎn)芯片構(gòu)建超節(jié)點，還能全面超越英偉達NVL72的，只有華為。昇騰CLoudMatrix 384超節(jié)點在高速互聯(lián)總線聯(lián)接下，共由12個計算柜和4個總線柜構(gòu)成，是目前業(yè)界最大規(guī)模的超節(jié)點，算力總規(guī)模達300Pflops，是英偉達NVL72的1.7倍；網(wǎng)絡(luò)互聯(lián)總帶寬達269TB/s，比英偉達NVL72提升107%；內(nèi)存總帶寬達1229TB/s，比英偉達NVL72提升113%。 更重要的是，通過最佳負載均衡組網(wǎng)等方案，昇騰超節(jié)點還能進一步擴展為包含數(shù)萬卡的Atlas 900 SuperCluster超節(jié)點集群，未來可以支撐更大規(guī)模的模型演進。

昇騰CLoudMatrix 384超節(jié)點結(jié)構(gòu)

昇騰CLoudMatrix 384超節(jié)點，是華為在制裁重壓下造出的一顆“算力核彈”。但對比英偉達和昇騰的方案也難免產(chǎn)生一些疑問。華為只是靠堆更多卡超越英偉達的嗎？為什么英偉達和其他企業(yè)沒有堆更多卡？相比英偉達把卡都放在一個柜子里（更傳統(tǒng)意義的超節(jié)點，Scale up），昇騰為什么能分成多個計算柜（Scale out）？構(gòu)建這樣的巨型算力系統(tǒng)，能解決哪些問題？

從堆芯片到拼架構(gòu)

超節(jié)點是華為突圍的利器，也是行業(yè)發(fā)展的必然趨勢。

面對大模型Scaling Law帶來的巨量算力需求，傳統(tǒng)解決方案是盡可能堆卡，構(gòu)建更大的算力集群，但問題是，無限制的堆卡并不能帶來算力的線性提升，反而會帶來“內(nèi)存墻”、“規(guī)模墻”和“通信墻”的問題。在計算集群內(nèi)部，如果GPU之間和服務(wù)器之間不能“有效溝通”，GPU就會因為沒有足夠數(shù)據(jù)用于計算而閑著，進而會導(dǎo)致1+1<2的結(jié)果。

過去8年間，單卡硬件算力增長了40倍，但節(jié)點內(nèi)總線帶寬只增長了9倍，跨節(jié)點的網(wǎng)絡(luò)帶寬只增長了4倍，這使得集群網(wǎng)絡(luò)通信成為當前大模型訓(xùn)練和推理的最大挑戰(zhàn)。因此如果不能提升通信效率，單純把384張昇騰卡堆起來，計算效果并不一定比72張英偉達卡更好，因為卡間和服務(wù)器間的通信開銷會抵消算力增加的收益，導(dǎo)致有效算力不升反降。

尤其是，隨著以DeepSeek為代表的MoE（混合專家模型）成為主流模型結(jié)構(gòu)，其復(fù)雜的混合并行策略帶來巨大挑戰(zhàn)，通信需求驟增，TP（張量并行）、SP（序列并行）、EP（專家并行）單次通信量高達GB級且難以掩蓋。實踐數(shù)據(jù)表明，當TP、SP或EP等分布式策略的混合并行域超過8卡時，跨機通信帶寬便成為性能瓶頸，導(dǎo)致系統(tǒng)性能大幅下降。

在這種行業(yè)趨勢下，英偉達的NVLink體現(xiàn)出更大價值，它的意義在于在GPU之間搭建了一個“超寬車道”，可以讓GPU繞開CPU直接通信?；诖?，英偉達把將多顆GPU、CPU、高速內(nèi)存、NVLink/NVSwitch等高度集成，構(gòu)建起NVL72超節(jié)點。但問題是，英偉達的NVLink只是自家GPU之間的通信協(xié)議，而節(jié)點內(nèi)還包括NPU、FPGA等非GPU異構(gòu)硬件，它們不能通過NVLink這種專線進行通信，還是需要通過效率較低的PCIe協(xié)議走CPU中轉(zhuǎn)，而節(jié)點之間的以太網(wǎng)/InfiniBand跨機互聯(lián)，在海量計算中也存在帶寬堵點。

相比于英偉達這種修補式的改進，昇騰CLoudMatrix 384超節(jié)點選擇對傳統(tǒng)計算架構(gòu)進行重構(gòu)。它的核心在于徹底打破了傳統(tǒng)以CPU為中心的馮諾依曼架構(gòu)，也就是“主從架構(gòu)”，創(chuàng)新提出了“全對等架構(gòu)”，憑借高速互聯(lián)總線的關(guān)鍵突破，把總線從服務(wù)器內(nèi)部擴展到整機柜、甚至跨機柜，最終將CPU、NPU、DPU、存儲和內(nèi)存等資源全部互聯(lián)和池化，這樣做就能去除掉繁多的中轉(zhuǎn)環(huán)節(jié)，從而實現(xiàn)真正的點對點互聯(lián)，進而實現(xiàn)更大的算力密度和互聯(lián)帶寬。

圖源：觀察者網(wǎng)

“過去數(shù)據(jù)中心都是通過CPU調(diào)度，昇騰CLoudMatrix 384超節(jié)點最核心的理念就是對等架構(gòu)、點對點通信，不用繞過第三方通信?！比A為的專家告訴觀察者網(wǎng)，在超節(jié)點范圍內(nèi)，用高速總線互聯(lián)替代傳統(tǒng)以太，通信帶寬提升了15倍；單跳通信時延也從2微秒做到200納秒，降低了10倍，利用“AI專屬高架橋”，集群可以像一臺計算機一樣工作，突破性能限制。

昇騰CLoudMatrix 384超節(jié)點之所以能大幅提升通信效率，還有一個關(guān)鍵原因，就是應(yīng)用了光通信技術(shù)，在昇騰CLoudMatrix 384超節(jié)點中，共使用了3168根光纖和6912個400G光模塊。相比之下，英偉達NVL72超節(jié)點采用的是全銅線架構(gòu)，成本、功耗低，一經(jīng)部署便保持固定狀態(tài)、相對穩(wěn)定，但缺點是只能部署2米以內(nèi)，否則通信速率會大幅衰減，因此可聯(lián)接芯片數(shù)量有限。而光模塊則有高帶寬和高速率的優(yōu)勢，損耗低，適合長距離傳輸，因而可連接更多芯片，部署靈活。

但光通信也不是全是優(yōu)勢，光模塊成本比銅線成倍提升，功耗也大幅增加，并且光纖比較脆弱，故障率較高，插口沒插緊、光纖彎了、插頭有灰，隨便一個小問題都可能斷聯(lián)。因此英偉達雖然在2022年考慮過使用光模塊連接256塊H100，但最后評估了成本和穩(wěn)定性，決定不投入生產(chǎn)，說白了還是光通信技術(shù)太難駕馭。

但對華為這種通信巨頭來說，“光模塊都玩爛了”，長期積累的光通信技術(shù)已經(jīng)實現(xiàn)國際領(lǐng)先，反而在超節(jié)點通信中構(gòu)成獨特優(yōu)勢。并且針對超節(jié)點集群容易發(fā)生故障的特征，華為云還給超節(jié)點配備了一個全科專業(yè)醫(yī)生——昇騰云腦，主要包含“1-3-10”標準：第一步，1分鐘內(nèi)能感知故障，立刻發(fā)現(xiàn)問題不對勁；第二步，3分鐘內(nèi)精準定位問題，找到病根；第三步，10分鐘內(nèi)恢復(fù)，快速修復(fù)或者讓系統(tǒng)繼續(xù)運行。

國產(chǎn)算力也能煉出頂級大模型

昇騰CLoudMatrix 384超節(jié)點的橫空出世，在國內(nèi)還未出圈，就已在國外引發(fā)大量關(guān)注。

海外知名分析機構(gòu)SemiAnalysis在一篇報告中指出，華為芯片落后一代，但其擴展解決方案比英偉達和AMD目前在售產(chǎn)品領(lǐng)先一代?；跁N騰芯片打造的華為云CloudMatrix 384超節(jié)點，可與英偉達的GB200 NVL72直接競爭，并且在某些指標上比英偉達的機架級解決方案更為先進，其工程優(yōu)勢體現(xiàn)在系統(tǒng)層面，涵蓋了網(wǎng)絡(luò)、光通信和軟件。

就連黃仁勛也公開承認被華為超越：“從技術(shù)參數(shù)看，華為的CloudMatrix 384超節(jié)點，性能上甚至超越了英偉達，比英偉達的尖端技術(shù)更具優(yōu)勢，因此我們必須高度重視這家實力雄厚的公司，全力以赴應(yīng)對挑戰(zhàn)。華為已明確表態(tài)要融合5G與AI技術(shù)，這種布局極具前瞻性，是完全正確的戰(zhàn)略方向。我們也在推進同樣的計劃，但必須加快步伐?！?/strong>