觀察員
-
華為將首次展出“算力核彈”真機
觀察者網(wǎng)獲悉，本次世界人工智能大會（WAIC），華為將首次線下展出昇騰384超節(jié)點真機。
隨著大模型訓(xùn)練和推理對算力需求的爆炸式增長，傳統(tǒng)計算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。華為昇騰384超節(jié)點，首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián)，形成一臺超級“AI服務(wù)器”，單卡推理吞吐量躍升到2300 Tokens/s。
在高速互聯(lián)總線聯(lián)接下，昇騰384超節(jié)點共由12個計算柜和4個總線柜構(gòu)成，是目前業(yè)界最大規(guī)模的超節(jié)點，算力總規(guī)模達300Pflops，是英偉達NVL72的1.7倍；網(wǎng)絡(luò)互聯(lián)總帶寬達269TB/s，比英偉達NVL72提升107%；內(nèi)存總帶寬達1229TB/s，比英偉達NVL72提升113%。 更重要的是，通過最佳負載均衡組網(wǎng)等方案，昇騰超節(jié)點還能進一步擴展為包含數(shù)萬卡的Atlas 900 SuperCluster超節(jié)點集群，未來可以支撐更大規(guī)模的模型演進。
并且，超節(jié)點架構(gòu)還能更好地支持混合專家MoE大模型的推理，可以實現(xiàn)“一卡一專家”，一個超節(jié)點可以支持384個專家并行推理，極大提升效率。同時，超節(jié)點還可以支持“一卡一算力任務(wù)”，靈活分配資源，提升任務(wù)并行處理，減少等待，將算力有效使用率（MFU）提升50%以上。
本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
標(biāo)簽 華為云- 責(zé)任編輯: 胡嘉燁
-
“雪糕刺客”鐘薛高：從高端狂飆到破產(chǎn)收場
2025-07-18 14:57 觀網(wǎng)財經(jīng)-消費 -
華住躋身全球酒店集團排行榜第四
2025-07-18 14:55 觀網(wǎng)財經(jīng)-消費 -
當(dāng)布鞋首富人設(shè)崩塌——宗慶后遺產(chǎn)風(fēng)波中的時代鏡像
2025-07-18 14:36 觀網(wǎng)財經(jīng)-消費 -
光刻機巨頭二季度業(yè)績超預(yù)期，2026年恐難實現(xiàn)增長
2025-07-18 12:55 觀網(wǎng)財經(jīng)-科創(chuàng) -
直播：TOYCITY首個Ai陪伴玩偶全球首發(fā)
2025-07-18 12:38 觀網(wǎng)財經(jīng)-科創(chuàng) -
財經(jīng)點評：“不想卷，不怕卷”的美團，要學(xué)學(xué)軟實力
2025-07-18 12:07 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
“飛書認(rèn)證”成招聘新門檻？企業(yè)數(shù)字化催生人才要求變化
2025-07-18 12:06 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
美團宣布將在全國落地養(yǎng)老保險，預(yù)計覆蓋超過百萬騎手
2025-07-18 12:06 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
迪卡儂試衣間門縫驚現(xiàn)攝像頭
2025-07-18 10:59 觀網(wǎng)財經(jīng)-消費 -
臺積電單季凈利潤近千億，稱美國解禁H20是好消息
2025-07-18 10:15 觀網(wǎng)財經(jīng)-科創(chuàng) -
黃仁勛有意再來鏈博會；蘋果申請自研芯片C1商標(biāo)；我國發(fā)現(xiàn)新稀土
2025-07-18 08:42 -
“今年中國的投資數(shù)據(jù)，令人驚訝”
2025-07-17 23:52 -
上半年凈利跌超九成的酒鬼酒，胖東來能帶得動嗎？
2025-07-17 17:53 觀網(wǎng)財經(jīng)-消費 -
3年多虧掉3億多，“紅棗第一股”好想你上半年還是沒扭虧
2025-07-17 16:47 -
“華爾街收購之王”接近拿下“國潮汽水”大窯
2025-07-17 14:20 觀網(wǎng)財經(jīng)-消費 -
上海：打造RISC-V產(chǎn)業(yè)集聚區(qū)
2025-07-17 11:32 觀網(wǎng)財經(jīng)-科創(chuàng) -
黃仁勛稱被華為AI芯片取代只是時間問題；MiniMax秘密提交在港IPO；
2025-07-17 08:48 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
賣的越多、賺的更少？水井坊上半年凈利潤“腰斬”
2025-07-16 21:42 觀網(wǎng)財經(jīng)-消費 -
“關(guān)稅大棒”揮向巴西，咖啡商：傷害的是美國企業(yè)
2025-07-16 19:57 觀網(wǎng)財經(jīng)-消費 -
蘋果5億美元押注美國唯一稀土商
2025-07-16 18:13 觀網(wǎng)財經(jīng)-科創(chuàng)
相關(guān)推薦 -
最新聞 Hot
-
卡塔爾發(fā)聲
-
“他利用首相之位，賺得盆滿缽滿”
-
以軍襲擊卡塔爾首都：目標(biāo)哈馬斯高層
-
尼泊爾前總理妻子在住所內(nèi)遭縱火身亡
-
“美國給了跟日本一樣的版本，我們不能簽”
-
總理辭職、政府大樓被燒……尼泊爾發(fā)生了什么？
-
“大多數(shù)韓國人都無法抑制憤怒之情”
-
李在明再批韓國反華集會：要考慮制裁
-
尼泊爾抗議致19人死，總理辭職
-
默多克家族繼承之戰(zhàn)落幕，?？怂箷Ｊ貑幔?/a>
-
“他們把歐盟當(dāng)出氣筒”，馮德萊恩能扛住嗎？
-
菲大使：購買美國戰(zhàn)斗機的計劃被擱置，資金是個問題
-
馬克龍與法國第五共和，“危”
-
中國科技強社科弱？歐盟外長被嘲：又文盲了
-
他信被判重新服刑1年，佩通坦發(fā)聲
-
被迫眾籌搞研究，頂尖華裔數(shù)學(xué)家：要失去對美國信心了
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報鏈接
- 舉報制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號
增值電信業(yè)務(wù)經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網(wǎng)安備 31010502000027號
中國互聯(lián)網(wǎng)舉報中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報中心
