-
華為將首次展出“算力核彈”真機(jī)
觀察者網(wǎng)獲悉,本次世界人工智能大會(huì)(WAIC),華為將首次線下展出昇騰384超節(jié)點(diǎn)真機(jī)。
隨著大模型訓(xùn)練和推理對(duì)算力需求的爆炸式增長,傳統(tǒng)計(jì)算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。華為昇騰384超節(jié)點(diǎn),首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對(duì)等互聯(lián),形成一臺(tái)超級(jí)“AI服務(wù)器”,單卡推理吞吐量躍升到2300 Tokens/s。
在高速互聯(lián)總線聯(lián)接下,昇騰384超節(jié)點(diǎn)共由12個(gè)計(jì)算柜和4個(gè)總線柜構(gòu)成,是目前業(yè)界最大規(guī)模的超節(jié)點(diǎn),算力總規(guī)模達(dá)300Pflops,是英偉達(dá)NVL72的1.7倍;網(wǎng)絡(luò)互聯(lián)總帶寬達(dá)269TB/s,比英偉達(dá)NVL72提升107%;內(nèi)存總帶寬達(dá)1229TB/s,比英偉達(dá)NVL72提升113%。 更重要的是,通過最佳負(fù)載均衡組網(wǎng)等方案,昇騰超節(jié)點(diǎn)還能進(jìn)一步擴(kuò)展為包含數(shù)萬卡的Atlas 900 SuperCluster超節(jié)點(diǎn)集群,未來可以支撐更大規(guī)模的模型演進(jìn)。
并且,超節(jié)點(diǎn)架構(gòu)還能更好地支持混合專家MoE大模型的推理,可以實(shí)現(xiàn)“一卡一專家”,一個(gè)超節(jié)點(diǎn)可以支持384個(gè)專家并行推理,極大提升效率。同時(shí),超節(jié)點(diǎn)還可以支持“一卡一算力任務(wù)”,靈活分配資源,提升任務(wù)并行處理,減少等待,將算力有效使用率(MFU)提升50%以上。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
標(biāo)簽 華為云- 責(zé)任編輯: 胡嘉燁 
-
“雪糕刺客”鐘薛高:從高端狂飆到破產(chǎn)收?qǐng)?/a>
2025-07-18 14:57 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
華住躋身全球酒店集團(tuán)排行榜第四
2025-07-18 14:55 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
-
直播:TOYCITY首個(gè)Ai陪伴玩偶全球首發(fā)
2025-07-18 12:38 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
-
-
迪卡儂試衣間門縫驚現(xiàn)攝像頭
2025-07-18 10:59 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
臺(tái)積電單季凈利潤近千億,稱美國解禁H20是好消息
2025-07-18 10:15 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
黃仁勛有意再來鏈博會(huì);蘋果申請(qǐng)自研芯片C1商標(biāo);我國發(fā)現(xiàn)新稀土
2025-07-18 08:42 -
“今年中國的投資數(shù)據(jù),令人驚訝”
2025-07-17 23:52 -
上半年凈利跌超九成的酒鬼酒,胖東來能帶得動(dòng)嗎?
2025-07-17 17:53 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
3年多虧掉3億多,“紅棗第一股”好想你上半年還是沒扭虧
2025-07-17 16:47 -
“華爾街收購之王”接近拿下“國潮汽水”大窯
2025-07-17 14:20 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
上海:打造RISC-V產(chǎn)業(yè)集聚區(qū)
2025-07-17 11:32 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
賣的越多、賺的更少?水井坊上半年凈利潤“腰斬”
2025-07-16 21:42 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
“關(guān)稅大棒”揮向巴西,咖啡商:傷害的是美國企業(yè)
2025-07-16 19:57 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
蘋果5億美元押注美國唯一稀土商
2025-07-16 18:13 觀網(wǎng)財(cái)經(jīng)-科創(chuàng)
相關(guān)推薦 -
“跟中國比,真摳” 評(píng)論 25“這個(gè)道理,中國人想通了,如今美國人卻不懂了” 評(píng)論 76法外長反咬一口:今天向美國屈服,明天中國就來要價(jià) 評(píng)論 218“各種籌碼擺上桌”,中美科技大交易要來? 評(píng)論 183加州州長跳腳:特朗普這是把未來交給中國,休想 評(píng)論 169最新聞 Hot
-
加州狀告特朗普政府:跟中國比,真摳
-
“這個(gè)道理,中國人想通了,如今美國人卻不懂了”
-
五角大樓東施效顰“中國模式”,國內(nèi)先掐起來了
-
法外長反咬一口:今天向美國屈服,明天中國就來要價(jià)
-
“原本我沒想唱《秋意濃》”
-
緊咬不放……美媒扒出了他寫給他的小黃文
-
“星際訪客”新圖像公布,天文學(xué)家:可能比太陽系更古老
-
可口可樂婉拒特朗普,百事:它不改,我改
-
“美盟友悟了:不學(xué)中國發(fā)威,特朗普真當(dāng)我Kitty貓…”
-
“真和中國撕破臉,誰‘遏制’誰還真說不好”
-
盧拉再懟特朗普:沒有哪個(gè)外國人能對(duì)巴西總統(tǒng)發(fā)號(hào)施令
-
金建希被疑收受來源“統(tǒng)一教”賄賂
-
5月美債加拿大購買量激增,中國持有量“三連降”
-
特朗普又對(duì)華下黑手!特斯拉:可美國造不出來啊
-
劉慧被查,系今年落馬的第6位正部級(jí)
-
埃爾多安:土耳其不允許敘利亞遭分裂
快訊- 豪華列車新“卷王”?穿行中越間,它要讓游客沉浸式體驗(yàn)“在路上”
- 楊議直播談父親楊少華遺產(chǎn)分配:遺產(chǎn)四個(gè)億,哥四個(gè)一人一億
- 業(yè)績連續(xù)承壓,傳音發(fā)布全球最薄三折疊手機(jī)
- 中國5G基站總數(shù)達(dá)455萬個(gè),智能算力規(guī)模達(dá)748 EFLOPS
- 從LOGO到包裝全面模仿,幸貓咖啡因侵權(quán)被判賠償瑞幸500萬
- 工信部:倉頡編程語言等加速發(fā)展,搭載開源鴻蒙的產(chǎn)品超11.9億臺(tái)
- “測繪局”在千年佛像上刻字?多方回應(yīng)
- 杭州余杭水務(wù)回應(yīng)自來水異味:苕溪原水異常
-