-
英偉達:創(chuàng)造DeepSeek-R1推理性能世界紀錄
-
湯普濟我在看著你
最后更新: 2025-03-19 12:41:25(文/湯普濟 編輯/呂棟)
當?shù)貢r間3月18日,英偉達CEO黃仁勛于GTC AI大會上發(fā)表演講,發(fā)布最新一代Blackwell Ultra GPU(GB300)。同日, 英偉達官方博客發(fā)布文章,宣布利用Blackwell架構(gòu)GPU實現(xiàn)DeepSeek-R1模型推理性能的世界紀錄。
英偉達此次利用單個配備八塊Blackwell架構(gòu)B200 GPU的英偉達DGX系統(tǒng),在英偉達評價為“超大規(guī)模、最先進的”DeepSeek-R1模型上,實現(xiàn)每用戶每秒可處理超過250個token的性能,或每秒最大吞吐量超過30000個token。
NVIDIA
英偉達于2025年1月30日在面向開發(fā)者的網(wǎng)站上發(fā)布NVIDIA NIM微服務(wù)版的DeepSeek,之后,英偉達不斷通過優(yōu)化推理生態(tài),刷新DeepSeek-R1模型的吞吐量。英偉達聲稱,自1月以來,DeepSeek-R1 671B模型的吞吐量已被提高了約36倍,相當于每token的成本降低了約32倍。
同時,英偉達聲稱,紀錄還將隨著Blackwell Ultra GPU和 Blackwell GPU在推理性能上的突破刷新。
據(jù)悉,英偉達此次發(fā)布的GB300是全球首個288GB HBM3E GPU,F(xiàn)P4推理性能可達去年發(fā)布的GB200的1.5倍,峰值可達15PFLOPS。將在2025年下半年出貨。
英偉達還預(yù)覽了下一代AI超級芯片——Vera Rubin,由Rubin GPU和Vera CPU組成。Vera CPU擁有88個定制Arm核心、176個線程。Rubin由兩塊掩模尺寸的GPU組成,擁有288GB HBM4內(nèi)存,F(xiàn)P4峰值推理能力可達50PFLOPS,相比GB300,整體性能可達3.3倍。
此外,英偉達還發(fā)布了用于加速AI模型推理的分布式推理服務(wù)庫NVIDIA Dyamo,據(jù)稱,在GB200 NVL72架構(gòu)上運行Dyamo推理,能使DeepSeek-R1模型的吞吐量提升30倍。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 湯普濟 
-
英偉達宣布合作開發(fā)AI原生6G
2025-03-19 12:11 觀網(wǎng)財經(jīng)-科創(chuàng) -
手機汽車家電均不愁賣,小米去年營收3659億創(chuàng)新高
2025-03-19 07:38 觀網(wǎng)財經(jīng)-科創(chuàng) -
四川省長施小琳會見孟晚舟
2025-03-18 22:58 觀網(wǎng)財經(jīng)-科創(chuàng) -
徐少春:金蝶云轉(zhuǎn)型已經(jīng)成功,下一個目標是AI轉(zhuǎn)型
2025-03-18 22:48 觀網(wǎng)財經(jīng)-科創(chuàng) -
格力地產(chǎn):證券簡稱擬變更為“珠免集團”
2025-03-18 22:30 -
特步2024年凈賺12億,創(chuàng)歷史新高
2025-03-18 19:53 觀網(wǎng)財經(jīng)-消費 -
茶咖日報|蜜雪冰城新規(guī)檸檬不能過夜?部分門店已改24小時營業(yè)
2025-03-18 19:52 觀網(wǎng)財經(jīng)-消費 -
永輝超市或閉店350家!葉國富成立改革小組,原創(chuàng)始人投下反對票
2025-03-18 18:03 觀網(wǎng)財經(jīng)-消費 -
緩解育兒焦慮,梁建章建議推廣“共享爺爺奶奶”模式
2025-03-18 17:57 產(chǎn)業(yè)萬象 -
滴滴四季度訂單同比增長14.8%,中國出行日均3530萬單
2025-03-18 17:26 今日財經(jīng) -
“無法抵抗SHEIN和Temu”,美國知名快時尚品牌又要破產(chǎn)了?
2025-03-18 17:06 觀網(wǎng)財經(jīng)-消費 -
小米智能家電工廠將于下半年交付,最先量產(chǎn)空調(diào)
2025-03-18 16:51 觀網(wǎng)財經(jīng)-科創(chuàng) -
蘋果在iPad側(cè)面印上“中國制造”
2025-03-18 15:55 觀網(wǎng)財經(jīng)-科創(chuàng) -
美的人形機器人曝光:可能先在工業(yè)、商業(yè)場景得到應(yīng)用
2025-03-18 15:43 觀網(wǎng)財經(jīng)-科創(chuàng) -
華為被曝正測試原生磁吸無線充電
2025-03-18 14:36 觀網(wǎng)財經(jīng)-科創(chuàng) -
蘋果計劃在印度生產(chǎn)耳機,僅供出口
2025-03-18 14:31 觀網(wǎng)財經(jīng)-科創(chuàng) -
SpaceX確認龍飛船已脫離國際空間站:將帶回兩名滯留宇航員
2025-03-18 14:22 觀網(wǎng)財經(jīng)-科創(chuàng) -
2月韓國芯片對華出口額同比下降31.8%
2025-03-18 14:18 觀網(wǎng)財經(jīng)-科創(chuàng) -
北美份額超50%,瓦楞紙包裝裝備龍頭破局全球化
2025-03-18 14:09 觀網(wǎng)財經(jīng)-科創(chuàng) -
李嘉誠深陷港口風(fēng)波,長和股價再“跳水”
2025-03-18 13:55
相關(guān)推薦 -
-
最新聞 Hot
-
美兩員“大將”施壓未果,日本反倒成了“難啃的骨頭”
-
白宮找補:美國很強,不信去問伊朗
-
終于換了,特朗普:我很滿意
-
何君堯:建議給皇后大道、維多利亞公園改名
-
“美國自毀長城,中企憑高性價比一路高歌猛進”
-
兩國矛盾激化,阿媒突然發(fā)文:收到匿名材料,是俄軍擊中的
-
裝不裝空調(diào),法國政客都能吵起來
-
潛入醫(yī)院裝電詐設(shè)備,騙走30萬!今年已發(fā)生多起
-
美報告炒作:中企占比近10%,“五角大樓供應(yīng)鏈極其脆弱”
-
“歐洲定居者對澳大利亞原住民,犯下種族滅絕罪”
-
好一個“舉賢不避親”,特朗普推薦兒媳參選
-
開庭前妻子墜樓身亡,柯文哲前副手痛哭:臺灣怎么變成這樣
-
美國放風(fēng):伊朗有動作了
-
“中方正考慮邀請李在明出席”
-
“中國洋垃圾禁令震動全球”,馬來西亞也跟了
-
靠萬斯“決勝一票”,“大而美”法案驚險闖關(guān)參議院
-