-
國(guó)產(chǎn)AI算力的“階躍”時(shí)刻
-
張廣凱13764468101
(文/觀察者網(wǎng) 張廣凱)
沐曦陳維良、天數(shù)智芯蓋魯江、燧原趙立東、壁仞張文,四家國(guó)產(chǎn)算力芯片領(lǐng)軍企業(yè)的創(chuàng)始人同臺(tái)對(duì)話,即使不是第一次,也是非常罕見的一幕。
更耐人尋味的是,這一幕出現(xiàn)在大模型企業(yè)階躍星辰的發(fā)布會(huì)上。
7月25日,作為今年世界人工智能大會(huì)的一部分,階躍星辰在上海發(fā)布了新一代SOTA級(jí)的多模態(tài)推理大模型Step 3。
作為著名的“多模態(tài)卷王”,如果說Step 3本身的模型能力已經(jīng)不會(huì)太讓人意外,那么這次發(fā)布會(huì)上更大的驚喜,來自于其對(duì)國(guó)產(chǎn)芯片的強(qiáng)大適配能力——據(jù)介紹,Step 3在國(guó)產(chǎn)芯片上的推理效率最高可達(dá)DeepSeek-R1的300%。
同日,階躍星辰聯(lián)合近10家芯片及基礎(chǔ)設(shè)施廠商發(fā)起“模芯生態(tài)創(chuàng)新聯(lián)盟”,首批成員包括華為昇騰、沐曦、壁仞科技、燧原科技、天數(shù)智芯、無(wú)問芯穹、寒武紀(jì)、摩爾線程、硅基流動(dòng)等。
階躍星辰的名字來自數(shù)學(xué)中的“階躍函數(shù)”,這個(gè)函數(shù)常用來描述從0到1的突然跳變。當(dāng)英偉達(dá)H20都面臨“斷供”風(fēng)險(xiǎn),國(guó)產(chǎn)算力今年已經(jīng)成為大模型企業(yè)的必選項(xiàng)。這個(gè)趨勢(shì)當(dāng)然不僅僅歸功于階躍星辰,但國(guó)產(chǎn)模芯生態(tài)確如“階躍函數(shù)”一樣正在快速躍遷。
當(dāng)模型和芯片變成一個(gè)系統(tǒng)
自從今年初DeepSeek爆火出圈之后,人們已經(jīng)習(xí)慣了用“DeepSeek時(shí)刻”來形容中國(guó)大模型產(chǎn)業(yè)的進(jìn)步。但是屬于DeepSeek自己的下一個(gè)“DeepSeek時(shí)刻”,卻遲遲沒有到來。
早在2月份,就有消息稱DeepSeek計(jì)劃于5月發(fā)布下一代推理模型R2,甚至有可能提前。但截至目前,R2仍然未能亮相。知名科技媒體The Information曾指出,英偉達(dá)H20芯片此前的禁售風(fēng)波,可能是DeepSeek計(jì)劃跳票的重要原因。
DeepSeek此前的V3和R1模型,均是基于英偉達(dá)芯片訓(xùn)練。昔日還以幻方量化知名的梁文鋒曾在采訪中承認(rèn),他在2021年就已經(jīng)囤積了萬(wàn)張英偉達(dá)顯卡。直到2023年,幻方擁有的英偉達(dá)顯卡都超過國(guó)內(nèi)很多頭部大廠,這是DeepSeek成功的物理前提。
如今英偉達(dá)顯卡屢屢出現(xiàn)斷供風(fēng)險(xiǎn),影響的不是僅僅DeepSeek自身的模型訓(xùn)練,也讓下游那些并非財(cái)大氣粗的用戶在部署時(shí)遇到麻煩。隨著華為昇騰等國(guó)產(chǎn)芯片的性價(jià)比逐步超越H20,越來越多的用戶和算力廠商開始轉(zhuǎn)向國(guó)產(chǎn)芯片。
但DeepSeek V3和R1的優(yōu)化原本是針對(duì)英偉達(dá)H800這樣的高端芯片,用在國(guó)產(chǎn)芯片時(shí)仍然需要大量的適配工作。算力加速平臺(tái)硅基流動(dòng)的創(chuàng)始人袁進(jìn)輝曾透露,為了在華為昇騰芯片上適配DeepSeek,其團(tuán)隊(duì)與華為工程師整個(gè)春節(jié)假期都沒有休息。
現(xiàn)在,階躍星辰想從根本上解決這個(gè)難題。
在Step 3的發(fā)布會(huì)上,階躍星辰創(chuàng)始人、CEO姜大昕展示了兩組數(shù)據(jù):
在國(guó)產(chǎn)芯片上,Step 3的推理效率最高可達(dá)DeepSeek-R1的300%;而即使在基于 NVIDIA Hopper 架構(gòu)的芯片進(jìn)行分布式推理時(shí),實(shí)測(cè)Step 3相較于 DeepSeek-R1的吞吐量提升了超過70%。
這樣的效率提升是如何做到的?
“過去,產(chǎn)業(yè)把開發(fā)順序搞反了。”階躍星辰聯(lián)合創(chuàng)始人、副總裁朱亦博對(duì)觀察者網(wǎng)解釋說,一款芯片的開發(fā)周期需要兩年以上,而如今模型迭代的速度只有半年到一年,如果讓芯片廠商去適配模型,必然是低效的,可能等到適配做好了,模型早就迭代了。
觀察者網(wǎng)了解到,隨著大模型算法創(chuàng)新層出不窮,業(yè)內(nèi)對(duì)于其硬件適配性早就不乏詬病,甚至有“算法搞創(chuàng)新,infra擦屁股”的說法。
而階躍星辰選擇了在模型開發(fā)階段,就主動(dòng)去服務(wù)于國(guó)產(chǎn)芯片的特性。
朱亦博舉例說,目前國(guó)產(chǎn)芯片的制程工藝、HBM(高帶寬內(nèi)存)等性能還相對(duì)落后,導(dǎo)致在算法設(shè)計(jì)上需要去做一些調(diào)整。
階躍星辰展示的圖片顯示,在算術(shù)強(qiáng)度(Arithmetic intensity)特性上,DeepSeek V3更適配與H800芯片,阿里Qwen 3更偏向H20,而Step 3則與昇騰910B更加接近。
這得益于今年初階躍星辰發(fā)布的一種新型注意力機(jī)制架構(gòu)——多矩陣分解注意力(MFA)。在當(dāng)時(shí)DeepSeek的光芒下,這個(gè)成果并未廣泛“出圈”,但是相較于DeepSeek采用的多頭注意力機(jī)制(MLA),MFA能夠把推理過程中的鍵值緩存(KV Cache)用量大幅降低93.7%,對(duì)國(guó)產(chǎn)芯片更加友好。
換句話說,階躍星辰主動(dòng)跳出了一家單純的大模型企業(yè)視角,而是把模型和硬件視為相互協(xié)同的系統(tǒng)。沐曦創(chuàng)始人、董事長(zhǎng)兼總經(jīng)理陳維良直言,“階躍星辰對(duì)于國(guó)產(chǎn)芯片的了解深度,已經(jīng)不亞于芯片企業(yè)本身”
下面這張圖更加直觀地展示了階躍星辰這種思維方式的成果:在昇騰910B上,Step 3的解碼效率甚至超過了華為自家的盤古 Pro MoE模型,這還是在盤古 Pro MoE實(shí)際激活參數(shù)不到Step 3一半的情況下。
如今,階躍星辰與諸多硬件廠商成立“模芯聯(lián)盟”,意味著過去技術(shù)層面的系統(tǒng)思維,有望走向更深度的戰(zhàn)略協(xié)同層面。
朱亦博對(duì)觀察者網(wǎng)介紹,這個(gè)聯(lián)盟的初步目標(biāo),是將各自的產(chǎn)品開發(fā)進(jìn)度相互同步,并希望在此基礎(chǔ)上建立長(zhǎng)期信任以及合作關(guān)系,“也許未來新一代芯片上市前,我們就可以比較早地獲取它的一些設(shè)計(jì)。”
這勢(shì)必會(huì)給階躍星辰的未來模型研發(fā)帶來獨(dú)特優(yōu)勢(shì),而與此同時(shí),姜大昕也向觀察者網(wǎng)表示,歡迎更多國(guó)內(nèi)大模型企業(yè)加入聯(lián)盟。
下一個(gè)圣杯:多模態(tài)
階躍星辰當(dāng)日帶來的另一重驚喜,是首次公布了明確的收入指引——預(yù)計(jì)今年全年?duì)I收達(dá)到10億元。
“AI六小龍”公司此前都沒有明確公布過自己的經(jīng)營(yíng)狀況,可以作為對(duì)比的是,有媒體報(bào)道智譜2024年的收入約2-3億元,而虧損可能達(dá)到20億元。
這意味著,階躍星辰除了與上游硬件廠商的結(jié)合,在下游用戶的結(jié)合上也有獨(dú)到之處。
其最核心的秘訣自然還是多模態(tài)。
過去一年中,階躍星辰已經(jīng)發(fā)布了十余款多模態(tài)模型,包括Step系列的基礎(chǔ)模型,以及語(yǔ)音、視覺理解、圖像編輯、圖像和視頻生成、音樂等諸多垂直模型。本次WAIC期間,階躍亦升級(jí)了多模態(tài)模型矩陣,包括階躍首個(gè)多模理解生成一體化模型Step 3o Vision,第二代端到端語(yǔ)音大模型Step-Audio 2。
業(yè)內(nèi)普遍認(rèn)為,相比于語(yǔ)言模型的不斷刷榜,多模態(tài)正在成為當(dāng)下大模型和Agent產(chǎn)品落地需求最大和最有利可圖的賽道。這讓“六小龍”中一直較為低調(diào)的階躍星辰,悄然在商業(yè)上開始爆發(fā)。
階躍星辰副總裁李璟對(duì)觀察者網(wǎng)直言,“多模態(tài)模型的優(yōu)勢(shì)往往不體現(xiàn)在榜單上,而是體現(xiàn)在客戶的實(shí)際測(cè)試?yán)锩?,這個(gè)可能更有說服力?!?
例如,階躍星辰展示了在一張反光嚴(yán)重的菜單照片上準(zhǔn)確識(shí)別菜品價(jià)格的能力——圖文識(shí)別算不上新鮮,但在復(fù)雜現(xiàn)實(shí)環(huán)境里的可用性,才是應(yīng)用落地的關(guān)鍵。
據(jù)介紹,階躍星辰的智能終端Agent目前頭部客戶效應(yīng)顯著:已覆蓋國(guó)內(nèi)超過一半頭部國(guó)產(chǎn)手機(jī)廠商,深度合作打造手機(jī)Agent體驗(yàn);聯(lián)合吉利推出AI智能座艙,成功實(shí)現(xiàn)行業(yè)內(nèi)端到端語(yǔ)音大模型首次量產(chǎn)上車。另一方面,階躍星辰積極拓展垂直行業(yè)的應(yīng)用,與金融財(cái)經(jīng)、內(nèi)容創(chuàng)作、零售等領(lǐng)域的行業(yè)頭部公司深度合作,共同打造面向C端的場(chǎng)景化應(yīng)用體驗(yàn)。
多模態(tài)模型的快速應(yīng)用落地,除了對(duì)大模型企業(yè)商業(yè)閉環(huán)意義重大,也有助于收集更多數(shù)據(jù),形成飛輪驅(qū)動(dòng)模型本身進(jìn)步。
尤其是,盡管多模態(tài)模型落地已經(jīng)如火如荼,但屬于多模態(tài)的“GPT-4時(shí)刻”尚未真正到來。也就是說,如今多模態(tài)的推理模型尚不成熟,理解生成一體化尚未實(shí)現(xiàn),世界模型也還較為遙遠(yuǎn),這都意味著,其基礎(chǔ)架構(gòu)仍有很大創(chuàng)新空間,國(guó)產(chǎn)芯片對(duì)模型的適配也可以從更早期階段起步,避免如語(yǔ)言模型一樣的英偉達(dá)一家獨(dú)大。
天數(shù)智芯董事長(zhǎng)兼CEO蓋魯江指出,“從芯片到整機(jī)廠商、模型廠商,再到最終應(yīng)用場(chǎng)景,這4個(gè)環(huán)節(jié)都是產(chǎn)業(yè)鏈的重要組成部分,如果能夠通過聯(lián)盟建立統(tǒng)一標(biāo)準(zhǔn),將會(huì)省去大量的適配成本。”
上海為何托起半壁江山?
值得注意的是,在上述模芯聯(lián)盟中,來自上海的企業(yè)占據(jù)了半壁江山。
作為國(guó)內(nèi)工業(yè)化最早、最完整的城市,上海在互聯(lián)網(wǎng)時(shí)代一度顯得低調(diào),但隨著人工智能爆發(fā),上海的產(chǎn)業(yè)地位正在不斷提升。
其實(shí),上海人工智能產(chǎn)業(yè)的獨(dú)特優(yōu)勢(shì),正藏在“軟硬協(xié)同”四個(gè)字之中。
互聯(lián)網(wǎng)時(shí)代,企業(yè)崇尚輕資產(chǎn)的快速靈活,但在人工智能時(shí)代,硬件能力的提升卻沒有捷徑可走。上海坐擁中芯國(guó)際和華虹等國(guó)內(nèi)主要晶圓廠,HBM所需的先進(jìn)封裝產(chǎn)能也多位于長(zhǎng)三角,這都為GPU企業(yè)提供了便利環(huán)境。
而上海為應(yīng)用生態(tài)提供的服務(wù)也走在全國(guó)前列。無(wú)問芯穹在本屆人工智能大會(huì)期間指出,其服務(wù)的全球最大人工智能孵化器——上海模速空間,日均Token調(diào)用量已成功突破100億大關(guān)。
在無(wú)問芯穹與上海算法創(chuàng)新研究院的合作中,雙方成功基于3000卡沐曦國(guó)產(chǎn)GPU集群,穩(wěn)定支撐百億參數(shù)大模型訓(xùn)練長(zhǎng)達(dá)600小時(shí)不間斷,創(chuàng)造了國(guó)產(chǎn)算力模型訓(xùn)練的記錄。
《新華財(cái)經(jīng)》一組數(shù)據(jù)顯示,2024年上海人工智能(含大模型)企業(yè)達(dá)到24733家,較上年增長(zhǎng)5.1%,新增注冊(cè)資本1000萬(wàn)及以上的人工智能企業(yè)有104家。
上海國(guó)有資本也在頻繁參與AI產(chǎn)業(yè)的早期投資。今年3月,上海國(guó)投先導(dǎo)人工智能產(chǎn)業(yè)母基金的首個(gè)直投項(xiàng)目就投向了壁仞科技,據(jù)悉,上海國(guó)投生態(tài)體系也將在近期參與投資階躍星辰的最新一輪融資。
這無(wú)疑是一種更高層面上的系統(tǒng)集成。當(dāng)其他城市還在討論如何“補(bǔ)鏈”時(shí),上海已經(jīng)讓AI成為城市基礎(chǔ)設(shè)施的一部分。
|舉報(bào)-
違反法律法規(guī) -
垃圾信息、廣告 -
色情、淫穢信息 -
人身攻擊 -
謠言、不實(shí)信息 -
冒充,冒用信息 -
破壞社區(qū)秩序 -
其他 -
涉未成年人有害信息
- 責(zé)任編輯: 張廣凱 
-
會(huì)飛的 “出租車”,成為了WAIC上的吸睛焦點(diǎn)
2025-07-30 16:22 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
麥當(dāng)勞不想在香港當(dāng)“地主”了
2025-07-30 15:13 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
余承東:鴻蒙5終端數(shù)量突破千萬(wàn)
2025-07-30 11:28 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
捐款捐物搶險(xiǎn)!字節(jié)、小米、中國(guó)移動(dòng)、蘋果等多家企業(yè)支援災(zāi)區(qū)
2025-07-30 10:46 極端天氣 -
-
-
-
換帥之后又換將,珠江啤酒加速走向全國(guó)?
2025-07-29 19:02 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
育兒補(bǔ)貼落地,嬰童概念股“幾家歡喜幾家愁”
2025-07-29 18:36 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
為什么昇騰384超節(jié)點(diǎn)能成為“鎮(zhèn)館之寶”?
2025-07-29 18:26 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
印度首次成為美國(guó)手機(jī)最大供貨地
2025-07-29 17:25 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
開出人均700元的甄選店,能否緩解海底撈的焦慮?
2025-07-29 17:16 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
蘋果首次在中國(guó)關(guān)停直營(yíng)店
2025-07-29 14:43 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
中國(guó)手機(jī)季度出貨下滑4%:華為重奪第一,小米蘋果并列
2025-07-29 14:25 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
華為VS三星,三折疊大戰(zhàn)9月對(duì)決?
2025-07-29 14:13 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
無(wú)限光年可信AI方案亮相WAIC,四大方案激活金融效能
2025-07-29 13:55 2025世界人工智能大會(huì) -
雷軍:小米已經(jīng)站在了全球SoC研發(fā)的最前列
2025-07-29 13:53 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
相關(guān)推薦 -
-
馬克龍豪言:得讓特朗普怕我們 評(píng)論 151“大限”將至,島內(nèi)哀嘆:這回又要被割多少肉? 評(píng)論 40國(guó)產(chǎn)大模型與AI芯片聯(lián)盟,意義有多重大? 評(píng)論 43震驚!這密密麻麻的不是螞蟻,而是絕望的加沙饑民 評(píng)論 283政治局召開會(huì)議,10月召開二十屆四中全會(huì) 評(píng)論 10最新聞 Hot
-
馬克龍豪言:得讓特朗普怕我們
-
巴西:就這?
-
“最后一刻,美方取消與臺(tái)‘防長(zhǎng)’會(huì)面”
-
“朋友”也被美國(guó)加稅?印度低調(diào)回應(yīng)
-
特朗普:沒準(zhǔn),印度從巴基斯坦買石油呢
-
“跟中國(guó)競(jìng)爭(zhēng),美國(guó)輸了”
-
日本半導(dǎo)體“國(guó)家隊(duì)”破產(chǎn),“將客戶從中國(guó)拉走太難了”
-
俄8.7級(jí)地震后,歐亞大陸最高活火山噴發(fā)
-
“大限”將至,島內(nèi)哀嘆:這回又要被割多少肉?
-
“樹林發(fā)現(xiàn)大量丟棄藥品,還有針頭”?當(dāng)?shù)赝▓?bào)
-
火狐瀏覽器將終止中國(guó)賬戶服務(wù),有何影響?
-
?;鸷蠼韬嫌啊霸O(shè)局”挾持柬軍20人?泰方回應(yīng)
-
“副會(huì)長(zhǎng)釋永信”,已從官網(wǎng)撤下
-
震驚!這密密麻麻的不是螞蟻,而是絕望的加沙饑民
-
樂山大佛旅游投資開發(fā)集團(tuán)原董事長(zhǎng)杜華被“雙開”
-
美企“奉旨山寨”,丹麥原公司市值蒸發(fā)近5000億
-