成人免费午夜在线观看,伊人久久精品,一区二区三区精品

系統(tǒng)性思維，一直都是中國產(chǎn)業(yè)從后發(fā)地位邁向先進水平的寶貴經(jīng)驗，如今這一幕也正在AI領域發(fā)生。近日，10家國產(chǎn)大模型、AI芯片和算力加速企業(yè)攜手成立“模芯生態(tài)創(chuàng)新聯(lián)盟”，開始探索從大模型開發(fā)階段就去適配國產(chǎn)AI芯片，為國產(chǎn)芯片產(chǎn)業(yè)協(xié)同打開了新思路。與此同時，上海企業(yè)在聯(lián)盟中占據(jù)半壁江山的現(xiàn)象，也正是上海高科技產(chǎn)業(yè)一向重視軟硬結合，產(chǎn)業(yè)鏈一體化完備程度的厚積薄發(fā)。

（文/觀察者網(wǎng) 張廣凱）

沐曦陳維良、天數(shù)智芯蓋魯江、燧原趙立東、壁仞張文，四家國產(chǎn)算力芯片領軍企業(yè)的創(chuàng)始人同臺對話，即使不是第一次，也是非常罕見的一幕。

更耐人尋味的是，這一幕出現(xiàn)在大模型企業(yè)階躍星辰的發(fā)布會上。

7月25日，作為今年世界人工智能大會的一部分，階躍星辰在上海發(fā)布了新一代SOTA級的多模態(tài)推理大模型Step 3。

作為著名的“多模態(tài)卷王”，如果說Step 3本身的模型能力已經(jīng)不會太讓人意外，那么這次發(fā)布會上更大的驚喜，來自于其對國產(chǎn)芯片的強大適配能力——據(jù)介紹，Step 3在國產(chǎn)芯片上的推理效率最高可達DeepSeek-R1的300%。

同日，階躍星辰聯(lián)合近10家芯片及基礎設施廠商發(fā)起“模芯生態(tài)創(chuàng)新聯(lián)盟”，首批成員包括華為昇騰、沐曦、壁仞科技、燧原科技、天數(shù)智芯、無問芯穹、寒武紀、摩爾線程、硅基流動等。

階躍星辰的名字來自數(shù)學中的“階躍函數(shù)”，這個函數(shù)常用來描述從0到1的突然跳變。當英偉達H20都面臨“斷供”風險，國產(chǎn)算力今年已經(jīng)成為大模型企業(yè)的必選項。這個趨勢當然不僅僅歸功于階躍星辰，但國產(chǎn)模芯生態(tài)卻如“階躍函數(shù)”一樣正在快速躍遷。

當模型和芯片變成一個系統(tǒng)

自從今年初DeepSeek爆火出圈之后，人們已經(jīng)習慣了用“DeepSeek時刻”來形容中國大模型產(chǎn)業(yè)的進步。但是屬于DeepSeek自己的下一個“DeepSeek時刻”，卻遲遲沒有到來。

早在2月份，就有消息稱DeepSeek計劃于5月發(fā)布下一代推理模型R2，甚至有可能提前。但截至目前，R2仍然未能亮相。知名科技媒體The Information曾指出，英偉達H20芯片此前的禁售風波，可能是DeepSeek計劃跳票的重要原因。

DeepSeek此前的V3和R1模型，均是基于英偉達芯片訓練。昔日還以幻方量化知名的梁文鋒曾在采訪中承認，他在2021年就已經(jīng)囤積了萬張英偉達顯卡。直到2023年，幻方擁有的英偉達顯卡都超過國內(nèi)很多頭部大廠，這是DeepSeek成功的物理前提。

如今英偉達顯卡屢屢出現(xiàn)斷供風險，影響的不是僅僅DeepSeek自身的模型訓練，也讓下游那些并非財大氣粗的用戶在部署時遇到麻煩。隨著華為昇騰等國產(chǎn)芯片的性價比逐步超越H20，越來越多的用戶和算力廠商開始轉(zhuǎn)向國產(chǎn)芯片。

但DeepSeek V3和R1的優(yōu)化原本是針對英偉達H800這樣的高端芯片，用在國產(chǎn)芯片時仍然需要大量的適配工作。算力加速平臺硅基流動的創(chuàng)始人袁進輝曾透露，為了在華為昇騰芯片上適配DeepSeek，其團隊與華為工程師整個春節(jié)假期都沒有休息。

現(xiàn)在，階躍星辰想從根本上解決這個難題。

在Step 3的發(fā)布會上，階躍星辰創(chuàng)始人、CEO姜大昕展示了兩組數(shù)據(jù)：

在國產(chǎn)芯片上，Step 3的推理效率最高可達DeepSeek-R1的300%；而即使在基于 NVIDIA Hopper 架構的芯片進行分布式推理時，實測Step 3相較于 DeepSeek-R1的吞吐量提升了超過70%。

這樣的效率提升是如何做到的？

“過去，產(chǎn)業(yè)把開發(fā)順序搞反了?！彪A躍星辰聯(lián)合創(chuàng)始人、副總裁朱亦博對觀察者網(wǎng)解釋說，一款芯片的開發(fā)周期需要兩年以上，而如今模型迭代的速度只有半年到一年，如果讓芯片廠商去適配模型，必然是低效的，可能等到適配做好了，模型早就迭代了。

觀察者網(wǎng)了解到，隨著大模型算法創(chuàng)新層出不窮，業(yè)內(nèi)對于其硬件適配性早就不乏詬病，甚至有“算法搞創(chuàng)新，infra擦屁股”的說法。

而階躍星辰選擇了在模型開發(fā)階段，就主動去服務于國產(chǎn)芯片的特性。

朱亦博舉例說，目前國產(chǎn)芯片的制程工藝、HBM（高帶寬內(nèi)存）等性能還相對落后，導致在算法設計上需要去做一些調(diào)整。

階躍星辰展示的圖片顯示，在算術強度(Arithmetic intensity)特性上，DeepSeek V3更適配于H800芯片，阿里Qwen 3更偏向H20，而Step 3則與昇騰910B更加接近。

這得益于今年初階躍星辰發(fā)布的一種新型注意力機制架構——多矩陣分解注意力（MFA）。在當時DeepSeek的光芒下，這個成果并未廣泛“出圈”，但是相較于DeepSeek采用的多頭注意力機制（MLA），MFA能夠把推理過程中的鍵值緩存（KV Cache）用量大幅降低93.7%，對國產(chǎn)芯片更加友好。

換句話說，階躍星辰主動跳出了一家單純的大模型企業(yè)視角，而是把模型和硬件視為相互協(xié)同的系統(tǒng)。沐曦創(chuàng)始人、董事長兼總經(jīng)理陳維良直言，“階躍星辰對于國產(chǎn)芯片的了解深度，已經(jīng)不亞于芯片企業(yè)本身”

下面這張圖更加直觀地展示了階躍星辰這種思維方式的成果：在昇騰910B上，Step 3的解碼效率甚至超過了華為自家的盤古 Pro MoE模型，這還是在盤古 Pro MoE實際激活參數(shù)不到Step 3一半的情況下。

如今，階躍星辰與諸多硬件廠商成立“模芯聯(lián)盟”，意味著過去技術層面的系統(tǒng)思維，有望走向更深度的戰(zhàn)略協(xié)同層面。

朱亦博對觀察者網(wǎng)介紹，這個聯(lián)盟的初步目標，是將各自的產(chǎn)品開發(fā)進度相互同步，并希望在此基礎上建立長期信任以及合作關系，“也許未來新一代芯片上市前，我們就可以比較早地獲取它的一些設計?！?

這勢必會給階躍星辰的未來模型研發(fā)帶來獨特優(yōu)勢，而與此同時，姜大昕也向觀察者網(wǎng)表示，歡迎更多國內(nèi)大模型企業(yè)加入聯(lián)盟。

國產(chǎn)芯片訓練仍難突破

盡管以階躍星辰為代表的眾多國產(chǎn)大模型公司都開始重視對國產(chǎn)芯片的適配，但到目前為止，主要的適配工作都發(fā)生在推理環(huán)節(jié)，而基于國產(chǎn)芯片的訓練仍然是行業(yè)難題。

困難同樣來自軟硬兩個維度。

大模型的“大”主要體現(xiàn)在訓練階段數(shù)據(jù)和參數(shù)量的龐大，而訓練完成的大模型，在推理階段并不需要激活所有參數(shù)量，因此對算力消耗更小。

當前，美國大模型公司在訓練環(huán)節(jié)使用的芯片集群規(guī)模已經(jīng)達到10萬卡，而國內(nèi)大模型往往使用以英偉達芯片為主的萬卡集群。

目前，明確使用全國產(chǎn)算力的芯片集群是科大訊飛與華為共建的“飛星二號”，能夠達到萬卡級別，今年剛剛走到首批算力交付的階段。而且考慮到華為單卡算力的劣勢，“飛星二號”在總算力上仍然難以同英偉達集群媲美。

本次人工智能大會上，華為也首次展出了384張芯片集成的超節(jié)點機柜，在算力上超過英偉達的NVL72，但考慮到芯片數(shù)量和光模塊的大量使用，其功耗和穩(wěn)定性仍然有待檢驗。

而其它國產(chǎn)芯片在集群規(guī)模上也存在明顯差距。在無問芯穹與上海算法創(chuàng)新研究院的合作中，雙方成功基于3000卡沐曦國產(chǎn)GPU集群，穩(wěn)定支撐百億參數(shù)大模型訓練長達600小時不間斷，這已經(jīng)是國產(chǎn)算力模型訓練的記錄。

除了芯片集群的困難，大模型企業(yè)想要在國產(chǎn)芯片上進行訓練，也需要根據(jù)芯片不同的架構去重新構建底層工具鏈，其難度同樣巨大。

需要承認的是，當下國產(chǎn)大模型百花齊放，一定程度上也是建立在英偉達CUDA生態(tài)提供了成熟的工具鏈，而工具鏈的開發(fā)人才由于要掌握硬件知識，往往比大模型的人才更加稀缺。

因此，國產(chǎn)芯片在推理側(cè)的進展令人欣喜之余，我們也仍要正視同英偉達生態(tài)的差距。

下一個圣杯：多模態(tài)

但是樂觀地說，當下大模型的技術演進遠遠沒有結束，這也意味著，如果能夠在新技術范式上占得先機，基于國產(chǎn)芯片的大模型開發(fā)生態(tài)仍有彎道超車空間。

多模態(tài)就是下一個機會所在。

盡管多模態(tài)模型落地已經(jīng)如火如荼，但業(yè)界共識認為，屬于多模態(tài)的“GPT-4時刻”尚未真正到來。也就是說，如今多模態(tài)的推理模型尚不成熟，理解生成一體化尚未實現(xiàn)，世界模型也還較為遙遠，這都意味著，其基礎架構仍有很大創(chuàng)新空間，國產(chǎn)芯片對模型的適配也可以從更早期階段起步，避免如語言模型一樣的英偉達一家獨大。

而中國多模態(tài)應用生態(tài)的繁榮，也為相關企業(yè)提供了充足彈藥。

例如，階躍星辰日前首次公布了明確的收入指引——預計今年全年營收達到10億元。

“AI六小龍”公司此前都沒有明確公布過自己的經(jīng)營狀況，可以作為對比的是，有媒體報道智譜2024年的收入約2-3億元，而虧損可能達到20億元。

這意味著，階躍星辰除了與上游硬件廠商的結合，在下游用戶的結合上也有獨到之處。

其最核心的秘訣自然還是多模態(tài)。

過去一年中，階躍星辰已經(jīng)發(fā)布了十余款多模態(tài)模型，包括Step系列的基礎模型，以及語音、視覺理解、圖像編輯、圖像和視頻生成、音樂等諸多垂直模型。本次WAIC期間，階躍亦升級了多模態(tài)模型矩陣，包括階躍首個多模理解生成一體化模型Step 3o Vision，第二代端到端語音大模型Step-Audio 2。

業(yè)內(nèi)普遍認為，相比于語言模型的不斷刷榜，多模態(tài)正在成為當下大模型和Agent產(chǎn)品落地需求最大和最有利可圖的賽道。這讓“六小龍”中一直較為低調(diào)的階躍星辰，悄然在商業(yè)上開始爆發(fā)。

階躍星辰副總裁李璟對觀察者網(wǎng)直言，“多模態(tài)模型的優(yōu)勢往往不體現(xiàn)在榜單上，而是體現(xiàn)在客戶的實際測試里面，這個可能更有說服力?！?

例如，階躍星辰展示了在一張反光嚴重的菜單照片上準確識別菜品價格的能力——圖文識別算不上新鮮，但在復雜現(xiàn)實環(huán)境里的可用性，才是應用落地的關鍵。

據(jù)介紹，階躍星辰的智能終端Agent目前頭部客戶效應顯著：已覆蓋國內(nèi)超過一半頭部國產(chǎn)手機廠商，深度合作打造手機Agent體驗；聯(lián)合吉利推出AI智能座艙，成功實現(xiàn)行業(yè)內(nèi)端到端語音大模型首次量產(chǎn)上車。另一方面，階躍星辰積極拓展垂直行業(yè)的應用，與金融財經(jīng)、內(nèi)容創(chuàng)作、零售等領域的行業(yè)頭部公司深度合作，共同打造面向C端的場景化應用體驗。

多模態(tài)模型的快速應用落地，除了對大模型企業(yè)商業(yè)閉環(huán)意義重大，也有助于收集更多數(shù)據(jù)，形成飛輪驅(qū)動模型和硬件的進步。

天數(shù)智芯董事長兼CEO蓋魯江指出，“從芯片到整機廠商、模型廠商，再到最終應用場景，這4個環(huán)節(jié)都是產(chǎn)業(yè)鏈的重要組成部分，如果能夠通過聯(lián)盟建立統(tǒng)一標準，將會省去大量的適配成本?！?

上海為何托起半壁江山？

最后值得注意的是，在上述模芯聯(lián)盟中，來自上海的企業(yè)占據(jù)了半壁江山。

作為國內(nèi)工業(yè)化最早、最完整的城市，上海在互聯(lián)網(wǎng)時代一度顯得低調(diào)，但隨著人工智能爆發(fā)，上海的產(chǎn)業(yè)地位正在不斷提升。

其實，上海人工智能產(chǎn)業(yè)的獨特優(yōu)勢，正藏在“軟硬協(xié)同”四個字之中。

互聯(lián)網(wǎng)時代，企業(yè)崇尚輕資產(chǎn)的快速靈活，但在人工智能時代，硬件能力的提升卻沒有捷徑可走。上海坐擁中芯國際和華虹等國內(nèi)主要晶圓廠，HBM所需的先進封裝產(chǎn)能也多位于長三角，這都為GPU企業(yè)提供了便利環(huán)境。

而上海為應用生態(tài)提供的服務也走在全國前列。無問芯穹在本屆人工智能大會期間指出，其服務的全球最大人工智能孵化器——上海模速空間，日均Token調(diào)用量已成功突破100億大關。

《新華財經(jīng)》一組數(shù)據(jù)顯示，2024年上海人工智能（含大模型）企業(yè)達到24733家，較上年增長5.1%，新增注冊資本1000萬及以上的人工智能企業(yè)有104家。

上海國有資本也在頻繁參與AI產(chǎn)業(yè)的早期投資。今年3月，上海國投先導人工智能產(chǎn)業(yè)母基金的首個直投項目就投向了壁仞科技，據(jù)悉，上海國投生態(tài)體系也將在近期參與投資階躍星辰的最新一輪融資。

這無疑是一種更高層面上的系統(tǒng)集成。當其他城市還在討論如何“補鏈”時，上海已經(jīng)讓AI成為城市基礎設施的一部分。

本文系觀察者網(wǎng)獨家稿件，文章內(nèi)容純屬作者個人觀點，不代表平臺觀點，未經(jīng)授權，不得轉(zhuǎn)載，否則將追究法律責任。關注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。