觀察員
-
推理成本最高可降低83%，豆包概念股午后走強(qiáng)
-
周毅是故意的還是不小心？
今日（2月12日）A股市場(chǎng)，豆包概念股午后大幅走強(qiáng)，創(chuàng)業(yè)板漢得信息拉升封板，廣和通、移遠(yuǎn)通信、潤(rùn)欣科技、博通集成等紛紛大幅沖高。
同花順iFinD
消息面上，2月12日，豆包大模型團(tuán)隊(duì)在其公號(hào)發(fā)布文章《全新超稀疏架構(gòu)，推理成本較MoE最高可降83%》。文章稱(chēng)，近期，字節(jié)跳動(dòng)豆包大模型團(tuán)隊(duì)提出了全新的稀疏模型架構(gòu)UltraMem，該架構(gòu)有效解決了MoE推理時(shí)高額的訪存問(wèn)題，推理速度較MoE架構(gòu)提升2-6倍，推理成本最高可降低83%。
文章稱(chēng)，該研究還揭示了新架構(gòu)的Scaling Law，證明其不僅具備優(yōu)異的Scaling特性，更在性能上超越了MoE。實(shí)驗(yàn)結(jié)果表明，訓(xùn)練規(guī)模達(dá)2000萬(wàn)value的UltraMem模型，在同等計(jì)算資源下，可同時(shí)實(shí)現(xiàn)業(yè)界領(lǐng)先的推理速度和模型性能，為構(gòu)建數(shù)十億規(guī)模value或expert開(kāi)辟了新路徑。
公眾號(hào)"豆包大模型團(tuán)隊(duì)"
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
- 責(zé)任編輯: 周毅
-
試過(guò)百度DeepSeek等模型后，蘋(píng)果AI牽手阿里？
2025-02-12 13:56 人工智能 -
-
-
-
-
哪吒2破90億，光線傳媒20CM漲停
2025-02-12 10:21 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
美團(tuán)跌超5%，京東宣布?xì)⑷胪赓u(mài)賽道
2025-02-12 10:18 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
-
餓了么，重大組織調(diào)整
2025-02-11 19:35 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
ARM CEO談DeepSeek：驚喜，但是……
2025-02-11 18:21 人工智能 -
京東殺入外賣(mài)賽道
2025-02-11 17:36 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
澳大利亞，中國(guó)光伏龍頭又去海外打官司了
2025-02-11 17:36 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
“娃哈哈”商標(biāo)將轉(zhuǎn)讓?zhuān)抗净貞?yīng)
2025-02-11 17:14 大公司 -
“OpenAI打響拋棄英偉達(dá)第一槍”
2025-02-11 16:33 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
哪吒2票房逼近88億元，卡牌、手辦、圖書(shū)等周邊一“吒”難求
2025-02-11 14:50 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
正計(jì)劃前往越南增加建廠？SHEIN否認(rèn)
2025-02-11 13:26 中美關(guān)系 -
《哪吒2》預(yù)測(cè)票房最高已飆升至145億元：海外一票難求
2025-02-11 12:48 觀網(wǎng)財(cái)經(jīng)-消費(fèi)
相關(guān)推薦 -
-
“美國(guó)已解除這項(xiàng)對(duì)華出口禁令” 評(píng)論 210
家樂(lè)福CEO放話：對(duì)中國(guó)小包裹，要學(xué)特朗普征稅100% 評(píng)論 205
“2027年起，整個(gè)產(chǎn)業(yè)將拱手讓給中國(guó)” 評(píng)論 122
“不如申請(qǐng)成中國(guó)一省” ，德國(guó)鋰企竟如此激將歐盟 評(píng)論 125
美兩員“大將”施壓未果，日本反倒成了“難啃的骨頭” 評(píng)論 95最新聞 Hot-
“美國(guó)已解除這項(xiàng)對(duì)華出口禁令”
-
“印軍將全面排查中國(guó)產(chǎn)零部件”
-
美國(guó)和盟友鬧掰？“本質(zhì)沒(méi)變，中國(guó)需高度警惕”
-
斯塔默不吱聲，英財(cái)相當(dāng)場(chǎng)落淚，“哭崩”市場(chǎng)
-
家樂(lè)福CEO放話：對(duì)中國(guó)小包裹，要學(xué)特朗普征稅100%
-
莫迪表態(tài)：金磚是重要平臺(tái)
-
“還想阻撓大陸武統(tǒng)？美國(guó)太晚了”
-
受賄數(shù)額特別巨大，齊同生被提起公訴
-
“美國(guó)占一半，中國(guó)分四成，歐洲...”
-
李在明最新涉華表態(tài)
-
叫完“爸爸”又被白宮整活，北約秘書(shū)長(zhǎng)：驚喜且有趣
-
私自留存涉密材料，宋立強(qiáng)被開(kāi)黨籍
-
印度外長(zhǎng)在美表態(tài)：要這么對(duì)中國(guó)
-
中國(guó)緊盯貿(mào)易協(xié)議，“若誰(shuí)聯(lián)美抗中，必遭反制”
-
“美國(guó)人自豪感急劇下降，特別是民主黨人”
-
“富士康要求中國(guó)員工從印度撤離”
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書(shū)》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號(hào)-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號(hào) 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營(yíng)許可證：（滬）字第03952號(hào)
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號(hào)
中國(guó)互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
