觀察員
-
DeepSeek官方測(cè)算模型成本利潤(rùn)率為545%
3月1日，DeepSeek官方通過(guò)社交媒體賬號(hào)公布了其線上系統(tǒng)的實(shí)際統(tǒng)計(jì)數(shù)據(jù)，稱如果所有tokens全部按照DeepSeek R1的定價(jià)計(jì)算，理論上成本利潤(rùn)率為545%。
DeepSeek官方公布，DeepSeek V3和R1的所有服務(wù)均使用H800 GPU，使用和訓(xùn)練一致的精度，即矩陣計(jì)算和dispatch傳輸采用和訓(xùn)練一致的FP8格式，core-attention計(jì)算和combine傳輸采用和訓(xùn)練一致的BF16，最大程度保證了服務(wù)效果。
另外，由于白天的服務(wù)負(fù)荷高，晚上的服務(wù)負(fù)荷低，因此DeepSeek實(shí)現(xiàn)了一套機(jī)制，在白天負(fù)荷高的時(shí)候，用所有節(jié)點(diǎn)部署推理服務(wù)。晚上負(fù)荷低的時(shí)候，減少推理節(jié)點(diǎn)，以用來(lái)做研究和訓(xùn)練。在最近的24小時(shí)里（北京時(shí)間 2025/02/27 12:00 至 2025/02/28 12:00），DeepSeek V3和R1推理服務(wù)占用節(jié)點(diǎn)總和，峰值占用為278個(gè)節(jié)點(diǎn)，平均占用226.75個(gè)節(jié)點(diǎn)（每個(gè)節(jié)點(diǎn)為 8 個(gè) H800 GPU）。假定GPU租賃成本為2美金/小時(shí)，總成本為$87,072/天。
在24小時(shí)統(tǒng)計(jì)時(shí)段內(nèi)，DeepSeek V3和R1：
輸入token總數(shù)為608B，其中342B tokens（56.3%）命中KVCache硬盤緩存。
輸出token總數(shù)為168B。平均輸出速率為20~22 tps，平均每輸出一個(gè)token的KVCache長(zhǎng)度是4989。
平均每臺(tái)H800的吞吐量為：對(duì)于prefill任務(wù)，輸入吞吐約73.7k tokens/s（含緩存命中）；對(duì)于decode任務(wù)，輸出吞吐約14.8k tokens/s。
以上統(tǒng)計(jì)包括了網(wǎng)頁(yè)、APP和API的所有負(fù)載。如果所有tokens全部按照DeepSeek R1的定價(jià)計(jì)算，理論上一天的總收入為$562,027，成本利潤(rùn)率545%。
DeepSeek官方表示，實(shí)際上沒(méi)有這么多收入，因?yàn)閂3的定價(jià)更低，同時(shí)收費(fèi)服務(wù)只占了一部分，另外夜間還會(huì)有折扣。
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
- 責(zé)任編輯: 林鈴錦
-
微軟宣布將停用旗下Skype服務(wù)
2025-03-01 16:34 -
四家浙大系企業(yè)聯(lián)手，欲打造L4級(jí)智能眼鏡
2025-03-01 11:05 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
中興通訊去年研發(fā)投入240億，手機(jī)營(yíng)收增速超40%
2025-02-28 22:23 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
“瓜子大王”重回增長(zhǎng)，高端瓜子建奇功？
2025-02-28 20:33 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
TikTok追加投資，88億美元！
2025-02-28 19:24 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
夸克AI搜索上線“深度思考”
2025-02-28 19:10 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
三年了，俄羅斯戰(zhàn)時(shí)“反制裁經(jīng)濟(jì)”的韌性從何而來(lái)？
2025-02-28 18:42 觀察者頭條 -
-
零售巨頭聯(lián)手，名創(chuàng)優(yōu)品創(chuàng)始人進(jìn)入永輝核心決策層
2025-02-28 18:18 -
2月賣地收金179.5億元，杭州土拍也被“六小龍”帶火了
2025-02-28 17:51 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
Mate70 Pro上線優(yōu)享版：降價(jià)300元，性能也略降
2025-02-28 17:22 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
比爾蓋茨投資的植物肉宣布：暫停中國(guó)運(yùn)營(yíng)并裁員95%
2025-02-28 16:20 -
即問(wèn)即答，騰訊元寶即將灰度上線混元Turbo S
2025-02-28 16:05 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
小米15Ultra未漲價(jià)，盧偉冰：扛不住了，下代一定要漲
2025-02-28 14:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
阿里國(guó)際站和航運(yùn)巨頭馬士基宣布深度合作
2025-02-28 10:55 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
-
扣非凈利下降近六成后，燒錢開(kāi)“大店”能救太平鳥？
2025-02-28 10:43
相關(guān)推薦 -
-
家樂(lè)福CEO放話：對(duì)中國(guó)小包裹，要學(xué)特朗普征稅100% 評(píng)論 134
“2027年起，整個(gè)產(chǎn)業(yè)將拱手讓給中國(guó)” 評(píng)論 116
“不如申請(qǐng)成中國(guó)一省” ，德國(guó)鋰企竟如此激將歐盟 評(píng)論 107
美兩員“大將”施壓未果，日本反倒成了“難啃的骨頭” 評(píng)論 95
美國(guó)放風(fēng)：伊朗有動(dòng)作了 評(píng)論 90最新聞 Hot-
家樂(lè)福CEO放話：對(duì)中國(guó)小包裹，要學(xué)特朗普征稅100%
-
“還想阻撓大陸武統(tǒng)？美國(guó)造船投資太晚了”
-
受賄數(shù)額特別巨大，齊同生被提起公訴
-
“美國(guó)占一半，中國(guó)分四成，歐洲...”
-
“西門子收到通知，美國(guó)已解除這項(xiàng)對(duì)華禁令”
-
叫完“爸爸”又被白宮整活，北約秘書長(zhǎng)：驚喜且有趣
-
印度外長(zhǎng)在美表態(tài)：要這么對(duì)中國(guó)
-
中國(guó)緊盯貿(mào)易協(xié)議，“若誰(shuí)聯(lián)美抗中，必遭反制”
-
“美國(guó)人自豪感急劇下降，特別是民主黨人”
-
“富士康要求中國(guó)員工從印度撤離”
-
美方撤銷對(duì)華乙烷出口限制
-
特朗普參觀“鱷魚惡魔島”：拜登就想把我關(guān)在這兒，這XX養(yǎng)的
-
公安部通報(bào)：陳某為吸粉引流編造“工行假金條”，已被依法追責(zé)
-
“2027年起，整個(gè)產(chǎn)業(yè)將拱手讓給中國(guó)”
-
特朗普威脅：敢礙事，就逮捕你
-
“7年前就發(fā)現(xiàn)問(wèn)題了，一直沒(méi)修”
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號(hào)-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號(hào) 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營(yíng)許可證：（滬）字第03952號(hào)
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號(hào)
中國(guó)互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
