-
蘋果在谷歌芯片上訓練AI,打響拋棄英偉達GPU第一槍?
最后更新: 2024-07-30 13:06:37美東時間7月29日,蘋果公司發(fā)布iPhone AI的首個預覽版,隨后發(fā)布論文,稱其人工智能模型是在谷歌的TPU(張量處理單元)上訓練的。論文中介紹了為支持Apple Intelligence功能而開發(fā)的基礎語言模型,包括一個設計用于在設備上高效運行的約30億參數(shù)模型和一個基于私有云計算的云側大模型。
蘋果基礎模型的建模概述蘋果官方發(fā)布論文
蘋果發(fā)布的論文稱,他們在8192塊TPU v4芯片上訓練云側AFM(Apple Foundation Model),使用4096的序列長度和4096個序列的批量大小,進行了6.3萬億token訓練。端側AFM在2048塊TPU v5p芯片上進行訓練。
蘋果的決定表明,一些大型科技公司在人工智能訓練方面可能正在尋找英偉達圖形處理單元的替代品。
一些芯片行業(yè)媒體稱,這是蘋果打響了拋棄英偉達GPU的第一槍。
今年6月初,日本證券公司瑞穗證券估計,英偉達控制著用于訓練和部署OpenAI的GPT等模型的AI芯片市場的70%至95%。一些專家將英偉達在AI芯片市場的地位描述為護城河,其旗艦AI圖形處理單元GPU(例如H100)與該公司的CUDA軟件相結合,使其在競爭中占據(jù)了先機。
包括谷歌、Meta、甲骨文和特斯拉在內(nèi)的科技公司一直在努力構建自己的人工智能系統(tǒng)和產(chǎn)品。
心智觀察所研究員潘攻愚指出,蘋果宣布其Apple Foundation Model(AFM)在谷歌自主開發(fā)的Tensor處理單元(TPU)進行訓練,而且還租用了谷歌的云服務。蘋果在AI訓練方面的權衡折射出了英偉達通用型AI加速器和谷歌的ASIC定制化AI服務體系的競爭升級。
谷歌自2015年以來一直在使用自主設計的TPU來訓練和部署AI模型。不是設計通用處理器,而是將其設計為專門用于神經(jīng)網(wǎng)絡工作負載的矩陣處理器,在整個大量計算和數(shù)據(jù)傳遞過程中,根本不需要訪問內(nèi)存。
今年5月,谷歌宣布推出了人工智能(AI)數(shù)據(jù)中心芯片Trillium,據(jù)稱該芯片的速度相比之前的版本提升了幾乎5倍。該公司表示,這款芯片將用于開發(fā)自己的模型,包括Gemini和Imagen。
谷歌稱,如果提前三年預訂,最新的TPU每小時使用成本不到2美元。谷歌于2015年首次推出TPU用于內(nèi)部工作負載,并于2017年向公眾開放。它們現(xiàn)在是專為人工智能設計的最成熟的定制芯片之一。
盡管如此,谷歌仍是英偉達最大的客戶之一。它使用英偉達 的GPU和自己的TPU來訓練AI系統(tǒng),并且還在其云端出售英偉達技術的訪問權限。
“雖然英偉達目前控制著高達80%份額的高端AI芯片市場,但剩余市場份額大多被大型云服務供應商如谷歌、微軟、亞馬遜占據(jù)。這一次蘋果采用的谷歌TPUv5雖然在通用性上較英偉達同生態(tài)位芯片遜色,但主打一個性價比,綜合總成本(TCO)要低英偉達四倍,而且拿貨周期短。目前谷歌TPUv5所在的市場大約有300億美元,英偉達一直覬覦這塊‘肥肉’,但考慮到和谷歌微妙的競合關系,英偉達目前還不會貿(mào)然大舉進入ASIC領域。”潘攻愚分析稱。
Meta首席執(zhí)行官馬克·扎克伯格和Alphabet首席執(zhí)行官桑達爾·皮查伊上周均發(fā)表評論稱,他們的公司和業(yè)內(nèi)其他公司可能在AI基礎設施上投資過度,但他們也承認,不這樣做的商業(yè)風險太高。一旦落后,將無法掌握未來10到15年最重要的技術。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權,不得轉載。
- 責任編輯: 李亞麗 
-
10分鐘漲到1.8元,多地共享單車漲價
2024-07-30 10:07 觀網(wǎng)財經(jīng)-消費 -
吳清主席會見英國駐華大使吳若蘭
2024-07-29 21:00 金融觀察 -
國產(chǎn)品牌力挺,國產(chǎn)手機OLED面板全球份額超50%
2024-07-29 18:53 觀網(wǎng)財經(jīng)-科創(chuàng) -
10億投資臺灣,AMD和英偉達貼身肉搏
2024-07-29 18:35 觀網(wǎng)財經(jīng)-科創(chuàng) -
國家電網(wǎng)投資將首次超過6000億元 特高壓建設高景氣有望延續(xù)
2024-07-29 17:56 能源戰(zhàn)略 -
抖音支付等16家機構率先更換“新版”支付牌照
2024-07-29 11:40 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
恒大汽車附屬公司被申請破產(chǎn)重整
2024-07-29 08:09 觀方車訊 -
全國首例!南京一住宅項目停工兩年,官方協(xié)調(diào)集中退房退首付
2024-07-27 20:49 觀網(wǎng)財經(jīng)-房產(chǎn) -
廣州上半年GDP超1.4萬億元,同比增長2.5%
2024-07-27 20:19 -
中信建投回應實習生事件:系某團隊負責人違規(guī)引入,已被撤職
2024-07-27 20:15 -
上半年深圳GDP1.73萬億,同比增長5.9%
2024-07-27 17:10 -
華為與聯(lián)發(fā)科互訴,最關心結果的是高通?
2024-07-27 11:01 觀網(wǎng)財經(jīng)-科創(chuàng) -
香港要做的,是把股民從美股身上搶回來
2024-07-27 10:31 -
困在“調(diào)度費”里的新鄭機場網(wǎng)約車司機
2024-07-26 21:02 -
中日匯率飆漲,正讓美元資產(chǎn)很難受
2024-07-26 18:55 觀網(wǎng)財經(jīng)-金融 -
證監(jiān)會:研究謀劃進一步全面深化資本市場改革開放的一攬子舉措
2024-07-26 18:35 金融觀察 -
不應泛化新質生產(chǎn)力,什么好東西都往這個“筐”里裝
2024-07-26 16:09 2024中國經(jīng)濟季度觀察 -
俞敏洪:東方甄選不會再出現(xiàn)某個主播成立獨立平臺
2024-07-26 16:04 -
財政部:6月份全國共銷售彩票559.37億元,同比增長14.8%
2024-07-26 15:22 -
開啟內(nèi)測!OpenAI的搜索引擎要來了
2024-07-26 11:31 觀網(wǎng)財經(jīng)-科創(chuàng)
相關推薦 -
最新聞 Hot
-
“即使特朗普下臺,美國政策也不會變,中日韓要合作”
-
“船到橋頭自然直”,印外長回應美議員
-
俄海軍副總司令陣亡
-
“在越南的中國制造商松了一口氣”
-
他倒戈后就躲起來了,電話都不接,同僚評價:聰明
-
“美國已解除這項對華出口禁令”
-
“印軍將全面排查中國產(chǎn)零部件”
-
美國和盟友鬧掰?“本質沒變,中國需高度警惕”
-
斯塔默不吱聲,英財相當場落淚,“哭崩”市場
-
家樂福CEO放話:對中國小包裹,要學特朗普征稅100%
-
莫迪表態(tài):金磚是重要平臺
-
“還想阻撓大陸武統(tǒng)?美國太晚了”
-
受賄數(shù)額特別巨大,齊同生被提起公訴
-
“美國占一半,中國分四成,歐洲...”
-
李在明最新涉華表態(tài)
-
叫完“爸爸”又被白宮整活,北約秘書長:驚喜且有趣
-