看板 Stock作者 xephon (不要瞎掰好嗎)標題 [新聞] 不是用輝達GPU!蘋果揭露靠Google自研晶片時間 Tue Jul 30 17:28:51 2024
原文標題:不是用輝達GPU!蘋果揭露靠Google自研晶片訓練AI模型
原文連結:
https://udn.com/news/story/6811/8127425
發布時間:2024-07-30 09:26
記者署名:葉亭均
原文內容:
蘋果公司周一(29日)表示,支撐其AI系統Apple Intelligence的人工智慧模型是靠
Google設計的處理器進行預先訓練。這顯示
蘋果並非是使用輝達(Nvidia)的晶片來訓練
AI模型,也是大型科技公司在訓練先進AI方面尋求輝達晶片以外替代品的一個跡象。
蘋果發表一篇技術報告,詳述選擇採用Goolge開發的兩種TPU(Tensor Processing Unit
,張量處理器)進行AI模型訓練,這些處理器構成了大型晶片叢集。為了建立在iPhone和
其他裝置上運作的AI模型,蘋果使用了2,048個TPUv5p晶片;在伺服器AI模型中,蘋果部
署8,192個TPUv4處理器。
蘋果決定採用Google的雲端基礎設施來訓練AI模型,是值得注意的,因為輝達所生產的AI
處理器是目前業界最熱門的。包含計算Google、亞馬遜和其他雲端運算公司生產的晶片在
內,輝達占了大約80%市占。
在研究報告中,蘋果沒有表明未使用輝達晶片,但在描述其AI工具的硬體和軟體基礎與功
能時,並沒有提到輝達的軟體。
路透說,無法立即連絡到蘋果公司提出回應。Google沒有回覆置評請求,輝達則不願置評
。
輝達並不設計TPU,而是聚焦廣泛用於AI的繪圖處理器(GPU)。
Google是透過其雲端平台Google Cloud Platform銷售能使用其TPU的權利,這點和輝達獨
立銷售晶片與系統的做法不同。有意購買TPU使用權的客戶,必須透過Google的雲端平台
構建軟體,才能使用TPU。
蘋果在47頁的報告中沒有提到Google或輝達,但確實指出其蘋果基礎模型(AFM)和AFM伺
服器是在「雲端 TPU叢集」上進行訓練。這代表蘋果是向雲端業者租用伺服器來執行運算
。
蘋果工程師在研究報告中表示,使用Google的晶片可以創造出比報告中討論的兩款模型更
龐大、更複雜的模型,「這系統讓我們能夠有效率地訓練AFM模型而且可以擴容,包括終
端裝置上的AFM、AFM伺服器與更大的模型。」
蘋果本周將向其測試版用戶推出Apple Intelligence功能。
蘋果在6月的開發者大會上發表一系列新的AI功能,包括將OpenAI的ChatGPT技術整合到其
軟體中。
心得/評論:
蘋果不跟 NVDA 玩,直接跟 Google 組隊
但蘋果到底要訓練什麼東西? 不是把 chatGPT 包一包嗎?
不論怎樣,我買不起麥當勞,也會買 AI 手機
讓 AI Great Agagin! 下半年 AI 股再漲一倍
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.250.142.217 (臺灣)
※ 作者: xephon 2024-07-30 17:28:51
※ 文章代碼(AID): #1cgB9NFG (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1722331735.A.3D0.html
→ kutkin: siri 優化2F 07/30 17:30
→ zerro7: 之前不是說跟openAI合作? 怎麼說法好多種
不過能把siri變聰明真是太好了 現在的很智障3F 07/30 17:32
推 Fezico: 水果店跟老黃有仇阿...6F 07/30 17:34
推 q8977452: 模型用openai 訓練用google的tpu呀...7F 07/30 17:34
推 sp024961: Apple iPhone=Ai8F 07/30 17:34
→ q8977452: 應該說軟體跟openai合作 硬體跟google合作10F 07/30 17:35
推 onewaylun: google的也是委託AVGO設計12F 07/30 17:37
推 poeoe: 這好事啊 蘋果的選擇不錯13F 07/30 17:37
推 strlen: 我覺得庫克的眼光真的有點奇怪 電動車翻一次 我看AI15F 07/30 17:40
→ strlen: 晶片大概又要翻一次17F 07/30 17:40
推 uller: 不管那個都是台積18F 07/30 17:40
推 poeoe: apple car取消好事啦 特斯拉那麼強要怎麼玩20F 07/30 17:42
→ aegis43210: 不過TPU只能對主流AI演算法加速的缺點,蘋果剛好不在意,因為蘋果只會重新定義23F 07/30 17:42
噓 cor1os: 在AI這塊,就算蘋果跟谷歌合起來也不是對手,純粹賭氣30F 07/30 17:47
推 aegis43210: 這樣蘋果可以訓練出和Gemma 2差不多的AI模型,但卻是自有模型,不用被微軟及google掣肘31F 07/30 17:48
推 andy810306: 本來就只需要做巨頭的幾個主流模型啊,你以為弄個通用晶片裝忙半天能搞出啥東西哦,不要幻想了36F 07/30 17:52
推 aegis43210: 另外蘋果也有GPU,要觀察蘋果是否想跨入GPGPU市場,不然怎麼會不用老黃39F 07/30 17:53
→ andy810306: AI就是巨頭說了算,通用能跑一萬個模型是要賣給誰我們巨頭就只有其中幾個模型有用到自研就好42F 07/30 17:54
噓 pziix: 爛掉了 這蘋果44F 07/30 17:55
→ Miseryz: 覺得應該是因為成本而做的選擇46F 07/30 17:56
推 sdyy: 難怪siri越來越笨 常常在車上叫他導航 都會說車上無法使用此功能49F 07/30 17:57
推 JustinCy: Google晶片train AI? 自己寫一套OpenAI?51F 07/30 17:58
推 hbooreo: Gemini 不好用,apple要確欸53F 07/30 18:00
推 andy810306: 有人不知道openAI整批人都是deepmind員工哦,不過當初google高層怕東怕西被chatgpt先發表比較可惜55F 07/30 18:02
推 EeLong: 不就是SIRI不行才要用ChatGPT. 但蘋果的自研AI還是會同步進行,只是採用谷歌的晶片。估計成功機率不大。跟主流對著幹就是賭61F 07/30 18:12
推 ysb727: 我覺得蘋果要退流行的趨勢,因為太耐用了嗎?
這是賭注很奧妙,有夠散戶思維
直接買權值股很難嗎?64F 07/30 18:14
推 uxy82: 所以還是買GG比較好?68F 07/30 18:15
→ shepherdd35: 蘋果賈伯斯要走在最前端 貴不是問題
現在蘋果要costdown…..69F 07/30 18:16
推 sdbb: 蘋果可以重新定義權質股71F 07/30 18:17
推 siki588: Gemini用過心得:恩 好吧 還是GPT屌72F 07/30 18:19
推 capirex: 不是還說要做機器人嗎?77F 07/30 18:29
→ gk1329: 庫克 costdown達人 讚79F 07/30 18:38
→ bala045: 看推文都在酸就知道蘋果做對了80F 07/30 18:40
推 watertip: Gemini 不差耶 雖然之前中了woke virus, 但不應小看google81F 07/30 18:41
→ strlen: 問題不是出在自研AI晶片 問題是出怎麼會去找Google 不是應該自己做?
這樣還不是被別人卡脖子83F 07/30 18:44
推 exojin: Silicon不是被吹噓到無所不能?幹嘛不用自家的gpu跑AI?86F 07/30 18:47
推 nocash: Google 也是用台積電的晶片,是吧?拜託你說是89F 07/30 18:56
推 chysh: 不就太晚買搶不到貨啊... 都被meta和老馬搶光了90F 07/30 18:57
推 Ronee: 最近開始使用付費的MaxAI Claude最棒而且越用越滿意 真的會記住使用者喜好 免費版優秀到可以吊打其他AI模組付費版 Gemini第二名 一開始覺得它最好用但越用體驗感越覺得不如預期 偶爾還會給出一行文的答案 免費的Copilot比上不足比下有餘92F 07/30 18:58
推 hamydad: 但晶片都是gg 的97F 07/30 18:59
推 Ronee: Claude有次我沒注意到切換版本 免費版給的答案竟然不輸給付費的AI98F 07/30 19:02
噓 YesNoter: 碰購不是都比人家晚 反正到時候再重新定義100F 07/30 19:09
推 fajita: 阿婆會押錯寶,馬投顧已經示警谷歌了101F 07/30 19:14
推 nokias: Apple要涼了?102F 07/30 19:27
推 HarukaLM: 感覺apple ai不妙了...103F 07/30 19:30
推 Alpha99: 不管用什麼 能強化智障Siri 都是好事104F 07/30 19:33
推 allen527: 蘋果應該是自己的ai蘋果厲害的是軟體,chat gpt只是合作提供另一個選擇罷了
三星手機的ai玩過後覺得沒有很厲害…105F 07/30 19:35
→ macetyl: 換湯不換藥,要用chatgpt,open ai一樣要用nv gpu一開始自己搞地圖也是爛到爆,沒想到還是重蹈覆轍108F 07/30 19:41
推 huabandd: 蘋果採用google的雲端運算來訓練感覺比較划算,自己買晶片很快就會汰舊換新了,買一堆沒幾年又要被超越了,還不如用雲端的時機,我也覺得未來是高速網路跟雲端運算的天下,手機本身不需要太強大,透過高速網路接收運算後的結果就好了
gemini跟chatgpt在準確性上面還是一堆問題110F 07/30 19:46
→ stosto: 最後還是去找chstgpt116F 07/30 19:50
推 pziix: 蘋果做不出來電動車 早就涼了 還有什麼好期待
看推文 還有人覺得蘋果做對了 唉117F 07/30 19:51
推 bj45566: 感覺微軟的 AI 策略比 Apple 好,微軟之前 Azure
平台發展大成功就立於不敗之地了
之前微軟賭雲端平台,Apple 賭元宇宙和電動車,高下立判120F 07/30 19:56
推 ACDC69: 蘋果的價值剩下會掏錢的果粉了124F 07/30 19:57
推 richaad: META最新的LLama3.1論文效能比較,根本沒把Gemini寫進去,表示Google 現在只能算二線126F 07/30 20:08
推 buyerko: 不想花大錢,意思意思跟一下128F 07/30 20:08
推 tennyfox: Google硬體真的很爛不用懷疑啦!手機出多久了!130F 07/30 20:13
推 tinkle: 沒差啊 晶片還是只能跟台積電下131F 07/30 20:15
推 Detonate: Ai 的年代真的忍不了Siri 那個阿呆 再不快生出來老子就不換手機132F 07/30 20:31
推 aoc7175: 蘋果會毀在庫克手上gggggg134F 07/30 20:35
推 horb: 所以Siri才那麼笨135F 07/30 20:36
推 bj45566: Google 當初發表 LLM 論文的作者群全部都離職了,Google 本家的內部環境一定出了什麼問題;但 Google 收購的英國 DeepMind 團隊最近有好消息,他們的軟體在數學奧林匹亞競賽能夠拿到銀牌,是目前數理能力最強的生成式 AI
P.S. 我感覺 Google 本家爛很久了...136F 07/30 20:42
推 zhi5566: google CEO很強啊 裁員+加廣告量 這次業績不好就在做一次上述143F 07/30 20:53
推 tmdl: 有Nokia的即視感147F 07/30 21:08
推 ppuuppu: 召喚W大解析GOOG148F 07/30 21:09
推 willion003: 用過ChatGPT真的回不去,未來搞不好真的要換手機了149F 07/30 21:13
噓 DrGun: the more you buy the more you save葛鬼!人家根本8屌尼 8買der最大!!天下苦黃久矣!!!150F 07/30 22:05
--