看板 Stock作者 waitrop (嘴砲無雙)標題 Re: [新聞] 輝達最新AI晶片驚傳設計瑕疵 外媒爆出時間 Sun Aug 4 15:04:04 2024
※ 引述《a000000000 (比古A十郎)》之銘言:
: ※ 引述《a0931040970a (阿福仔)》之銘言:
: : 7/15,臺灣某家機構(不點名)報告GB200 Bianca存在過熱問題…這是我知道最早的,但
: : 消息小範圍傳播還可以往前推
: : 7/17,UBS報告,如果不能解決Bianca過熱問題,那麼GB200 NVL36的發貨可能會延遲;JP
: : M報告,認爲主板潛在過熱和高電壓問題不是新問題,不預期Bianca主板生產會有實質性
: : 推遲。
: : 7/22,傳出GB200機櫃液冷系統泄漏問題
: : 7/31,摩根斯丹利報告,提到GB200機架面臨HBM3e/CoWoS/冷卻3大問題,但依舊將英偉達
: : 列爲“首選”
: : 8/1,臺灣供應鏈傳出CoWoS產能問題,B100取消,切到B200,但B200存在延遲
: : 8/2,郭明錤發推,對潛在影響GB200 NVL36/72的短期因素進行了分析
: : 8/3,The Information確認Blackwell上市時間可能會延遲三個月或更長時間;英偉達發
: : 言人沒有對有關延遲發表評論,表示“生產計劃將在今年晚些時候按計劃增加”
: : 新聞在很久以前就發生了,刻意在週末推出來就是要引發多殺多的恐慌新聞,週一不要砍
: : 阿呆 信老黃得永生。外資就是要用這新聞殺死多軍,41500空單爆賺,週一大家融資槓桿
: : 開下去軋爆小兒
: 我聽來的消息
: 這時候問老黃那邊的人大概很難摸到問題在哪
: 因為問題高機率是瞎掰的
: CSP那邊的人的講法
: 現實是CSP覺得h100->b100換代成本太高
: 晚點再換直上B200比較有意義
: 也可以說底類還取消啥的也不能算空穴來風
: 不過這些計畫應該老早就決定惹
: 現在炒這不知道在幹嘛
: 另外一葛小觀察
: 本來老黃在想搞每年換代這種套路
: 我就覺得這傢伙真的是從礦潮時代學到一堆陰招
: 當時挖礦
: 只要顯卡換代 挖礦能力暴增->算力暴增->礦廠軍備競賽
: 現在AI算力也有點類似這種概念 有點
: 因為應用層都在算token cost決定定價
: 換代=>token cost暴降=成本下降
: 尼不跟上 94看對手把價格往下壓搶光市場
: 不過這事看惹一年半載
: CSP其實動作&活力真的屌輸當年各路礦廠
: 光CSP整天操壞GPU這事就很誇張惹
: 顯然這幫人花在研究避免顯卡被操壞這事的程度遠比不上個體戶礦廠
: 畢竟是大型企業組織
: 然後底下領薪水的各路工程師當然不可能跟尼那樣衝換代
: 結果就變成老黃想衝 CSP只想慢慢來
: 不知道哪天會不會二手市場
: 看到女用H100
: 女用B100
: 喔幹
: 尼這逼還可以女用喔
週末閒聊,
CSP 幾個主要大廠就是微軟, AMZN, 谷歌, Oracle/IBM, 阿里巴巴,
AMZN 跟谷歌一直都有自己的研發團隊研發AI晶片,
其中又以谷歌的TPU最有名,
谷歌CSP 對外提供NVDA GPU 與TPU兩種選項,
但是對內的話,
大部分是要求用TPU,
真的不行或是用量太小才會用NVDA GPU,
用量太小的定義就是tape out生產TPU的成本大於買NVDA GPU,
像是search, youtube 甚至AI research這種用量超大的,
幾乎都是用自家的TPU 成本較省
AMZN 的情況應該也是差不多,
內部使用應該還是以自家生產的晶片為主,
只有對外的AWS才會有較大的NVDA GPU 用量(客戶需求),
至於Oracle/IBM, 阿里巴巴這些較小的CSP就不討論了,
不過我相信Oracle/IBM, 阿里巴巴都是用NVDA GPU,
我主要想說的微軟與OpenAI,
其實你有在follow就會知道,
微軟與OpenAI一直是AMD 最大的AI晶片客戶,
也是與AMD AI晶片研發合作最密切的公司,
當然以目前AMD AI晶片的產量是完全無法符合微軟與OpenAI的需求,
所以,
微軟跟OpenAI 才是市場上真正購買NVDA GPU最大的客戶
再加上之前蘋果的AI手機要跟OpenAI合作的新聞,
我當時認為這會導致NVDA GPU的需求大幅增加,
AAPL -> OpenAI -> NVDA GPU,
結果前幾天的新聞讓我驚訝的下巴掉下來,
原來蘋果的AI模型是跑在谷歌的TPU上面,
而且那顆TPU的規格還是那麼的熟悉,
真是保密到家,
所以我的猜測又再一次的猜錯了,
不是用NVDA GPU, 居然是用谷歌TPU
我只是就所有的新聞做整理,
版上都拿找到,
結論自己解讀
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國)
※ 作者: waitrop 2024-08-04 15:04:04
※ 文章代碼(AID): #1choVcKA (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1722755046.A.50A.html
※ 同主題文章:
Re: [新聞] 輝達最新AI晶片驚傳設計瑕疵 外媒爆出
08-04 15:04 waitrop
推 gn7722: 請問這些是不是都是台積電代工?1F 08/04 15:05
蘋果會重新定義AI
推 motan: 九陽神功:他橫由他橫,我自明月照大江7F 08/04 15:10
推 homeaki: 蘋果跟輝達之前有嫌隙 不用輝達不是早知嗎8F 08/04 15:12
其實是蘋果跟OpenAI的合作,
原本以為OpenAI會用NVDA,
但是新聞看來不是這樣
推 stlinman: 請 AMZN 99 世芯-KY AMZN你自己也有買啊!9F 08/04 15:13
推 manlike: 反正就是大家不可能讓老黃這麼爽11F 08/04 15:14
※ 編輯: waitrop (76.103.225.6 美國), 08/04/2024 15:16:59
→ manlike: 大家都知道不能被老黃綁住 老黃也只能趁現在能撈盡量撈12F 08/04 15:16
推 sdbb: Cuda 被繞過去了?14F 08/04 15:16
推 junior020486: 不過說不定google的那顆被B200電爆,最後還是要回去買老黃15F 08/04 15:16
推 leota: 代工勝利17F 08/04 15:16
→ gladopo: 水果也沒有要認真玩AI,先試水溫而已19F 08/04 15:17
→ manlike: 老黃包圍網已經形成 老黃卒業預定20F 08/04 15:17
推 clecer: 馬教主買很多21F 08/04 15:17
→ clecer: 馬教主這麼精打細算的人,也不可能讓老黃這麼爽的24F 08/04 15:18
馬教主買的NVDA GPU 一堆都躺在倉庫裡頭連開箱都沒有,
他自己的X上面說的,
他囤了一堆NVDA GPU在倉庫,
至於為何他會買這麼多NVDA GPU,
我之前說過一個理論 被大家罵爆的理論,
如果你說你要做AI 但是沒有買 NVDA GPU,
就表示你是AI 魯蛇,
華爾街不喜歡會股價大跌,
之前台灣法說會也應證了我的說法,
一堆阿貓阿狗都說他們在做AI 有買NVDA GPU,
甚至連蓋房子跟賣水泥賣石油的都在喊AI, NVDA GPU,
你版上搜尋關鍵字都能找到新聞
在更後面的話我就不說了
※ 編輯: waitrop (76.103.225.6 美國), 08/04/2024 15:23:50
推 kira925: 水果的運用要TPU跑比較合適也快阿25F 08/04 15:22
→ bankk: 對啊,結論就是不能讓老黃一個人爽26F 08/04 15:22
→ sheep2009: AAPL都要跟openAI合作的 代表真的解決不了的再外包27F 08/04 15:22
推 junior020486: 老馬X講的你當屁話就好了,買一堆GPU放在倉庫裡面不用,股東會就被股東幹爆了啦,資本支出放在倉庫直接被電翻29F 08/04 15:27
推 Jeff1989: GG:他奶奶的還不都是我做的,跌個屁啊32F 08/04 15:27
推 mdkn35: 我不認為google的NTU能發展得這麼快 可以跟NVDA比34F 08/04 15:29
→ sheep2009: 老馬前幾小時才發文說正在用 100K H100/H200耶35F 08/04 15:29
自己縮排, 網上搜尋一堆
https://www.datacenterdynamics.com/en/news/
News - DCD
The largest data center news publication, tracking colocation, hyperscale & cloud, AI, Edge computing, semiconductors, power & cooling, HPC, and more ...
elon-musk-told-nvidia-to-ship-thousands-of-gpus-reserved-
for-tesla-to-x-and-xai/
Elon Musk told Nvidia to send thousands of GPUs to X and xAI, which were
originally reserved for Tesla.
"originally reserved"
推 CYL009: 一個顯卡廠商還想飛上枝頭當鳳凰啊 包圍網開始惹www37F 08/04 15:30
→ kira925: 有的時候你不需要全面領先 特定領域領先就好38F 08/04 15:30
推 strlen: 阿祖:啊我呢啊我呢 我也買很多R39F 08/04 15:30
對,
我原本也想講阿祖,
但是他不是CSP,
阿祖的確是NVDA GPU的大客戶,
雖然他自己也有自製AI晶片,
但是大部分需求都還是買NVDA GPU,
所以NVDA 前途還是很看好
※ 編輯: waitrop (76.103.225.6 美國), 08/04/2024 15:32:58
噓 hortl233: GG:你媽的都是我做的,殺我幹麻?
GG唔告雖小40F 08/04 15:31
推 oldmove: 結論就是買台積電就對了 正2無腦灌進去42F 08/04 15:33
※ 編輯: waitrop (76.103.225.6 美國), 08/04/2024 15:35:10
他們不是CSP,
不過他們兩個的確是NVDA的超大客戶,
搞不好是前三名客戶
※ 編輯: waitrop (76.103.225.6 美國), 08/04/2024 15:37:38
推 sdbb: 之前不是說離不開Cuda ?45F 08/04 15:37
我從來沒說過離不開Cuda,
你看我從前文章說的,
七巨頭一直都有能力繞過cuda
※ 編輯: waitrop (76.103.225.6 美國), 08/04/2024 15:38:31
推 pantani: GG的問題就是代工終究只是打工仔 再賺錢你的評價都不可能跟那些巨頭相提並論47F 08/04 15:38
推 hamydad: gg到底錯在哪 照客戶設計圖製作 還幫忙debug 結果還跟著噴 產能也沒掉 錢照賺49F 08/04 15:38
→ Alwen: 封閉模型都快被阿祖羊駝幹爆惹 我很懷疑兩三年後51F 08/04 15:38
推 lingbei: 配來配去不是都要AI嗎,這樣AI泡沫什麼52F 08/04 15:38
→ Alwen: 大廠封閉模型就變成自high的東西53F 08/04 15:38
推 gladopo: 其實GG的本益比已經逐漸脫離代工仔了,只是花街短期沒辦法接受GG這拉到跟其他巨頭一樣的本益比
還有就老問題GG不是高貴的米國公司54F 08/04 15:38
→ pantani: 這就像台灣對世界科技業舉足輕重 但你連在觀眾席舉國旗都要被趕一樣 你就是沒有自己的品牌58F 08/04 15:41
→ bndan: 台G崩的原因就是籌碼面 這跟之前航運87%像 基本面未60F 08/04 15:42
→ pantani: 除非做到產品外面有貼tsm inside 再說61F 08/04 15:42
→ bndan: 來面能保證的就是時間到兌現給你 其他的都沒辦法保證..所以看基本面買股就是壓1年期貨阿= = 都買一年62F 08/04 15:42
噓 hortl233: GG會成功的絕對原因,也是因為他沒有自己的品牌
客戶才會把設計交給GG。自弄品牌就走三爽的後路64F 08/04 15:42
推 dragonjj: 老馬說要搞超級電腦絕對不可能放著不用,而且我記得他有説想要出借算力,連自動駕駛訂閱給其他車廠我其實覺得他的做法很像csp,臉書我覺得他可能是前三名可以真實找到ai 變現實力的廠商!66F 08/04 15:43
→ bndan: 遠期貨了 你還期待提早漲逆?70F 08/04 15:43
推 ck326: 巨頭本益比?去看一下谷歌和蜥蜴人好嗎?這兩家長年都2X而已71F 08/04 15:43
→ hortl233: 有品牌 = 競爭。三爽就是因為這樣被貼標籤73F 08/04 15:43
推 clecer: 老馬德州放server 的廠房還在蓋,YT上有影片,那個巨大的散熱風扇非常驚人74F 08/04 15:44
→ pantani: 我指的是一般產品消費者不會去在意這隻手機晶片是不是台積電代工的 如果做到一般消費者也會在意不是台積電代工的那我不要 那就成功了76F 08/04 15:44
推 kira925: 這件事情之前iPhone已經發生過了81F 08/04 15:45
推 hortl233: 也不用中美台。因為GG會成功的另一個絕對原因
也是因為台灣是唯一一個拿碩士做輪班的
哪個國家會拿碩士班幹這種產出效率這摸低的工作82F 08/04 15:45
推 noahlin: iPhone 16換機潮只要不如預期TSM也是下去
以美國消費降溫甚至緊縮的狀況 有點疑慮是合理 這兩年已經炒AI炒到忘記最大客戶還是蘋果這個2C的公司了85F 08/04 15:47
→ clecer: 半導體本來就是景氣循環產業,這波被AI 需求拯救或是延長,如果GPU需求沒那麼樂觀,GG被殺也是很合理的,蓋了一堆新廠房都是基於AI需求,想想2022 over booking 的慘況88F 08/04 15:48
推 hamydad: 沒賈伯斯真的沒期待感XD94F 08/04 15:50
→ FMANT: 舉國旗被趕 阿不就人家認為你盜版中國95F 08/04 15:50
→ gladopo: 反過來,ai是讓gg不這麼依賴水果,gg這麼爽是先進製96F 08/04 15:51
推 hortl233: GG在2022的over booking有到「慘」?99F 08/04 15:51
推 noahlin: 而且剛開始apple ai只支援英文 跟vison pro只賣少數國家一樣 要真的普及到帶動全面換機潮應該沒那麼快100F 08/04 15:51
→ gladopo: apple ai就硬擠的大家都看得出來吧? 短期不用期待102F 08/04 15:52
推 moike22: nv被看好空喔 怎麼辦103F 08/04 15:55
推 good5755: Tesla不是說要買1萬張的H100 這數量坐二望一吧104F 08/04 15:56
推 reverieh: 老馬就GPU到貨,廠房還沒蓋好,就先拿去給他私人Xia用然後被人靠杯LOL106F 08/04 15:59
推 GGFACE: 結論就是GG或成最大贏家108F 08/04 16:05
推 z23061542: 所以才不知道GG再跌三小 巨頭在軍備競賽109F 08/04 16:06
→ gladopo: GG就怕川川會搞啊,很明顯吧?110F 08/04 16:07
→ z23061542: 賣火藥的 股價再跌?
川川關稅開下去 是美國人沒手機用111F 08/04 16:07
推 gladopo: 問題沒人敢保證川川會不會搞對吧? 高點先回擋合理吧113F 08/04 16:09
推 josephpu: GG法說就有說不擔心關稅問題影響獲利,當然不排除川普還有別的爛招。但GG被怎麼搞,高機率都要轉嫁到七巨頭上面
這波下殺川普頂多當一個引爆點,現在根本沒人care115F 08/04 16:11
推 gladopo: 其實我同意GG大到快沒辦法搞了,川川搞GG就是搞自己的電子產品,不過老話一句高點什麼鳥事可能是引爆119F 08/04 16:13
→ joygo: 蘋果那麼猛121F 08/04 16:13
→ z23061542: GG也怕托拉斯阿 可是這就用肝臟換來的錢122F 08/04 16:14
推 aegis43210: 搞的方法那麼多,那可能沒辦法搞,別把GG想的太強不要自己騙自己,GG最終還是要遵守美國國策123F 08/04 16:14
→ z23061542: 印特爾很強阿 還不是內部腐化濫倒掉
變美GG也沒差啊 所以GG要怕什麼?125F 08/04 16:16
推 gladopo: gg不怕,股東很怕127F 08/04 16:17
推 josephpu: GG要遵守美國策略沒錯,但美國政府搞GG的同時高機率會搞到科技七巨頭。而且美國搞台G真的沒什麼意義,他們最大的目的是中國不能有先進製程129F 08/04 16:21
推 aegis43210: 嗯,的確是GG不怕,股東很怕,再這樣下去,肯定要132F 08/04 16:21
→ josephpu: 等哪天美國不計代價也要把台積吃掉,那你恐怕要擔心開戰了133F 08/04 16:22
推 rtyue: 博土加持 下週回200135F 08/04 16:22
→ aegis43210: 硬吃I皇的FAB了,GG會統一晶圓代工,但利潤會狂掉GG就美國的,那來的吃掉,是要GG把產能一部份到美國136F 08/04 16:22
推 Brioni: 這幾家巨頭都美國公司,所以看美國會不會衰退就好,不著陸就飛、軟著陸就盤、臉著陸就崩138F 08/04 16:25
推 richaad: META不是自己說NVDA10萬顆,一開始大概是40%的算力,在強大NVlink下還是一堆時間都在等資料傳輸,還不包含模型除錯時間,後來自己開發除錯工具,現在能跑到90%以上,聽別人說AMD串1萬顆,還不知道有沒有10%性能,難怪老黃說買愈多省愈多,AMD真的是卒業予定140F 08/04 16:27
→ z23061542: 利潤會狂掉 然後跟美國綁的越深 我台灣人舉雙手雙腳支持 一輩子都有美國人保護耶 能做一輩子的壟斷生意以後美國國策會保護你 拖拉斯?誰會怕146F 08/04 16:32
推 junior020486: 現在有點擔心i16銷量,Apple intelligence延後根本搞笑
這樣大家只會覺得Apple很掉漆149F 08/04 16:36
→ josephpu: 目前看來真的追不上,而且這還只是購入成本,後續營運的水電土地成本會拉得更遠,老黃說買越多省越多真的不是開玩笑,只是其他巨頭再努力反擊而已154F 08/04 16:39
→ Obama19: 開始算誰用誰的 有沒有水手運價即視感?158F 08/04 16:41
推 gladopo: 兩、三年內老黃就是無敵的,想爭第一就乖乖給他賺159F 08/04 16:41
推 venroxas: 搞GG有什麼好處 搞不掉不是更慘 商人逐利當然是雙方都賺才比較好163F 08/04 16:47
推 ZheCAI: 蘋果跟輝達的Beef有沒有可能消失?要賺大家一起賺165F 08/04 16:47
推 sdbb: 請問有沒有人要喝羊奶QQ167F 08/04 16:50
推 ejnfu: 誠心發問所以結論是啥?168F 08/04 16:52
推 gary82gary: google 的tensorflow幾十年前就開始玩了,這幾年才有個gpt還是微軟的
是什麼原因突然有這種轉變169F 08/04 16:54
推 lusifa2007: 蘋果還不是要外接到open AI 那就還是NV181F 08/04 17:53
噓 jatj: 說了半天 結論是你猜錯了 那你幹嘛說182F 08/04 18:09
推 chean1020: 老馬講幹話還真的有人當真XDDD,他說過的幹話多了去,你也太較真了183F 08/04 19:07
推 doranako: apple就是買雲計算,不需要nv gpu等級就用便宜的185F 08/04 20:29
推 Tatsuya72: 純推蘋果重新定義AI
美國臉著陸板上釘釘186F 08/04 23:58
推 kamichu: 大家表面上都說沒有買不想用 問題是市場上就不是這樣 尤其老馬就是常常跟你說我都沒讀書每天玩遊戲
可是私底下都讀書到半夜188F 08/05 01:45
推 sean667cd: 有人知道core weave 近情嗎,感覺是老黃的備案,過幾年大家搞自製,他也能自用庫存,自己搞csp191F 08/05 02:09
--