顯示廣告
隱藏 ✕
Disp BBS guest 註冊 登入(i) 線上人數: 99
※ 本文轉寄自 ptt.cc 更新時間: 2023-09-08 10:36:18
看板 Stock
作者 waitrop (嘴砲無雙)
標題 Re: [閒聊] 傳Coreweave是Nvidia和Blackroc
時間 Fri Sep  8 08:40:40 2023


先說結論: 珍惜生命, 遠離妖股
你不看好空手就好,
不要去放空,
妖股的漲跌是華爾街早餐桌上聊天決定的

再來說Coreweave這家公司,
對,
這就是家空殼公司,
這是crunchbase 裡頭的資訊,
過幾天可能會被刪掉避風頭,
所以我先在這裡備份資訊,
https://www.crunchbase.com/organization/coreweave/people
Brian Venturo
Co-Founder and CTO
https://www.linkedin.com/in/brian-v-6719b812/
Haverford College
Bachelors, Economics
Partner
Hudson Ridge Asset Management LLC

Michael Intrator
Co-Founder and CEO

CTO 是經濟系畢業,
前一份工作是在華爾街賣CDO,
CEO 歷史系/人資系畢業,
前一份工作在華爾街賣CDO,
整間公司沒有任何一個人懂技術,
不過我相信這公司一定跟華爾街關係很好

Coreweave 之前是作加密貨幣,
應該就是做雲端挖礦機出租,
現在用一模一樣的概念跟同樣NVDA 的機器,
把挖礦機改名成為AI 機器繼續做雲端出租,
這種東西是投機到不行的,
基本上碰CDO, 加密貨幣, 挖礦機這些東西都是超級投機

我們就來談技術,
這是他們的官網: https://www.coreweave.com/
基本上就是用open source 的 kubernetes (我前面文章有解釋),
這樣要跟其他雲端大廠競爭?
更何況kubernetes 是GOOG 開發的

三大廠AWS/MSFT/GOOG 現在之所有用 H100 並不是真的無法取代H100,
而是跟華爾街以及炒股大戶的AI 科學家們妥協,
不用H100 就會被華爾街認為沒有 AI 競爭力,
公司股價暴跌,
不用H100 就會被AI 科學家們認為平台難用難開發,
但是這只是目前的妥協
其實如果底層不要用CUDA,
可以有非常多的其他選擇,
像是OpenCL/OpenGL 等,
硬體可以用TPU, AMD, 自製ASIC 等等,
真的不是非用H100 不可

我在雲端市場研發也算是有一段時間,
雲端市場很難打進去的, 一大堆奧客,
就像我前面說的AI 科學家們沒有CUDA 就不會寫代碼,
我跟他們解釋半天用OpenCL 用Tensorflow,
他們就是不願意接受,
誰叫我是開發雲端AI 平台給人使用,
然後很多客戶要求一堆的support,
還有一堆鳥問題跟急單,
最好再送sample code, sample or reference model,
最好是可以直接套用,
這樣一家空殼公司,
根本無法處理這些事情


※ 引述《LDPC (Channel Coding)》之銘言:
: 我有在follow coreweave 但是朝另外一個方向 Coreweave現在規劃就是死抱老黃和
: 微軟大腿 他提供的就是第三方租借算力 其他類似的公司有Amazon/Google/Lambda
: 然後Coreweave也有跟微軟簽約提供算力
: 老黃這陣子看得出來 他有在朝算力租借這邊佈局
: 在講這些玩家之前 先科普一下如果踏入AI產業 你大概會選擇三個方向其中一個
: AI開發者有大概三個族群
: 1.Train From Scratch (大公司玩家 每年AI頂會三大會 會看到他們出現刷存在感)
: 代表產物:BLIP(Saleforce)/CLIP(OpenAI)/DALLE-2(OPENAI)/LLAMA(Meta)/Palm-e(Google)
: 2.Fine Tune/Adapter Design: 就是拿上面幾家公司開源的大模型作微調 或者增加套件
: 來整合下游任務 就算是如此也是吃一堆GPU運算 但比上面動輒百顆千顆GPU 小許多
: 3.Deployment (通常是Inference族群)
: 開發者就是把模型部署在終端 針對各種特別User Scenario來做優化AI模型 這塊會是
: AMD將來的市場 目前市值估計是1跟2的10倍 需要的人就是做c code和模型轉變(ONNX)
: Meta目前也在這佈局
: 在Foundation Model大放異彩後 以及開源平台後Hugging Face興起
: (Hugging Face 這家如果有股票 一定要買爆他) 造成許多優秀AI相關人才
: 包含工程師 都想跳入2跟3的領域 來做面對B2C的AI產業
: 這部分都屬於Foundation Model下游任務 在早期李飛飛ImageNet時代
: 這些特製化面向產業的 以前還可以用GTX/RTX這類遊戲顯卡 去做測試和開發和部署
: 現在你大概得要有V100/A100/H100才行 但這些玩意只有大公司有
: 於是老黃目前看來想幹的就是 解鎖這門檻 讓全世界新創 小型公司 任何優秀人才
: 能加入這產業 在透過Hugging Face 你現在想做LLM 只要套用幾個現成模板
: 你就可以做下游特制化產物 老黃開發了一堆套件諸如AI WorkBench 就像你在用SAAS
: Matlab這類軟體 搭個幾個套件 你就可以開發屬於你自己需求下游產物模型
: Pytorch ENG Head也跑去開了一個Firework公司 走這條路
: 原本老黃是寄望雲端三大(Google/MS/Amazon)幫他推租借算力平台 但Amazon已經前後表明
: 他們更希望開發自己的算力平台 而Google/MS隨時都有可能會跳船 那老黃目前感覺就是
: 想養一個親兒子跟他們對幹又或者當替代方案...Coreweaver據傳已經要在德州蓋DGX
: Cloud 做開放AI平台和算力租借整合 據理解DGX這類型Cloud就算是上面三大雲玩家也是需要重新蓋機房
: 無法拿以前的infra來升級 因此上面三個玩家也是需要花錢蓋廠 就某種意義 並沒有
: 比Coreweave來的更領先
: 但只要是聰明人都會注意到 這塊租借算力市場的矛盾性 大公司不會希望上面事情發生
: 最糟糕情況就是3這塊會各家公司分走 甚至危機到1這個Training市場
: 也就是老黃不想看到的 挑戰cuda權威 而老黃感覺是要去搶雲市場租借算力這事情
: 讓更多小資本玩家進入這市場 讓他資本做大 更依賴老黃開發工具體系 打破大公司壟斷
: 大模型 進而在算力租借市場開發新的賺錢項目 越多玩家 他就能賣越多鏟子
: 如果老黃成功打造自己的算力租借軟硬整合雲平台(雖然我不看好) 那我會去解鎖我CD帳戶繼續加碼
: 但我也能理解老黃 如果他不這樣幹 他沒辦法持續壟斷這領域 QQ 總之 繼續在旁邊吃瓜
: 看這群大佬互打

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國)
※ 作者: waitrop 2023-09-08 08:40:40
※ 文章代碼(AID): #1a-csDvQ (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1694133645.A.E5A.html
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:42:35
a12838910   : ai大軍即將抵達1F 09/08 08:44
benson01    : CUDA現在就是無可取代呀2F 09/08 08:50
jerrychuang : W大覺得什麼時候會改變這生態呢?3F 09/08 08:51
payneblue   : 所以你覺得頭頭都不是本科系的就覺得是空殼公司?4F 09/08 08:52
你覺得CTO 不是本科系也沒做過任何技術職,
會是一家正常公司?
一個CTO 連代碼都不會寫也看不懂代碼,
甚至連AI 算法與模型都不懂,
你覺得這樣的AI公司很正常?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:54:54
zerro7      : 感覺你的空殼公司的定義怎麼好像跟市場上不太一樣5F 09/08 08:55
tomdavis    : 看這家公司在整條利益鏈裡面有沒有分到錢囉6F 09/08 08:55
tomdavis    : 老黃就學界用了十幾年 跑模型都用CUDA 用習慣了
otaku690    : 都有WSJ專訪了刪什麼8F 09/08 08:57
ab4daa      : 不是法律系 空殼確認9F 09/08 08:58
tomdavis    : 你真的想推廣就自己發一篇paper比較不同訓練工具10F 09/08 08:58
otaku690    : 訓練系統精華是mulit-node interconnect11F 09/08 08:59
j3024133    : 我也越看越覺得扯….這家才兩三億可以買二十幾億的12F 09/08 09:00
j3024133    : 晶片,然後錢是拿晶片抵押貸款來的,意思就是用NVDA
j3024133    : 的晶片抵押貸款去買NVDA的晶片,這邏輯跟FTX當初抵
j3024133    : 押自己的代幣去套錢根本一模一樣,有人說Blackrock
j3024133    : 的角色是安排公司貸款給Coreweave ,這部分不知道
j3024133    : 怎麼查出來的
otaku690 
otaku690    : opencl吃屎吧18F 09/08 09:00
tomdavis    : 或是用你的工具做個開源的code給大家跑19F 09/08 09:01
donkilu     : 不是人資吧 CEO之前是做避險基金管理的20F 09/08 09:01
donkilu     : CTO資歷跟CEO重疊 大概是從以前跟到現在的親信
抱歉, 眼睛不好看錯, 右眼快瞎了

tomdavis    : 沒有長期經營的合作關係 不能天天酸科學家不用你的22F 09/08 09:02
open source 跟工具當然有呀!
一堆像是tensorflow, opencl 等等,
TPU 搭配tensorflow,
你看有哪幾個科學家願意用, 每個都嫌難用,

不需要合作關係,
是老闆跟下屬關係,
公司要求你用什麼程式語言用什麼工具,
一般員工是不能有意見的,
就算難用也是要學著用,
但是科學家不一樣,
科學家可以跟公司說沒有CUDA 就不會寫代碼,
我遇到好幾次,
我出AI 平台給公司內部科學家,
公司想省錢用自製的TPU 或是ASIC,
公司內部科學家嫌難用, 沒有CUDA不會寫代碼,
我苦口婆心勸用tensorflow, opencl, 還是沒用,
我反而被老闆嫌說花錢開發平台沒人願意用
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:10:58
min86615    : CUDA 整個生態鍊都起來了,現在有點難被取代23F 09/08 09:05
Alwen       : 就跟現在顯卡有點像R,其實你拿AMD的卡去跑遊戲 真24F 09/08 09:06
Alwen       : 的沒差多少
Alwen       : 但一堆單子還是指定N卡
tomdavis    : 公司內部的話 就跟科學家證明你的比老黃現有的更好27F 09/08 09:06
Alwen       : 儘管兩邊卡的遊玩體驗真的沒差多少28F 09/08 09:07
tomdavis    : 跑出來的模型要跟CUDA跑的一樣29F 09/08 09:07
donkilu     : 也要看perf吧 跑三天才出來 你要怎麼說服使用者用30F 09/08 09:09
otaku690    : 跑在單一機器都很容易啦 你8台串聯訓練看看31F 09/08 09:09
otaku690    : opencl那垃圾driver看看
film12      : 照妳的說法,網咖老闆只能是資工系?33F 09/08 09:11
不要亂比喻,
拿網咖跟AI 雲端平台比較是很怪的事情,
你做AI 雲端平台全公司沒有任何技術背景,
跟詐騙集團差不多了,
這樣的公司你還敢信

tomdavis    : 你這樣就是要從小用iphone的人跳安卓34F 09/08 09:12
對, 差不多一樣的意思

Alwen       : 之前教主就有說啊 一堆AI大頭手上一堆NV股票,整個35F 09/08 09:12
Alwen       : 利益集團間接會鞏固老黃那邊的優勢
tomdavis    : 本來就是個不只要做出好工具 還要去花時間推廣37F 09/08 09:12
因為可以幫公司省很多錢, 效能不輸NVDA,
就是你科學家開發模型會比較麻煩,
但是公司是給薪水的人

film12      : OS很好用,為什麼7成人類用Win?38F 09/08 09:13
我到每一家公司都有規定要用特定的OS, 跟特定的工具+程式語言,
不是自己可以決定的,
我們在說的是工作上的事,
牽涉到公司利益與成本,
我工作20年,
大部分公司都是用Linux, 除了微軟用Win

Alwen       : 老黃真的很像iphone水果行,安卓說真的也不是不能39F 09/08 09:13
Alwen       : 取代,但底下的人不想離開= =
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:19:35
tomdavis    : TPU就估狗自己想搞自己的特規 那要教人怎麼用41F 09/08 09:14
opop1132    : 優文42F 09/08 09:14
tomdavis    : 你公司內要推 你就要上面的人去跟科學家攤牌43F 09/08 09:15
tomdavis    : 兩邊要認真直球對決一下 該罵哪邊不好用就改
easychen    : 自己的晶片高價賣給自己的子公司製造缺貨的假象45F 09/08 09:16
tomdavis    : 就算你真的安卓做的比iphone好又如何 人家用不慣46F 09/08 09:16
easychen    : 子公司再拿高價晶片去融資繼續高價買晶片47F 09/08 09:17
easychen    : 好熟悉的套路啊 XDD
tomdavis    : 那結果就是上面要用力推 要讓內部科學家強迫用你的49F 09/08 09:17
tomdavis    : 阿如果模型不如預期也會全推給你的套件沒寫好不好用
tomdavis    : 當然知道用公司自己的不要用老黃的可以省非常多錢
tomdavis    : 科學家可以不要公司的錢 跳去另一家CUDA的公司就好
herculus6502: 科技業頭頭常常是sales,你說阿庫會coding?53F 09/08 09:23
錯,
科技業頭頭大部分是技術底出身,
尤其是CTO 是公司技術的證明,
用sales 當CTO,
這樣的科技公司算是第一家,

更何況是新創公司開公司的人,
99%的科技業開公司的人都是技術出身,
MSFT, GOOG, META/FB, Intel, NVDA, YAHOO, ... 等
你要問為何科技公司開公司的人全都不會寫代碼也沒有技術底,
CTO 還是 sales,
這公司這正常嗎?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:28:49
tomdavis    : 這種公司內部要推的 都是要很上層的表態用力支持54F 09/08 09:25
shinewind   : CUDA把生態系建起來,大家懶得換也合理吧55F 09/08 09:25
tomdavis    : 不然都是吃力不討好的工作56F 09/08 09:25
tomdavis    : 上層用力支持也不一定能成功
shinewind   : 就像word、excel有替代品,但多數人還是用微軟的58F 09/08 09:25
tomdavis    : 科學家有底氣 公司要他們拼出下一代模型59F 09/08 09:29
tomdavis    : 如果他們好找替代人選 公司也不會這麼順從科學家
strlen      : 我覺得抱怨生態系沒什麼意思 不然我們也來抱怨為何61F 09/08 09:32
strlen      : iOS開發平台一定要鎖Swift跟Xcode啊 尤其XCode爛死
tomdavis    : 科學家的頭頭沒有強迫他們用 就代表公司沒有要求63F 09/08 09:33
tomdavis    : 你就不能抱怨公司發錢給科學家 他們還不配合
shorty5566  : 這篇就不專業了65F 09/08 09:33
strlen      : XCode根本就IDE中的恥辱 但你靠北Apple也沒用66F 09/08 09:33
strlen      : 人家前面花了多少成本在推生態系 才有今天壟斷局面
strlen      : 要開發iOS應用也有一堆替代方案 但就不好用R
kanx        : 我以前一直不懂為何中國很興起黑蘋果這套件...69F 09/08 09:35
kanx        : 原來安裝黑蘋果一大半為了Xcode 的編譯器
darkangel119: 說不專業的來發一篇啊 廢魯蛇71F 09/08 09:36
strlen      : 黑蘋問題有夠多 麻煩死了72F 09/08 09:38
strlen      : 生態系這種東西 就是人家佈局得早 而且成功了 人家
必須承認CUDA 生態系做得最好,
效能也是最好的那一級別,
生態系領先別人好幾年,
的確是

但是為了公司省錢還有保住我的飯碗,
要求科學家們用其他的工具+語言,
但是就是不願意接受,
我工作就沒這麼好命了,
公司要我用什麼工具我都只能接受,
還要去學Go, Rust, 痛苦!
還有微軟硬是要用Win 系統去寫代碼跟RTL 設計環境, 超痛苦!!!
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:43:52
strlen      : 就有本事擺態 哪間科技大廠不是這樣 蘋果微軟亞麻造74F 09/08 09:39
strlen      : 局造了甚至幾十年 NV也是如此而已
Alwen       : 這篇給的資訊很多捏,一般新聞根本看不到這種資訊76F 09/08 09:41
Alwen       : ,股版優文
Alwen       : 大家都有認真在討論事情
LieTo       : opencl/opengl這open source要花多少人多久才能達到79F 09/08 09:45
shorty5566  : 承認cuda做最好就好了 扯什麼AI科學家利益相扣幹麻80F 09/08 09:45
LieTo       : CUDA的效能...還要用其它家TPU 根本-50%後再減50%81F 09/08 09:46
idernest    : 完了 一人公司82F 09/08 09:47
zerro7      : 上面那個安卓跳蘋果的比喻好貼切83F 09/08 09:49
shorty5566  : 現在AI生態裡連那個"安卓"都沒有  當然用"蘋果"84F 09/08 09:50
shorty5566  : 後面一堆陰謀論扯CUDA利益相扣 根本在腦補
tomdavis    : 以前寫扣在公司內是第一層 現在被科學家擠下去了86F 09/08 09:58
donkilu     : 絕大部分的公司都還是用Windows吧 科技業還有能力搞87F 09/08 10:01
k85564      : nv這樣就變妖股也是好笑88F 09/08 10:01
donkilu     : Linux ㄧ般公司應付電腦白癡就來不及了還Linux89F 09/08 10:02
donkilu     : 這種東西都嘛是免錢的最貴 用便宜的整天debug就飽了
a12838910   : 33樓 2ㄏ91F 09/08 10:06
zerro7      : Linux架Server好用 但一般PC還是windows首選92F 09/08 10:10
tomdavis    : 不爽不要做 寫扣打工仔也該離職跟公司抗議(反串)93F 09/08 10:16
tomdavis    : 科學家就是敢跟公司嗆離職所以才這麼拿翹(X
tomdavis    : 不過你自己都說了CUDA是最好用的工具
tomdavis    : 用"公司政策"講 科學家的老闆要去施壓才會有用
tomdavis    : 你說公司政策 公司付薪水 他們只對自己的老闆負責
shorty5566  : 上面說得很好啊 也是有能取代excel ppt的東西98F 09/08 10:18
shorty5566  : 但大家最後還是用微軟壟斷的excel ppt
strlen      : 這就好像你公司找iOS工程師進來 跟他說蘋果電腦太貴100F 09/08 10:19
strlen      : 了公司要省錢我們去光華弄一台兩萬塊的桌機我幫你搞
strlen      : 黑蘋開發環境一樣 你看哪個工程師不會爆炸
tomdavis    : 會爆炸的是 iOS工程師 組電腦的想說明明省錢效能好103F 09/08 10:21

--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 86 
作者 waitrop 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇