作者 IntelNNP (英特爾NNP)標題 [新聞] AI浪潮 6/AI新時代!超級晶片GB200 黃時間 Sat Jun 1 10:17:06 2024
1.媒體來源:
TVBS新聞網
2.記者署名:
記者 劉俐均 / 攝影 余信翰 報導
發佈時間:2024/05/31 22:56
最後更新時間:2024/05/31 23:10
3.完整新聞標題:
AI浪潮 6/AI新時代!超級晶片GB200 黃仁勳:已進入量產
4.完整新聞內文:
AI霸主輝達在AI人工智慧年度盛會GTC上,發表了最新的AI超級晶片「GB200」,能運轉數
兆參數規模的語言模型,也代表著大型語言模型將進入「兆級參數」的時代,而這款AI晶
片,我們台灣也有多家廠商跟著受惠,其中鴻海就是輝達最強晶片GB200的首批合作名單
,在股東大會上,董事長劉揚偉現身,更首度曝光最新超級AI伺服器GB200,上面還有輝
達執行長黃仁勳的親筆簽名。
圖/TVBS
輝達執行長黃仁勳:「Hopper非常出色但我們需要更大的GPU,因此我要向各位介紹,非
常非常大的GPU。」
輝達AI人工智慧年度盛會「GTC大會」,最大量點,就是這款超強AI晶片。
輝達執行長黃仁勳:「2080億個電晶體,各位可以看到,我這裡可以看到兩個裸晶片之間
有條細線,兩個裸晶片從未如此緊緊相接,以至於兩個裸晶片以為這是同一個晶片,兩者
之間有10TB資料,每秒傳輸10TB,因此Blackwell晶片的兩端並不知道自身是哪一端,沒
有記憶體區域性問題也沒有快取問題,就是個巨大的晶片。」
拿著最新的AI超級晶片「GB200」,是將CPU和GPU組合在一起的超級晶片,含有一顆CPU和
兩顆B200的GPU,其中以次世代架構Blackwell打造而成的全新GPU「B200」,是採台積電4
奈米製程,內含2080億個電晶體,根據輝達公布的數據,效能為H100的2.5倍。也是首度
採水冷散熱技術,GB200相比前代產品,在能源消耗來有營運成本上,最多可降低25倍。
GB200能運轉數兆參數規模的語言模型,也代表著大型語言模型,已經進入「兆級參數」
時代。
輝達執行長黃仁勳:「我們推進運算技術速度飛快,但還不夠快因此我們打造了另一款晶
片,這款晶片簡直不可思議,我們稱之為NVLink交換器,其中有500億個電晶體,幾乎和
Hopper一樣大,這款交換器晶片有四個NVLink,各個都達每秒1.8TB,而且具備我剛提及
的運算功能,這款晶片的用途是什麼?如果能打造出這樣的晶片,就能讓每個GPU,都能
同時與其他GPU全速通訊,這太瘋狂了。」
台廠相關供應鏈也陸續出列,從PCB硬板上下游到IC載板,市場點名,包括台光電、聯茂
、台玻等等都可望合作,其中鴻海入列輝達最強晶片GB200的首批合作名單,在股東大會
上,董事長劉揚偉現身,更首度曝光最新超級AI伺服器GB200。
鴻海董事長劉揚偉:「我們預估今年鴻海AI伺服器的營收,可以成長超過4成,那在整體
伺服器的營收的占比,也會達到4成以上。」
台經院產經資料庫總監劉佩真:「那麼台廠相關受惠的一個供應鏈,當然除了在這個伺服
器的代工廠商,或者是在散熱電源供應器,還有在印刷電路板以外,那麼更重要的其實是
在這個半導體業,在這個先進製程還有先進封裝,在這個部分掌握度最高的,其實就是台
積電。」
根據研調機構預估,輝達Blackwell新平台產品需求增加,供應鏈對GB200預計2025年出貨
量有機會突破百萬顆,佔輝達高階GPU4到5成左右。
2024年被視為AIPC元年,未來CPU、GPU、NPU的組合將成為AI PC的算力基礎,
耐能智慧董事長劉峻誠:「模型基本上現在是每3.5個月就疊料一次,那你設計IC從開始
到結束到晶片出來,最少也要一年甚至一年半到兩年都有可能,那所以變成說你的下一代
晶片還沒出來之後,你就先把它疊起來,疊起來的用意就是讓它的算力增加更大、增加更
大之後它才能跑得動這麼大的模型。最新的不管是這幾代的晶片,其實它最大的差異就是
堆疊,然後散熱加了一些水冷,加了一些散熱板這樣,GPU它其實強的就是它堆疊的更多
,然後core更多,然後散熱跟水冷加得更多這樣。」
市場傳出,一顆GB200超級晶片價格可能高達7萬美元,相當於台幣225萬,隨著輝達AI晶
片不斷升級,也可望帶動台廠AI供應鏈。
「2024台北國際電腦展(COMPUTEX 2024)」,將於6月4日至6月7日在台北隆重舉行。展前
,NVIDIA執行長黃仁勳也將於6月2日晚間7點,在臺灣大學體育館進行主題演講。精彩內
容將在6月2日晚間7點至9點,透過TVBS 56頻道以及TVBS Asia頻道收看,並同步於TVBS
NEWS及TVBS World Taiwan YouTube頻道進行直播, 為更多人提供觀看的機會。TVBS 56
頻道、TVBS NEWS的YouTube頻道也將提供獨家中文口譯,讓觀眾不受地域限制,共同見證
AI時代的到來。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://news.tvbs.com.tw/tech/2503985
6.備註:
直映:
https://www.youtube.com/watch?v=X1mAh49G4nE
看成G8200~
不過經費充足的,
剛買H100的,
看完這則新聞,
應該笑不出來了吧?
有八卦嗎?
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 77.111.246.15 (美國)
※ 作者: IntelNNP 2024-06-01 10:17:06
※ 文章代碼(AID): #1cMeIaTK (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1717208228.A.754.html
噓 NirOE: 剛買H100也交不出來啦交期半年以上1F 36.236.138.144 台灣 06/01 10:18
→ Dorae5566: 笑不出來?完全不會好嗎
這些訂了都要很久才會交貨,價格也切的很完整
商用伺服器怎可能跟買菜一樣付錢就馬上扛回家
絕大部份都是訂了再加訂而已2F 114.46.226.106 台灣 06/01 10:18
推 ZhouGongJin: 你質疑特級廚師的刀工?8F 223.138.141.223 台灣 06/01 10:23
→ QooSnow: G排200?9F 49.217.199.198 台灣 06/01 10:24
噓 elec1141: 擊敗20010F 223.137.29.123 台灣 06/01 10:26
--