※ 本文轉寄自 ptt.cc 更新時間: 2022-03-24 10:57:27
看板 Stock
作者 標題 [新聞] NVIDIA推核彈級GPU 搭台積4奈米製程「
時間 Thu Mar 24 09:42:40 2022
原文標題：NVIDIA推核彈級GPU 搭台積4奈米製程「號稱20個可撐全球網路量」
(請勿刪減原文標題)
原文連結：https://reurl.cc/5GnlyV
NVIDIA推核彈級GPU 搭台積4奈米製程「號稱20個可撐全球網路量」 | ETtoday財經新聞 | ETtodayAMP
![[圖]]()
顯示卡大廠輝達（NVIDIA）執行長黃仁勳在22日登場的年度GTC大會上，重磅宣布新一代資料中心Hopper架構繪圖處理器（GPU）NVIDIA H100，將採用台積電4奈米製程，效能大大提升外，黃仁勳更說，只要20個 H100 GPU 就能撐起全世界的網路流量，顯見其效能之高。 ...
![[圖]](https://i4.disp.cc/t/0/cdn2.ettoday.net_images_2532_2532380.jpg)
發布時間：2022-03-23 14:20
(請以原文網頁/報紙之發布時間為準)
原文內容：記者高兆麟／綜合報導
顯示卡大廠輝達（NVIDIA）執行長黃仁勳在22日登場的年度GTC大會上，重磅宣布新一代資
料中心Hopper架構繪圖處理器（GPU）NVIDIA H100，將採用台積電4奈米製程，效能大大提
升外，黃仁勳更說，只要20個 H100 GPU 就能撐起全世界的網路流量，顯見其效能之高。
料中心Hopper架構繪圖處理器（GPU）NVIDIA H100，將採用台積電4奈米製程，效能大大提
升外，黃仁勳更說，只要20個 H100 GPU 就能撐起全世界的網路流量，顯見其效能之高。
為推動下一波人工智慧 (AI) 資料中心的發展，輝達宣布推出採用 NVIDIA Hopper 架構的
新一代加速運算平台，效能較上一代平台呈指數級成長。這個以美國電腦科學家先驅 Grace
Hopper 命名的全新架構，將接替兩年前推出的 NVIDIA Ampere 架構。
新一代加速運算平台，效能較上一代平台呈指數級成長。這個以美國電腦科學家先驅 Grace
Hopper 命名的全新架構，將接替兩年前推出的 NVIDIA Ampere 架構。
NVIDIA 亦宣佈推出首款採用 Hopper 架構的 GPU 產品 NVIDIA H100，這款 GPU 封裝了 80
0 億個電晶體，是全球最大且效能最強大的加速器，具突破性的功能，例如革命性的 Trans
former Engine 及具高度擴展性的 NVLink 互連技術，可用於推動極大規模的 AI 語言模型
、深度推薦系統、基因組學和複雜的數位孿生等領域的發展。
former Engine 及具高度擴展性的 NVLink 互連技術，可用於推動極大規模的 AI 語言模型
、深度推薦系統、基因組學和複雜的數位孿生等領域的發展。
NVIDIA執行長黃仁勳表示，資料中心將成為 AI 工廠，用來處理海量資料並從中提煉出寶貴
的智慧。NVIDIA H100 是全球 AI 基礎設施的引擎，讓企業得以加速推動各項 AI 業務的進
展。
的智慧。NVIDIA H100 是全球 AI 基礎設施的引擎，讓企業得以加速推動各項 AI 業務的進
展。
NVIDIA表示，H100 擁有 800 億個電晶體，採用台積電 4奈米製程、專為滿足 NVIDIA 加速
運算需求而設計，在加速 AI、高效能運算、記憶體頻寬、互連和通訊方面具有重大進展，
包括每秒近 5TB 的外部連接速度。H100 是首款支援 PCIe Gen5 及首款使用 HBM3 的 GPU
產品，提供每秒 3TB 的記憶體頻寬。20 個 H100 GPU 便足以支撐全世界的網路流量，讓客
戶得以運行先進的推薦系統和大型語言模型，即時使用各項資料進行推論。
運算需求而設計，在加速 AI、高效能運算、記憶體頻寬、互連和通訊方面具有重大進展，
包括每秒近 5TB 的外部連接速度。H100 是首款支援 PCIe Gen5 及首款使用 HBM3 的 GPU
產品，提供每秒 3TB 的記憶體頻寬。20 個 H100 GPU 便足以支撐全世界的網路流量，讓客
戶得以運行先進的推薦系統和大型語言模型，即時使用各項資料進行推論。
H100 的多項技術創新擴大了 NVIDIA 在 AI 推論和訓練的領先地位，使 NVIDIA 能夠利用
巨大的 AI 模型做到即時和沉浸式應用。H100 讓聊天機器人可以使用全球最強大的單體 tr
ansformer 語言模型 Megatron 530B，其傳輸量超過前一代產品達 30 倍，同時滿足即時對
話式 AI 所需的次秒級延遲。H100 同時讓研究人員和開發人員能夠訓練像是 Mixture of E
xperts 這類大規模模型，包含 3,950 億個參數，能將速度提高達九倍，將訓練時間從過去
所需的數週減少到數日便能完成。
巨大的 AI 模型做到即時和沉浸式應用。H100 讓聊天機器人可以使用全球最強大的單體 tr
ansformer 語言模型 Megatron 530B，其傳輸量超過前一代產品達 30 倍，同時滿足即時對
話式 AI 所需的次秒級延遲。H100 同時讓研究人員和開發人員能夠訓練像是 Mixture of E
xperts 這類大規模模型，包含 3,950 億個參數，能將速度提高達九倍，將訓練時間從過去
所需的數週減少到數日便能完成。
NVIDIA H100 可以部署在各類型的資料中心內，包括企業內部、雲端、混合雲和邊緣。預計
今年稍晚透過全球各大雲端服務供應商及電腦製造商供貨。
NVIDIA 第四代 DGX 系統 DGX H100 搭載八個 H100 GPU，可在全新 FP8 精度下提供 32 pe
taflops 的 AI 運算表現，這個規模足以滿足大型語言模型、推薦系統、醫療研究及氣候科
學的大規模運算需求。
taflops 的 AI 運算表現，這個規模足以滿足大型語言模型、推薦系統、醫療研究及氣候科
學的大規模運算需求。
透過第四代 NVLink 技術連接 DGX H100 系統中的每個 GPU，能提供每秒 900GB 的連接速
度，高出前一代產品 1.5 倍。NVSwitch 技術讓八個 H100 GPU 能透過 NVLink 連接。一台
外部 NVLink 交換器可以連接新一代 NVIDIA DGX SuperPOD 超級電腦中多達 32 個 DGX H1
00 節點。
Hopper 已經獲得各大雲端服務供應商的支持，包括阿里雲、Amazon Web Services (AWS)、
百度智能雲、Google Cloud、Microsoft Azure、Oracle Cloud 和騰訊雲，這些業者計畫將
提供基於 H100 的執行個體。
百度智能雲、Google Cloud、Microsoft Azure、Oracle Cloud 和騰訊雲，這些業者計畫將
提供基於 H100 的執行個體。
心得/評論：老黃本次與台積電合作,採用台積電四奈米技術開發的產品,預期能帶來更高的
效能運用,以及更低的能源消耗※必需填寫滿30字，無意義者板規處分
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.217.199.100 (臺灣)
※ 文章代碼(AID): #1YEyoIut (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1648086162.A.E37.html
推 : 沒用 供過於求 半導體都下去吧1F 03/24 09:43
推 : 耗電嗎？2F 03/24 09:45
推 : 沒人用，下去3F 03/24 09:46
推 : PS3時代，sony執行長號稱PS3蒜力能模擬地球4F 03/24 09:46
噓 : 沒用 顯卡過剩了...5F 03/24 09:46
推 : 吃電怪物6F 03/24 09:47
推 : 法環能順跑嗎7F 03/24 09:47
推 : 蒜粒多少8F 03/24 09:49
推 : 太貴~~1年後降成本再說吧~快下去9F 03/24 09:51
推 : 這種東西客群就是不是你散戶 在擔心啥XD10F 03/24 09:52
推 : 我拿4070TI就好11F 03/24 09:53
推 : 哇12F 03/24 09:53
推 : 台積電真的猛，老黃高通蘋果amd訂單吃不完13F 03/24 09:53
推 : 聽你唬爛14F 03/24 09:54
推 : 不要說吃不完....產能遠遠不夠他們要的15F 03/24 09:55
推 : 人家拿來玩AI的，你散戶玩法環，我知道你還有錢16F 03/24 09:55
→ : 要擔心的是mtk，高通下一顆沒這麼弱了17F 03/24 09:56
推 : 台積電 長期投資～穩穩賺！18F 03/24 09:57
→ : 沒用 都是拿去挖礦浪費電力的19F 03/24 09:58
→ : 沒人拿這東西在挖礦的,幾千萬的機器挖礦???20F 03/24 09:58
推 : 普丁大量進貨21F 03/24 09:59
→ : 以太幣改完後 礦卡就跟垃圾一樣了 倒出來也沒人接22F 03/24 10:01
→ : 拿來上PTT可以不被版主水桶嗎？不行的話 下去23F 03/24 10:01
噓 : 4F都現在還被假新聞騙..他說的是贏過日本一台叫做地24F 03/24 10:03
→ : 球模擬器的超級電腦....
→ : 球模擬器的超級電腦....
→ : 全球網路量 有超過一顆人腦嗎26F 03/24 10:03
推 : 說20顆GPU可以撐起全球網路量有點行銷話術，只是27F 03/24 10:06
→ : 資料吞吐量而已，難道全球CISCO路由器砍光光改GPU?
→ : 資料吞吐量而已，難道全球CISCO路由器砍光光改GPU?
→ : 這是啥 神奇的東西29F 03/24 10:09
推 : 丸子30F 03/24 10:20
推 : 半導體供過於求 買方市場 景氣循環股 下去31F 03/24 10:22
→ : NVDA早就不像amd 還在礦卡那麼可憐32F 03/24 10:22
→ : 會毀滅地球？33F 03/24 10:22
推 : 只能賣20個，崩34F 03/24 10:23
推 : 散戶心態真是笑死35F 03/24 10:30
推 : AI的世界來了~!!人人都有一台AI運算程式36F 03/24 10:31
推 : 台灣果然是軟體沙漠 沒人看得懂在幹嘛37F 03/24 10:31
推 : 恭喜 喊了就是崩38F 03/24 10:34
推 : 台灣軟體沙漠 認真？？？39F 03/24 10:34
推 : 看衰產品(X)股價下跌就是看衰(O)40F 03/24 10:35
→ : 笑死41F 03/24 10:39
推 : 不是很愛用舊製程耗電嗎42F 03/24 10:39
推 : 4奈米以下的時候 我看你要用什麼彈描述43F 03/24 10:40
→ : Server用的東西 省電根本不是重點 是為了效能才衝44F 03/24 10:42
推 : 要炸了嗎45F 03/24 10:51
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 125
回列表(←)
分享