作者 hvariables (Speculative Male)
標題 [新聞] 黃仁勳:讓AI去推理 就不會太耗電
時間 Wed Jun  5 04:43:26 2024


https://www.chinatimes.com/newspapers/20240605000458-260110?chdtv

黃仁勳:讓AI去推理 就不會太耗電

NVIDIA投資台灣因為「台積電很棒」 資料中心可設在無人區 不排除自行開發晶片

04:10 2024/06/05 中國時報 柳名耕

https://images.chinatimes.com/newsphoto/2024-06-05/1024/B03A00_P_01_02.jpg
[圖]
台北國際電腦展4日開跑,「AI教父」輝達創辦人黃仁勳(中)現身會場逛展,吸引民眾
爭相搶拍及簽名。(鄧博仁攝)

輝達創辦人暨執行長黃仁勳4日在出席媒體交流會上提到,不能只訓練AI,最終應該要讓
它去推理,如此就不會太耗電,像氣候孿生平台就可以省下3000倍的能源;針對如何看待
大陸市場,黃仁勳說,有研究相關的規定,且過去20年有許多夥伴、客戶都在大陸,會盡
力提供最好的服務。


在抵達媒體交流會後,熱愛美食的他,忍不住吃了工作人員準備的火雞三明治,還頻頻碎
念自己5點就起床,到下午只吃了6片餅乾,而這3片乾癟的火雞肉,剛好可以補充能量,
並笑著提醒盡量問簡單的問題,否則只剩25%大腦容量的他,可能會沒辦法負荷。


針對美國政府的晶片禁令,輝達會怎麼看大陸的市場,黃仁勳表示,大陸的市場對輝達非
常重要,同時研究很多須遵守的限制,會努力去平衡,同時提供最好的服務給在大陸合作
20年的夥伴、客戶。


至於在兩岸敏感時刻,輝達仍決定在台灣設置第2座大型研發中心,以及更大的超級電腦
,黃仁勳說,會有這樣的選擇,是因為台積電真的很棒,且極具彈性,雙方已經合作超過
25年,無論是晶片代工還是CoWoS封裝、測試以及上下游供應鏈都很完美,坦言曾考慮在
其他地方設點,但必須誠實地說「很難」。


由於輝達市值直逼蘋果,會不會去跟蘋果競爭,黃仁勳表示,輝達不會去跟蘋果競爭,蘋
果的東西很棒,但都是超微、英特爾、高通在跟蘋果競爭,輝達不是那個圈子的。

黃仁勳強調,因為輝達是市場的開創者,不是市場的追逐者,致力在創新,做的事情都是
領先的事情,或許有人說AI是他們現在的大事,但對輝達來說已經經歷15年了,並開玩笑
地說「輝達這麼可愛,怎麼會有人想要攻擊我們」。


針對政府提出關於發展AI的建議,黃仁勳指出有3點,第1點就是加速所有需要運算的東西
,因為可以省下很多資源,也就是說買越多AI伺服器,就可以省下越多的資源。

第2點是不要只訓練AI,使用AI的最終是要讓它去推理,才是最重要的,就像是Earth-2氣
候孿生平台,可以提升1000倍的速度,省下3000倍的能源;第3點則是,AI資料中心不會
在乎它在什麼地方上學,所以可以選擇在沒有人,沒有電網的地方,利用太陽能、或者有
豐富能源的地方,蓋發電廠及運算中心,並在那個地方訓練AI。


輝達除AI伺服器、顯示卡、加速運算卡外,黃仁勳也提到不會擔心AI運算可能影響電力消
耗,輝達也不排除自行開發ASIC晶片(特殊應用積體電路),藉此去擴大現有的客戶群。

#蘋果 #大陸 #能源 #地方 #輝達

--
沒說小乘大乘  上座部佛教馬哈希尊者具戒經講記拆穿佛教大乘妙法蓮華經騙局
上座部佛教明昆《南傳菩薩道》真釋迦牟尼佛的菩薩成佛之道  大乘菩薩成佛之道
妙法蓮華經 華嚴經 心經 金剛經 楞伽經  梵網經菩薩戒 圓覺經 楞嚴經 是 大乘假佛經
阿彌陀佛 藥師佛 是 大乘假佛  觀世音 文殊 普賢 維摩詰 龍樹 地藏王 是 大乘假菩薩
https://www.ptt.cc/bbs/soul/M.1523979060.A.68C.html
上座部佛教目犍連子帝須那先偽經大乘十方諸佛

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.230.132.222 (臺灣)
※ 作者: hvariables 2024-06-05 04:43:26
※ 文章代碼(AID): #1cNtntXK (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1717533815.A.854.html
yunf: 有沒有可能你給他的理就是錯的 難道你們不好奇他的虛擬地球是什麼圓嗎 說不定顛覆你傳統的認知 如果你看過古地圖你一定會覺得古時候的人很好笑怎麼地圖上還有章魚和怪物 現在地圖號稱以科學為本難道就是真的嗎?
有一些事情根本經不起問1F 06/05 04:56
kyle5241: 在核電廠旁邊建超級電腦?7F 06/05 06:23
fedona 
fedona: 機房設在高雄表示:8F 06/05 06:50
TaiwanUp: 電力會流向善用它的手中9F 06/05 07:57
a9564208: 笑死,老黃認證無人區最好10F 06/05 08:17
abyssa1: 跟礦場一樣蓋在水力發電廠旁邊11F 06/05 08:27
Prado4840: 誒不是 現在ai llm充其量只有大腦的語言區和記憶區的功能而已、那有什麼推理可言啊?12F 06/05 09:38
rodion: 大陸(X) 中國(O) 中(共)時整天大陸大陸 真的很蠢14F 06/05 09:43
justdoit: 推理要在晚餐後15F 06/05 12:28
darkangel119: 自行開發?16F 06/05 12:33
ciplu: 無人區?那蓋到山上吧,還可以直接降溫17F 06/05 12:39
Dracarys: 他在講AI inference吧,不是你想的那種推理18F 06/05 13:27
ISCREDIBLE: 讓ai自製晶片不就更棒棒19F 06/05 14:56
fairyofmoon: 台積電很棒X 台灣電很便宜O20F 06/05 19:54

--
作者 hvariables 的最新發文:
點此顯示更多發文記錄