顯示廣告
隱藏 ✕
※ 本文轉寄自 ptt.cc 更新時間: 2023-08-24 13:24:06
看板 Tech_Job
作者 stpiknow (H)
標題 [新聞] IBM開發出一款類比AI晶片雛型,在性能上
時間 Wed Aug 23 14:01:09 2023


IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU

https://bit.ly/3KR6ZbW

IBM一直處於量子運算和許多其他研究領域的前沿,最近其展示了它認為的新AI處理解決
方案。IBM的願景並不是以GPU為中心,相反的,其認為混合訊號類比晶片中,可以大幅提
高能源效率,同時提供與市場當前主流產品GPU相同競爭力的性能。


如今IBM開發了一款類比AI晶片雛型。經過測試,該晶片與GPU等數位晶片一樣擅長電腦視
覺AI任務。就這一點來說,它的能源效率比GPU要高得多。在過程中,它將多個數位處理
單元和數位通訊結構與類比記憶體內運算結合。


換句話說,這是一種將部分混合訊號和類比晶片結合在一起的晶片。此外,該晶片結合了
相變記憶體(PCM)和數位電路,其聲稱在人工智慧推理方面將與GPU性能相匹配,但效率
高上得多。

AI推理現有的主要瓶頸之一涉及在記憶體和處理晶片之間分流數據,這會減慢處理速度並
消耗電力。至於IBM的類比AI晶片採用了不同的方式,使用PCM單元將推理權重儲存為類比
值並執行運算。


簡單來說,IBM的類比AI晶片本質上是在同一位置運算和儲存記憶體,因此可以糾正數據
傳輸中引起的畸變,同時也使系統變得更加節能。它幾乎像人腦的運作方式一樣,神經網
路就是在技術處理上和儲存發生在同一個位置的方式。


不過,目前這款類比AI晶片還只是紐約IBM的Albany奈米技術中心之研究雛型機,且處於
實驗階段。因此,仍還需要一段時間才能看到這類產品商業化。所以現階段,GPU在AI推
理的使用上仍是獨一無二的存在,可是其高功耗的型態必須慢慢的解決。


現今GPU在AI推理上的功耗是非AI處理器的10倍。一旦全球愈來愈多廠商佈建更多的AI伺
服器,那麼以現今的發電系統,將面臨負荷過重的情況。畢竟,電動車愈來愈普及的情況
下,也需要全球各國重新思考如何佈建更有效率地發電系統。


如果IBM這種記憶體內運算之類比AI晶片在AI推理領域起飛,那麼微軟、谷歌等公司將減
少從輝達公司購買的GPU數量,同時限制AI處理中對GPU的猛增需求,這對於市場遊戲規則
的改變,又將帶來很大衝擊。不過,IBM並沒有跟市場明說,這款晶片何時能夠進行量產
,所以短中期來說,AI市場仍舊需要依賴GPU。從這可以看出,當許多廠商跟隨輝達追求
GPU市場大餅的同時,IBM以反向操作模式,給產業界一個新的研發方向。


--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 作者: stpiknow 2023-08-23 14:01:09
※ 文章代碼(AID): #1avQ2dE- (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1692770471.A.3BE.html
mmonkeyboyy : 這篇是那招 ....1F 08/23 14:14
peter98     : IBM還是…算了…過氣2F 08/23 14:15
hold5566    : AI新燃料3F 08/23 14:21
pieceioriX  : 詐騙業龍頭IBM?4F 08/23 14:24
shorty5566  : XXX殺手定律  買XXX就對了5F 08/23 14:29
SkyIsMyLimit: 所以名稱叫IPU?6F 08/23 14:42
Neistpoint  : 這個東西如果能做穩定且商用功耗應該會小幾個數量7F 08/23 14:42
Neistpoint  : 級
mmonkeyboyy : 炒很久了  cim+pcm9F 08/23 14:50
ljsnonocat2 : ibm研發應該是先進,不過生產就10F 08/23 15:03
versusvic   : 旺宏表示:11F 08/23 15:32
orange0319  : 分久必合,合久必分。CPU和GPU要合併了嗎?12F 08/23 15:34
pegen       : 上個玩PCM的INTEL都已經收工了13F 08/23 15:52
yytseng     : 類比..記憶體…應該跟人腦特性一樣,有人聰明有人14F 08/23 15:52
yytseng     : 笨,有人過目不忘有人當場就忘,類比的特性
giantwinter : IBM…想想算了16F 08/23 16:03
wcre        : IBM給的錢想做出好成果真的不容易,祝福17F 08/23 16:20
NexusPrime  : 之前也看過IBM在實驗室很早就做出2nm晶片,然後就18F 08/23 16:20
NexusPrime  : 沒然後了...
leon1757tw  : ibm的東西留在實驗室就好20F 08/23 16:25
samm3320    : 痾首先你要說他能跟GPU比性能,那應該去比訓練啊,21F 08/23 16:38
samm3320    : 比推理幹啥
i1210       : 何時轉單23F 08/23 16:51
ChungLi5566 : 以前教科書提到AI都拿IBM深藍來舉例24F 08/23 17:02
goodga      : 等大家都買IBM股票的時候才是真的25F 08/23 17:31
darkangel119: 然後量產落賽26F 08/23 18:27
whitehumor  : 不是 我好像跟這個組合作過 哈哈哈27F 08/23 18:32
wulouise    : ibm有那個製程成果量產的嗎?三星的?28F 08/23 18:46
attacksoil  : 比推理才對吧 edge computing很重要好嘛29F 08/23 19:40
samm3320    : Edge就在比省電,GPU有在跟你省電的嗎,誰會在edge30F 08/23 20:52
samm3320    : 放一個h100在那邊推理
a606152004  : IBM不是歷史課本裡才出現的組織嗎32F 08/23 21:31
wt          : IBM 2022年全球35萬員工, Revenue 60B(USD)...33F 08/23 22:26
wt          : 有趣的是 IBM美國股價比Intel/AMD/TSMC(ADR)都高...
i1210       : 毛利率大於40%+股本越小的漲的快。35F 08/23 22:49
ExxonMobil  : 樓上這樣講就外行了……股價不代表什麼,要看market36F 08/23 22:49
ExxonMobil  :  cap才準。
i1210       : 流通股數少的聯發科比台積快漲停。股本差15倍38F 08/23 22:50
i1210       : 聯發科可能創新高就漲停。股本159億 台積股本2594
i1210       : 億
i1210       : 只要華爾街主要持有券商假動作倒5萬張就不會漲
i1210       : 高盛常常放假新聞做假動作當然沒ibm高
i1210       : 不代表t和a的研發比I 弱
Nerv        : IBM開發,懂得就懂44F 08/24 00:53
mmonkeyboyy : edge也不是用GPU來比啊XD45F 08/24 01:13
misomochi   : 如果我也沒記錯類比AI晶片是希望可以達到更有效率46F 08/24 03:45
misomochi   : 的on-chip training?
misomochi   : 多打了也*
samm3320    : 真要去跟GPU對幹好歹TOPS先寫出來49F 08/24 12:26
mmonkeyboyy : 其實inference GPU就不是什麼大宗啊50F 08/24 13:12

--
※ 看板: Tech_Job 文章推薦值: 0 目前人氣: 0 累積人氣: 107 
作者 stpiknow 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇