---

低價挑戰 NVIDIA！晶片大神 Jim Keller 曝設計關鍵是「捨棄 HBM」


https://tinyurl.com/23cvjvhj

傳奇晶片設計師 Jim Keller 打算設計比 NVIDIA 更高效的晶片，以降低 AI 應用價格並
搶占市占率。





日本人工智慧獨角獸公司 Preferred Networks 運算架構部門副總裁兼技術長
 Junichiro Makino 形容「Jim Keller 簡直就是傳奇」。
設計 AI 晶片時，選擇捨棄關鍵的 HBM

Tenstorrent 成立於 2016 年，準備年底推出第二代多用途 AI 晶片，稱某些領域比
 NVIDIA AI GPU 更高能效和處理效率。Galaxy 系統比 NVIDIA DGX 效率高三倍，價格更
便宜 33%。

Keller 之所以能做到這點，是因 Tenstorrent 沒用高頻寬記憶體（HBM）。「即使有用
 HBM 的人，也為成本及構建 HBM 所需設計時間掙扎，決定不用此技術。」

HBM 是生成式 AI 晶片的重要零件，對 NVIDIA 產品成功有重要作用，然也是 AI 晶片能
耗巨大、價格高昂的罪魁禍首之一。

典型人工智慧晶片組，GPU 每次執行進程時向記憶體發送數據，需 HBM 高速數據傳輸能
力。Tenstorrent 設計自己的晶片，大幅減少傳輸。Keller 指有了新方法，
Tenstorrent 晶片可在 AI 開發某些領域取代 GPU 和 HBM。



Tentorrent 晶片特點是百餘個核心，每核心都有小型 CPU，即「大腦中的微型大腦」。
通常情況單晶片核心只有一個小型電腦和記憶體，只負責解決一個任務，但
 Tenstorrent 核心能獨立「思考」，決定先處理哪些數據，或放棄不重要任務，提高整
體效率。

Tentorrent 指每個核心都相對獨立，可將更多或更少核心堆疊起來，應用更廣泛。智慧
手機或穿戴設備只需少量晶片，AI 資料中心可將 100 個晶片組合，用途更靈活。
Keller 說還無法預測 AI 最佳應用是什麼，因此公司策略是打造出適合各種產品的技術
。

    U.S. chip designer aims to bring down AI prices pushed up by Nvidia

--

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.0.241 (臺灣)
※ 作者: pl132 2024-07-16 20:25:44
※ 文章代碼(AID): #1cbcRCp5 (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1721132748.A.CC5.html