作者 ttucse ((((>( ̄▽ ̄)<))))標題 [新聞] 英特爾推出搭載P-core效能核心的Xeon 6處時間 Sat Sep 28 02:51:56 2024
英特爾推出搭載P-core效能核心的Xeon 6處理器,更新AI加速器Gaudi 3
https://www.ithome.com.tw/news/165180
搭載P-core效能核心的Xeon 6處理器,最高擁有128個核心,504MB快取記憶體,鎖定邊緣、資料中心到雲端的AI,以及HPC高效能運算需求。
英特爾在今年Computex電腦展發表Xeon 6處理器,由搭載效率核心(E-core)版本的Xeon 6處理器先打頭陣,本周英特爾再補齊Xeon 6處理器產品線,推出搭載效能核心(P-core)版本,提高核心數及記憶體頻寬,最高至128個核心。
Xeon 6為伺服器專用處理器,是英特爾首款採用Intel 3節點設計的產品,其中分為搭載E-core效率核心版本(代號Sierra Forest),以及搭載P-core效能核心版本(代號Granite Rapids)。今年6月,英特爾先推出E-core版Xeon 6處理器,鎖定超多核心需求,最高擁有144個E-Core核心,主要鎖定高密度、高能源效率資料中心使用需求,適用於雲原生、CDN、微服務架構等應用。
至於新推出的P-core版本Xeon 6處理器,鎖定密集型工作負載需求,AI及高效能運算市場,不僅增加核心數,並且將AI加速功能嵌入到每個核心,記憶體頻寬也加倍。英特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求,強調能在不需獨立加速器之下,執行數十億參數的AI模型。
根據官網的訊息,Xeon 6900P系列搭載的P-core為超執行緒核心,針對AI、HPC、資料等工作負載需求,採用矩陣引擎,最高擁有128個核心,最多504MB的快取記憶體;而E-core版本的Xeon 6700E系列,使用單執行緒提高核心密度,並且省略矩陣引擎,單處理器最高擁有144個核心,英特爾計畫今年底再推出更高核心數,將單插槽核心數推升至288個核心。
除了P-core版Xeon 6的推出,英特爾也更新旗下的AI加速器Gaudi 3,強調為大規模生成式AI需求設計的Gaudi 3,擁有64個張量處理器核心、8個矩陣乘法引擎,內建128GB HBM2e記憶體,支援24個200Gb的網路埠,使新的Gaudi 3 提升20%的吞吐量,英特爾強調和Nvidia的H100相比,在Llama 2 70B推論時,同樣成本下提供2倍的效能。
英特爾指出,Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。目前英特爾已和合作夥伴聯手,針對生成式AI最佳化的方案,例如戴爾合作規畫設計RAG方案。
各位觀眾
128個性能核心的XEON
我好興奮
我好興奮啊
是不是G叔要帶領英特爾大反攻了
終於有可以跟AMD EPYC抗衡的產品了
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.67.203 (臺灣)
※ 作者: ttucse 2024-09-28 02:51:56
※ 文章代碼(AID): #1czlxGWI (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1727463120.A.812.html
推 GilGalad: 畫重點"採用Intel 3節點" 糞 卒業予定 等著被蘇媽打到ii叫1F 09/28 03:03
推 roder: 先問會不會燒9F 09/28 10:00
推 s1an: GNR 明年量產11F 09/28 10:19
推 jjlee: intel 3節點是TSMC, 所以這個xeon 目前的評價不錯12F 09/28 12:49
→ jiansu: 這個進步很多了 之前被Amd打死 終於贏了 但amd年底也要更新了 intel3 對決gg n313F 09/28 12:54
--