PTT推薦

[情報] 英特爾推出搭載P-core效能核心的Xeon 6

看板PC_Shopping標題[情報] 英特爾推出搭載P-core效能核心的Xeon 6作者
yymeow
(ㄚㄚ喵)
時間推噓35 推:38 噓:3 →:183

英特爾推出搭載P-core效能核心的Xeon 6處理器,更新AI加速器Gaudi 3


搭載P-core效能核心的Xeon 6處理器,最高擁有128個核心,504MB快取記憶體,鎖定
邊緣、資料中心到雲端的AI,以及HPC高效能運算需求。

文/蘇文彬 | 2024-09-25發表

英特爾在今年Computex電腦展發表Xeon 6處理器,由搭載效率核心(E-core)版本的
Xeon 6處理器先打頭陣,本周英特爾再補齊Xeon 6處理器產品線,推出搭載效能核心
(P-core)版本,提高核心數及記憶體頻寬,最高至128個核心。

Xeon 6為伺服器專用處理器,是英特爾首款採用Intel 3節點設計的產品,其中分為搭
載E-core效率核心版本(代號Sierra Forest),以及搭載P-core效能核心版本(代號
Granite Rapids)。今年6月,英特爾先推出E-core版Xeon 6處理器,鎖定超多核心需
求,最高擁有144個E-Core核心,主要鎖定高密度、高能源效率資料中心使用需求,適
用於雲原生、CDN、微服務架構等應用。

至於新推出的P-core版本Xeon 6處理器,鎖定密集型工作負載需求,AI及高效能運算
市場,不僅增加核心數,並且將AI加速功能嵌入到每個核心,記憶體頻寬也加倍。英
特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求,強調能在不需獨立加速
器之下,執行數十億參數的AI模型。

根據官網的訊息,Xeon 6900P系列搭載的P-core為超執行緒核心,針對AI、HPC、資料
等工作負載需求,採用矩陣引擎,最高擁有128個核心,最多504MB的快取記憶體;而
E-core版本的Xeon 6700E系列,使用單執行緒提高核心密度,並且省略矩陣引擎,單
處理器最高擁有144個核心,英特爾計畫今年底再推出更高核心數,將單插槽核心數推
升至288個核心。

除了P-core版Xeon 6的推出,英特爾也更新旗下的AI加速器Gaudi 3,強調為大規模生
成式AI需求設計的Gaudi 3,擁有64個張量處理器核心、8個矩陣乘法引擎,內建128GB
HBM2e記憶體,支援24個200Gb的網路埠,使新的Gaudi 3 提升20%的吞吐量,英特爾強
調和Nvidia的H100相比,在Llama 2 70B推論時,同樣成本下提供2倍的效能。

英特爾指出,Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。
目前英特爾已和合作夥伴聯手,針對生成式AI最佳化的方案,例如戴爾合作規畫設計
RAG方案。

來源:
https://www.ithome.com.tw/news/165180

心得:
好像真的有點強,所以這兩天INTC漲上去不是因為Lunar Lake解禁,而是因為6900P
發表喔?

實測其實有,在這個影片:
https://www.youtube.com/watch?v=-Pq_nFLL9n0

https://i.imgur.com/96Chmed.png

圖 英特爾推出搭載P-core效能核心的Xeon 6
不過AMD很快也要發布新一代的EPYC,鹿死誰手還很難說。

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.37.34.80 (臺灣)
PTT 網址

luvstarrysky 09/27 01:55筆電 桌電 伺服器 全面反攻

luvstarrysky 09/27 01:55LNL已經用超低續航把AMD的Strix

luvstarrysky 09/27 01:55point打得滿地找牙了 即將上市的

luvstarrysky 09/27 01:56ARL-S跑分洩漏更是直接輾壓 伺服器

luvstarrysky 09/27 01:56也要追上了嗎

luvstarrysky 09/27 01:56打錯 LNL用超低功耗

yymeow 09/27 01:57我是持保守態度啦,並竟6900P有沒有比對手

yymeow 09/27 01:57省電,沒有被提到

yymeow 09/27 01:57Arrow Lake就算跑上有稍稍贏過對手,如果

luvstarrysky 09/27 01:57能追上就不錯了 畢竟伺服器這塊已經

luvstarrysky 09/27 01:58算是被輾壓了 桌上和筆電至少還小贏

yymeow 09/27 01:58又是靠電上去的,一樣會被酸能耗比差

luvstarrysky 09/27 01:58如果性能差不多 INTEL支援性會比較

luvstarrysky 09/27 01:58好 那續航差一點也沒差

yymeow 09/27 01:59不過這的確是我近年第一次看到xeon贏過

luvstarrysky 09/27 01:59前提是能耗比要先追近

yymeow 09/27 01:59EPYC

eric13141230 09/27 02:00先準時出貨再說吧

sigma9988 09/27 02:41股價重返農藥

yymeow 09/27 02:43還早得很呢。不過如果是在被笑跟高露潔比

yymeow 09/27 02:44下去那天買INTC的人,現在應該還蠻雀躍的

yeeouo 09/27 02:53這得多少瓦啊

eric13141230 09/27 02:56裁員沒砍掉印度冗員 反彈完還是要

eric13141230 09/27 02:56下去

yymeow 09/27 02:56帳面數據是128C256T,500W

yymeow 09/27 02:58而EPYC 9754也是256T,360W

justice2008 09/27 03:15我對E-core比較有興趣 當年12代出的

justice2008 09/27 03:15時候 一堆人在狂吹 不曉得效能如何

pcfox 09/27 03:17剛出桶就整天發作 有夠吵

sachialanlus 09/27 03:37是因為要被收購

amd7356 09/27 05:23他都快被永桶了

kkcity59 09/27 05:28真慘啊...一拖拉古新創公司拿H100做比對

kkcity59 09/27 05:28都是說自己的方案可以快各五倍十倍的

kkcity59 09/27 05:28i皇只敢說是兩倍...嘻嘻

kkcity59 09/27 05:30隨便找一個Etched的Sohu就說快了20倍

kkcity59 09/27 05:30換句話說也就是Intel的十倍

你說的是gaudi 3,這個還沒出。現在出的是xeon 6。 gaudi 1/2都沒有賣的很好,據說gaudi 3主打便宜,應該不用指望太多。

narukaza 09/27 07:04這感覺就像我看到蟖unar Lake NPU可以

narukaza 09/27 07:04跑超過40TOPS,原以為好像很厲害,結果

narukaza 09/27 07:04仔細一查發現4090可以跑1321TOPS一樣..

narukaza 09/27 07:04.

soapmactony 09/27 07:20星空大濕信心滿滿

ayuhb 09/27 07:22自製的?

xeon 6是用intel 3 還沒出的AI晶片gaudi 3是用TSMC 5

ayuhb 09/27 07:25CPU的NPU就是讓你加減玩的,誰不知道顯卡

ayuhb 09/27 07:25算力比較高...

narukaza 09/27 07:43說反了吧...是GPU加減玩就能輕鬆超過NP

narukaza 09/27 07:43U算力...那為何要特別強調NPU,還吹得

narukaza 09/27 07:43好像超過50TOPS多高似的...

narukaza 09/27 07:43如果你要說用了新CPU,你的算力就會是1

narukaza 09/27 07:43321+50UP,那我沒話說

ayuhb 09/27 07:55那輕薄本的1321TOPS怎麼來

roy33456 09/27 08:091.5v電死

Transposon 09/27 08:14Intel 3歐,保重欸

spfy 09/27 08:15我以為那個40T是當初為了Elite量身打造的規

spfy 09/27 08:15格 主打WOA不用獨顯超高續航也能用AI 結果

spfy 09/27 08:15高通拖到IA兩家競品都出來了才上 這個專屬

spfy 09/27 08:15規格就沒用了

narukaza 09/27 08:20說桌面端扯筆電,那接下來是不是要扯掌

narukaza 09/27 08:20機?

narukaza 09/27 08:20算了,算我輸,別扯了

spfy 09/27 08:20不然實在不懂沒有終端應用也沒有硬體的時候

spfy 09/27 08:20開一個40T標準到底是幹嘛的 納德拉夢到的?

ayuhb 09/27 08:22啥?Lunar lake你自己提的欸,那是筆電CPU

tony1768 09/27 08:35印特爾從來不弱,只是太傲嬌

MusicD 09/27 08:38能耗比慘慘 繼續用AMD

mrme945 09/27 08:41是不是急了 最近發那麼多篇I的文章

narukaza 09/27 08:45那我說錯了,應該說 Arrow Lake才對,

narukaza 09/27 08:45這就吹更大了,相比Raptor Lake,CPU T

narukaza 09/27 08:45OPS提升幅度為87.5%,總TOPS來到了驚人

narukaza 09/27 08:45的37,這樣你滿意了吧

PolarClover 09/27 08:47對依照核心數計價的商用軟體方案,

PolarClover 09/27 08:47用E-Core架構感覺血虧

ayuhb 09/27 08:48自己搞不清楚狀況講錯嘴臭還成這樣= =

mayolane 09/27 08:51Arrow Lake不會有40 TOPS吧

yymeow 09/27 08:57我一開始以為xeon 6就是gaudi 3,結果是

yymeow 09/27 08:57不一樣的東西。這次出的是xeon 6,至於

yymeow 09/27 08:58AI晶片gaudi 3還沒出。gaudi 3用了TSMC 5

yymeow 09/27 08:58說來說去還是要靠GG

william456 09/27 09:00如果用GG還能縮缸,大英真的賣掉好了

william456 09/27 09:00,連設計都輸的話

amos30627 09/27 09:17AI卡跟GPU部門早就是GG的形狀了

amos30627 09/27 09:18有intel 3也不要 要用N5

sharkbay 09/27 09:27ARL-H: 90, -U: 22.5, -S: 35 TOPS

sharkbay 09/27 09:28都是合計 怎麼沒有90?

narukaza 09/27 09:30雖然我一開始講錯,但仔細一查桌面端CP

narukaza 09/27 09:30U TOPS比行動端還低,這不就回到原來的

narukaza 09/27 09:30比較了不是...

narukaza 09/27 09:30是說I粉真的有夠玻璃心,被點破就說人

narukaza 09/27 09:30嘴臭,我上面言論有帶半個髒字嗎?

AmibaGelos 09/27 09:31真的好強 可這耗電傳統機房吃得下嗎

friedpig 09/27 09:33NPU就ASIC 為了能效用的 有續航問題的

friedpig 09/27 09:34平台才比較在意拉 不過以微軟要求的

friedpig 09/27 09:3440 TOPS ARL理論上應該也得配個差不多的

friedpig 09/27 09:35NPU比較合理拉 不然都得去搶GPU資源

friedpig 09/27 09:35微軟要求40就只是他們測過覺得他們要推

friedpig 09/27 09:36的Local Model最低限度就40的算力夠 也

friedpig 09/27 09:36不可能無上限要求 NPU都是要$$換來的

friedpig 09/27 09:37應該是盡量壓低以後的結果了

oopFoo 09/27 09:38npu主要是筆電用的,能效比高。桌上型npu

oopFoo 09/27 09:39就比較不重要。主要還是微軟主導,不然gpu

oopFoo 09/27 09:40一直加上去還比較合理。微軟要copilot在

oopFoo 09/27 09:40背景一直跑,所以才需要npu。

friedpig 09/27 09:41我是覺得拉 微軟都喊這樣了 DT還是得輔

friedpig 09/27 09:42合 不可能預設要吃GPU效能 ARL 87%來不

friedpig 09/27 09:42急改才這樣 下代規模絕對會加到超過40

oopFoo 09/27 09:50是這樣沒錯,反正amd的桌面也沒有,就先把

oopFoo 09/27 09:51xmx加在igpu上。ARL的igpu還不錯。

friedpig 09/27 09:52我只能說 ARL上不合規的NPU有可能是扣分

friedpig 09/27 09:53項 除非優化的很好能隨時混合使用

friedpig 09/27 09:53不然搞到最後NPU永遠在那發呆也很好笑

friedpig 09/27 09:53純浪費面積

friedpig 09/27 09:54要看MS的開發 還有牙膏的One API有沒有

friedpig 09/27 09:54處理好了

mayolane 09/27 09:57「LNL的超低續航」,星空實際上是反串

mayolane 09/27 09:57成I吹的A粉吧

kuninaka 09/27 10:01挖靠 這要500W想也知道怎麼選= =

friedpig 09/27 10:08這個比較其實沒啥意義拉 牙膏現在贏是

friedpig 09/27 10:09128P打贏96P or 128E(C)

friedpig 09/27 10:09AMD的128P要等Zen5 也沒多久之後的事情

mayolane 09/27 10:10至於價錢多少呢

friedpig 09/27 10:12AMD的128P應該也是500W拉 雖然還沒公佈

friedpig 09/27 10:12400W的128應該是Zen5c

twosheep0603 09/27 10:13(゚ω。)沒關係就繼續吹LNL吧

friedpig 09/27 10:14牙膏這代的重點是核心數終於能打平AMD了

tactics2100 09/27 10:25越來越長

tactics2100 09/27 10:26為什麼不做成更方一點

ZengMaktub 09/27 10:29有人可以講解一下樓上們在爭什麼嗎

SHR4587 09/27 10:30牙膏能回來對消費者來說是好事

SHR4587 09/27 10:31NPU未來我還是看好的現階段的確是沒啥

SHR4587 09/27 10:31應用,但越來越多應用程式能調用NPU了

SHR4587 09/27 10:32GPU更強沒錯,但我是不覺得你在重度負載

SHR4587 09/27 10:32GPU的狀況下還想讓GPU去跑AI相關的輕度

SHR4587 09/27 10:32應用啦.......

sxing6326 09/27 10:409754應該會輸,主頻跟記憶體都差一點

ayuhb 09/27 10:40除了嘴臭還戴人帽子,提出你錯的地方就是i

ayuhb 09/27 10:40粉,可憐滿腦子二分法的人

friedpig 09/27 10:42不知道 我也看沒有在吵什麼 看帳面吹

friedpig 09/27 10:42幾倍有啥好High的 目前狀況就是越限定

friedpig 09/27 10:43優化 速度就越快 但彈性就越爛 NV強就強

friedpig 09/27 10:43在他通用 然後效能還是頂級的 其他家怎

friedpig 09/27 10:44麼吹ASIC多強要幹嘛 到目前為止還是沒有

friedpig 09/27 10:45一個AI服務是真的值得完全專用的ASIC

friedpig 09/27 10:46LLM是最接近的了 所以一堆新創硬體開始

friedpig 09/27 10:46直接特化去處理 所以推論能效都能做超好

friedpig 09/27 10:47但是只能拿來給LLM用

SHR4587 09/27 10:48GPU會好用就是他通用,專用肯定效率更高

SHR4587 09/27 10:48但問題就是專用彈性太差

amos30627 09/27 10:48沒錯 ARL應該是來不及加NPU 聽說refres

amos30627 09/27 10:48h就有加NPU了 不過refresh好像取消了

amos30627 09/27 10:49牙膏可能想直接上Nova lake

friedpig 09/27 10:50再看下去八 不過Nova要是真的換晶片組

sxing6326 09/27 10:50NPU就能耗比高讓你玩玩嚐鮮的,要支援

sxing6326 09/27 10:50度跟效能還是乖乖買老黃

friedpig 09/27 10:50ARL這代只能用一系列就有點好笑了

friedpig 09/27 10:52大部分模型Inference都不需要太多資源拉

friedpig 09/27 10:53而且真正應用也不太會讓User Train 所以

friedpig 09/27 10:53只放NPU是OK 但是要超過一定規模

friedpig 09/27 10:55微軟願意出來扛這個最小規模是40T也很好

friedpig 09/27 10:55大家有一個標準 就去符合他

SHR4587 09/27 11:1140T我是覺得應該是對微軟系統上來說夠用

SHR4587 09/27 11:11其他應用軟體肯定是會需求更高

SHR4587 09/27 11:12之前有稍微查一下特斯拉車載電腦前期的

SHR4587 09/27 11:12幾版都遠低於40T這個標準,都能跑FSD了

SHR4587 09/27 11:13輕量化的AI模型我是覺得40T可能就夠用了

SHR4587 09/27 11:13ARL沒有NPU其實也還好,反正AMD也還沒塞

SHR4587 09/27 11:13目前戰場還在筆電市場,而且真的NPU目前

SHR4587 09/27 11:14也是沒啥用處就是了XDD

※ 編輯: yymeow (60.250.130.216 臺灣), 09/27/2024 11:39:15

minipopy0314 09/27 11:42intel放水這麼多 AMD也不把握機會

lc85301 09/27 12:04重返農藥

HSKAO 09/27 12:06是喔

olozil 09/27 12:46https://i.imgur.com/gFYtGTz.jpeg

圖 英特爾推出搭載P-core效能核心的Xeon 6

olozil 09/27 12:49下一代喊要18A了...會不會跳票呢

yymeow 09/27 12:51跳票就再找GG救援啊,又不是第一次了 XD

ayuhb 09/27 13:15那還是跳票好惹

yymeow 09/27 13:31lunar lake、arrow lake,還有gaudi 3

yymeow 09/27 13:31都已經是GG的形狀了

aegis43210 09/27 13:376900P系列就是GNR,目前仍在客戶驗證

aegis43210 09/27 13:37階段,出貨時間預計在明年Q2~Q3,但希

aegis43210 09/27 13:37望能提早

aegis43210 09/27 13:42GNR預期在明年銷量會超越SPR,客戶很

aegis43210 09/27 13:42期待這個產品

yymeow 09/27 13:46我看技嘉已經宣布會上市6900P的server

yymeow 09/27 13:46看來進程似乎是有提前

saimeitetsu 09/27 13:46epyc還有3DV版本咧

yymeow 09/27 13:48看測試結果GNR是比SPR要好多了,SPR跑不過

yymeow 09/27 13:48對手,還更耗電,真的買到撞到

aegis43210 09/27 13:50而Clearwater Forest,這個產品是MCM

aegis43210 09/27 13:50組成的,非常依賴先進封裝,目前出貨

aegis43210 09/27 13:50時間應該在明年Q4~後年Q1,以往新製程

aegis43210 09/27 13:50都是用NB來先發,這次改由十幾家客戶

aegis43210 09/27 13:50幫忙試產,效果如何還要觀察

aegis43210 09/27 14:01DT的nova lake為了節省成本,也會給GG

aegis43210 09/27 14:01

yymeow 09/27 14:06所以自己做也不見得划算

justice2008 09/27 14:10Ecore核心小很多 可以瘋狂堆疊

justice2008 09/27 14:11是要虧什麼== 當初就是吹核心小很有

justice2008 09/27 14:11潛力 結果到2024年才有風聲

justice2008 09/27 14:11而且還不是開放給DIY市場

uodam64402 09/27 14:43就看新E核Skymont,在Intel Core N70x

ldickee 09/27 14:43要重返農藥了嗎

uodam64402 09/27 14:44或是Core Ultra 3 2xx在全8小核能不能

uodam64402 09/27 14:44有過去11代以前4核8線程性能以上吧。

friedpig 09/27 14:45大客戶都會先拿到先玩啦 小客戶才慢慢

friedpig 09/27 14:45

yymeow 09/27 14:51看另一個影片是有提到新的小核差不多

yymeow 09/27 14:52有11代的能力。不過一切還是要等出來測了

yymeow 09/27 14:52再說

friedpig 09/27 15:28看到有趣的文章 AMD的GCC Support還是有

friedpig 09/27 15:29點問題 不下特定的Flag 特定的功能跑起

friedpig 09/27 15:29來會比較慢 但下了其他功能又會變慢

friedpig 09/27 15:30基本上就是沒花什麼心力在協助Complier

friedpig 09/27 15:30最佳化 牙膏這部分是真的砸很多人 就表

friedpig 09/27 15:30現蠻好的

johnjohnlin 09/27 15:32不砸人作軟體被電也是剛好就是XD

friedpig 09/27 15:33牙膏軟體的人真的是砸得有夠多 編制說不

friedpig 09/27 15:33定比硬體的人還多...

friedpig 09/27 15:38人家隱私推特的圖我也不好意思截出來

friedpig 09/27 15:39編譯器下不同Flag SPEC2017部分測項差到

friedpig 09/27 15:4010~20% 但是又不是都改進 有些進步有些

friedpig 09/27 15:40退步 牙膏的是不管怎樣都滿穩定的表現

yangwen5301 09/27 15:46AMD最佳化都在clang你講gcc

tcchu 09/27 17:57e core效能怎樣不知道 但我知道成本很低

yymeow 09/27 17:59E-Core的xeon六月就測過了,可以看本板

yymeow 09/27 17:59#1cO36dxf

tuwile 09/28 05:15良好競爭 才是好事啦..