[閒聊] 現在橫空出世的NPU
為了因應即將到來的AI時代,
各家CPU廠開始在CPU裡面加入NPU, 即神經網路處理器
這邊已有一篇評測
https://www.youtube.com/watch?v=cN_bm3jT5VI
以這個評測為例, 讓我有點霧裡看花, 不是很能明白:
Intel Ultra 7 155H
CPU分數 67
GPU分數 413
NPU分數 282
嗯....這NPU看起來沒比較厲害?
所以我的疑問就是:
1. NPU 表現還不如 GPU, 這也許可以理解為最佳化還沒到位,
不過即使未來能小贏, 為什麼不拿去做GPU就算了, 還可以增加3D性能。
2. NPU 能執行通用計算嗎? 如果可以, NPU 只是神經網路運算特化
的 GPU?
3. 如何調用 NPU? 是視為 OpenCL / DirectML 裝置?
還是又整出新的方法跟API了?
又或只是在GPU下的子集? (調用核顯運算時指示調用NPU?)
有沒有正在行內的說說看吧...
-----
未來五年可能漸漸開始沒人要比x86性能, 改比NPU性能了...
--
類似說桌上型處理器可以直接用CPU算
但行動裝置會太耗電所以設計專用電路
asic拼的就能耗比 除非規模堆到超大 不
然輸GPU 也還好吧
確實 要等NPU的每瓦性能出來才知道 不過類神經網路也是百百種 應該不會是ASIC這麼沒彈性的做法吧
※ 編輯: wahaha99 (118.169.11.48 臺灣), 12/27/2023 17:00:31相容性87%靠one api去處理吧 牙膏養一
堆人做one api不是養假的
牙膏的npu 居然是有支援fp16的 本來以為
只有到int8的 ASIC
fp16一定要的吧 int8跑AI應該很BI
看起來問題會是桌上型真的需要這東西嗎
目前看起來煮戰場會是筆電跟平板,看微軟
之後的動向了
如果AI服務成為標配,那桌上型肯定也要啊
尤其是沒獨顯的系統
因為微軟想推廣copilot,所以一定要有
NPU
以後說不定玩lol可以離線全AI隊友了
全隨機中路 本地電腦運算AI控制隊友
實際上MTL上面的應該叫VPU,並不是專
門拿來加速LLM的推論,所以只是堪用程
度,真正的NPU要等ARL
星海爭霸3搞不好也不用微操 每個都AI算
炒股用的話術 1-2個月就消風啦
但能把 宏碁 華碩這些帶到突破幾十年的新高也
是很利害
你先會用再來說吧
應該是軟體要優化吧,等於arm64又
多了類神經
這華碩年前就在手機做過了
現在還不成熟,之後再看吧
未來說不定會出現AI小畫家,可以自動
摳圖、調色。
如果把這個 NPU 設計成插 PCI-E會有市場嗎
已經有自動摳圖了
可以參考一下 apple 的a系列跟m系列怎麼用的
特化計算阿,而且應該是CPU+GPU+NPU混
合計算,微軟的DirectML團隊應該正在忙
這些事
Pcie的不就是tensor tpu嗎
當然沒像npu那麼通用就是了
先有實際應用面再來討論效能也還來得及
目前生成式AI那麼夯哪沒有實用面
他能做的顯卡都能做,只是能耗問題
還有是否最佳化過。要是你用4090,
npu還是無法贏過那是當然。相較之
下筆電上的npu會更加實用。能耗問
題
剛起步 而且還有等未來微軟Win12的要求標準
目前NPU主要是執行低精度矩陣乘法 功耗更低
說不定zen 5 / arrow lake就會拼NPU了
int8在邊緣運算很常見啊 低功耗精度
也不會掉太多
*準確度
對你沒有實際應用
不等於這東西沒實際應用內==
是蠻期待以後遊戲導入之後,能看到完全
不同風貌的遊戲出現
等PS/XBOX導入再說吧
再過2到3代再來煩腦
當初cpu覺得算圖形很浪費 所以跑出了GPU
同樣道理 現在gpu覺得算這些數學很浪費
所以出了npu/vpu
gpu還有很多其他能力 用4090其實很浪費
等3代以後吧 前面一定是又貴效能低
目前看起來沒什麼特別優勢
46
npu/matrix/tensor其實不能增加傳統的3d性能。增加的是dlss/ray tracing的性能。 但這是個好問題,現在的情況,npu(matrix)如果併入gpu或cpu其實是更好的選擇。 : 2. NPU 能執行通用計算嗎? 如果可以, NPU 只是神經網路運算特化 : 的 GPU? npu是matrix(systolic array)特異化的超簡易cpu。不適合通用計算29
NPU還是很有用的,以後應用會越來越多。 我舉個遊戲應用的例子。 現在遊戲對話都是固定死的。但用現代ai可以活潑很多。我大概解釋一下技術流程。 玩家用語音跟遊戲角色對話。 用Whisper轉換語音到文字。
64
[情報] Intel Lunar Lake消息原文網址: 縮網址: intel LunarLake-MX (2ch LPDDR5x-8533MHz - MoP)8X
Re: [情報] 華為 Mate60 Pro 沒發佈會直接開賣隨著越來越多測試,麒麟9000S的真實性能越來越明朗了,越來越讓人驚嘆,華為的真實實力 首先,製程很高機率用的是中芯N+2,三星7nm密度水準 第二,CPU為華為伺服器用的架構下放,1+3+4,四個小核心為公版A510,大核則為純自研架 構,並且帶有超線程技術,所以總和為8核12線程 GB5偵測不到超線程,測出來的成績還沒安兔兔準,不過有測試的人強制讓GB5偵測到超線程25
Re: [閒聊] PS5全球累計銷售量突破5000萬台Moore’s Law Is Dead有稍微算過如果PS5 Pro乳模屬實的話 成本跟PS5比起來會高多少 這頻道講話有時候有點誇大所以參考參考就好 乳模的規格說CPU是Zen2 4.4 GHz16
[情報] 首搭AMD版「光線追蹤」GPU!三星發表Exyn首搭AMD版「光線追蹤」GPU!三星發表Exynos 2200 旗艦手機晶片 2022/01/18 16:09 文/記者劉惠琴 三星發表2022年的最新5G行動平台旗艦晶片,首度攜手AMD打造全新一代Exynos 2200,主 打強大的GPU繪圖運算與AI運算性能,可支援光線追蹤技術的遊戲體驗。(圖翻攝三星官 網)11
[問卦] 有Cuda加速,有GPU加速,那有NPU加速嗎?嘻嘻 最近發現Pytorch適配M1 GPU了,結果照樣被Nvidia吊打在地上 每次看到資工肥宅聊ML,都說要用系上工作站的Cuda加速跟GPU加速 那麼如果用專門為神經網路而生的NPU 有NPU加速嗎?6
Re: [新聞] 安謀告高通 燒到手機晶片廠後文省略 今天去參加Arm的技術研討會蹭個飯吃 有跟他們的工程經理聊這個話題 關於NPU和ISP部分應該是不用太擔心會綁定Arm公版6
[乳魔] PS5 Pro Zen2+RDNA3+XDNA2rdna3-graphics-and-xdna2-ai-core 縮網址 重點節錄2
Re: [新聞] 三星 Exynos 1380 和 1330 處理器現身藍三星官網公布了 E1330 CPU: 2*[email protected] + 6*A55 GPU: Mali-G68 MP2- 現在的電腦是CPU GPU 以後的AI PC 還加入了 神經處理器(NPU) 變成 CPU GPU NPU 這樣才潮