PTT推薦

Re: [閒聊] 欸不是,買個顯卡還要買驅動= =

看板PC_Shopping標題Re: [閒聊] 欸不是,買個顯卡還要買驅動= =作者
aa210682
(吃臉哥哥)
時間推噓17 推:17 噓:0 →:9

看到版上在討論vGPU
身為vGPU相關的工程師應該是有資格來討論(?

先來談談虛擬化這件事情
虛擬化就是透過hypervisor(如VMware,kvm)之類的平台
在單一主機的環境上面,虛擬出多個作業系統
單機版就如vmware workstation,或是各類模擬器也算是(bluestack)

了解玩虛擬化之後就可以往下討論
如何讓虛擬化之後的作業系統(guest os)拿到GPU
市面上有各種千奇百怪的方式,所以以下只探討N家有認證的方式

1.Passthrought/直通道/Diretch Path I/O
這三種名稱的意思都差不多
將整張GPU卡片直接分配給guest OS,這種方式嚴格說不是虛擬化
畢竟沒有虛擬化GPU的成分,將整張卡片丟給虛擬機,何來虛擬化GPU之稱
透過這種方式驅動程式是使用一般家用的驅動程式,所以可以直接使用

2.vGPU
看到前一種方式,有一個很大的限制,就是單一虛擬機單一卡片
這種方式以企業等級的方式來看是非常浪費資源的
Datacenter系列卡片通常都16GB up,並且效能也非常強大
單一虛擬機很難用光其效能
所以vGPU就是將GPU利用虛擬的方式,分給多台虛擬機
讓每一台虛擬機都可以有固定份額的GPU
切分方式就是透過GB的方式切分(xGB)
當然這種功能是面相企業的,所以當然會有收費的問題
所以N家就簡單粗暴地綁定驅動程式
要購買才能下載特定的驅動,並且驅動程式也會需要輸入授權

提完以上可以額外來講一下vGPU各種授權種類
其中有分成4+1種
vWs拿來做圖像運算(這種功能可以讓vGPU開啟圖像渲染、directx 相關功能)
vApp 利用做RDSH
vPC 跟vWs類似,但是關掉圖像進階功能,純顯示
vCs 純計算,拿來做計算相關
當然,費用不相同XDD


順便來討論一下看到文章內提到的有趣問題
1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10)
這種卡片的驅動程式只能使用vGPU的驅動程式
簡單說,就算改成直通道模式,依然只能只用vGPU的驅動
沒辦法使用一般的驅動
印象中在V系列(對照20系列)之後再見過這種模式
P4印象中也是?

2.T4,A2,L4
印象中這幾張的效能差不多(明明不同世代,效能也可做得差不多
就我收到的消息時A2的產線大暴死,所以才T4繼續頂
應該不是市場接受度的問題,A2定價便宜很多呢XD

3.A100,MIG
MIG這項技術是否可以完全脫離vGPU呢
是,但也不是
MIG是驅動程式自帶的操作指令,可以切分成多張GPU
在監控介面下就是看到多張卡片
然後可以進行分配使用
但是前面提到,要在驅動程式的介面下操作
所以必須還是得使用前面提到的方式(直通道orvGPU)
1.直通道給虛擬機之後,再從虛擬機端操作
2.或是直接在hypervisor層進行MIG操作之後,再將切分出來的GPU打出來分配給虛擬機
第二種方式依然還是要購買授權呢

所以是但也不是


4.
這邊可以提到N家一個非常複雜的新授權NVIDIA AI Enterprise
嚴格來說它就是vcs+軟體服務的授權
他有著完全不同的驅動以及授權
但是使用方式還是跟vcs一樣
這刀法是真的強

以上,想到甚麼再補充

※ 引述《wei115 (社畜)》之銘言:
: 是這樣的
: 最近看對岸有批好便宜的tesla p4
: 一張大概只要NT 2000
: 性能大概有1070-10%等級 功耗不到75w 長期在資料中心吹冷氣
: 而且還支援vGPU
: 想說買來裝在我的proxmox主機上 玩我心心念念的顯卡虛擬化
: 可是查了一些資料發現
: 虛擬化確實很簡單,但裝進去後 每個虛擬機還要授權
: 如果沒有授權 20分鐘就限制性能 只能跑15fps
: 阿我都買硬體惹 現在連裝個驅動都要收錢喔= =
: https://i.imgur.com/HIy4YHd.jpeg

圖 欸不是,買個顯卡還要買驅動= =
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.134.21.189 (臺灣)
: ※ 文章網址: https://www.ptt.cc/PC_Shopping/E.J0lzxLd5FV_Y
: 推 skyrain1234: 那授權費要5000嗎 04/08 20:14: 每年收
: 而且只收企業,個人用戶還會掛你電話
: 比5000還值錢= =
: ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 20:16:08
: 推 Fezico: 老黃驅動值5000買越多賺越多 04/08 20:16: → Fezico: 這東西本來就不是放出來給零售市場的,你怎會期望他屌你 04/08 20:17: 推 cowboyas0413: 我是覺得對岸論壇翻一翻 找到能用的驅動的機率不小 04/08 20:18: 驅動要網路認證 但我有看到幾個解決方案 有一個github專案可以使用24小時 然後重啟驅
: 動再用24小時
: 推 sheng76314: 有這種事 難怪便宜沒好貨 04/08 20:18: 推 DsLove710: 不然你要買AMD嗎 04/08 20:19: amd顯卡= =
: 推 fenix220: 貪小便宜的代價 04/08 20:24: 推 gameboy0618: 不然你要買AMD嗎 04/08 20:24: 推 Cubelia: 雖然I的內顯被酸亮機用,但在GVT-g和SR-IOV的vGPU支援 04/08 20:25: → Cubelia: 給得很大方 04/08 20:26: 本來也打算組intel方案的 只是那時候pve不怎麼支援大小核+amd礦渣主板很便宜就改裝580
: 0x惹
: → Cubelia: 不過性能就有總比沒有好 04/08 20:26: → AreLies: 我之前買V520結果發現 我沒有驅動 04/08 20:26: → Severine: 所以相較之下4090真的太便宜了 04/08 20:28: → scarbywind: 工商用硬體一堆這樣搞的. 04/08 20:33: ※ 編輯: wei115 (42.79.242.21 臺灣), 04/08/2023 20:41:12
: → newsnew: 商用很多都這樣 不是買斷制了 04/08 20:45: 推 keyman2: 賣家沒有先說喔? 04/08 21:07: → smallreader: 商用本來就要買授權了 04/08 21:24: → gyannor: 不如買1066 04/08 21:31: 推 harry886901: 沒辦法虛擬化 那就顯卡直通吧 04/08 21:31: 我現在主力機就是跑在虛擬機內的R
: 分配全部CPU核心、64GB RAM、直通一張大哥3060 12G
: → harry886901: 我買海鮮的p104 才1000也是1070同一個核心也不差 04/08 21:32: 推 harry886901: proxmox base on debian 04/08 21:36: → harry886901: 我記得某版debian就對大小核有支援了 04/08 21:36: 我看好像6.0kernel才支援
: 現在pve更新到最新kernel才5.15
: 噓 pcfox: 自己選的 04/08 21:41: 推 tennyleaz: 不知道可不可以刷vbios破解 04/08 22:25: 有看用unlock改成quadro來跑 這就不需要授權
: 可是cuda會沒辦法使用
: 推 Transposon: 不知道何時換丟T4 04/08 22:25: → MACROSS2K: T4大概還要好一段時間,A2前陣子缺貨大概都用T4 04/08 22:40: → MACROSS2K: L4又剛發,不知道市場接受度如何 04/08 22:40: 推 ArSaBuLu: 跟百變金剛一樣 雖然預算低 蛋便宜有便宜的辦法 04/08 22:41: 推 johnson0319: google一下就有各種unlock教學不是 04/08 22:50: unlock是改id
: 主要是主機支援,可是虛擬機還是要另外裝驅動
: ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 23:16:51
: → lc85301: 不然你要買 AMD 嗎 04/08 23:21: 推 marunaru: vGPU要買阿 老黃的商法 04/08 23:31: → marunaru: 如果你是A100那種等級的就不用了 自帶授權 04/08 23:31: → marunaru: 不想花vGPU的授權你就只能改成Passthrough的方法 04/08 23:32: → MACROSS2K: 其實AMD我也覺得蠻可惜的,MxGPU其實有出過一波 04/08 23:32: → MACROSS2K: 但不知道是不是軟體沒跟上,感覺沒有打開市場 04/08 23:32: → MACROSS2K: 然後MI200其實有出ESXi驅動,但測過好像沒有作用 04/08 23:34: → MACROSS2K: 也無法開出VF,有點不太理解想要設計成什麼樣子 04/08 23:35: 推 laeva75: 企業級的常見情況,買一個好像功能很多很強硬體只含最最 04/09 07:33: → laeva75: 最少最簡單的功能,其他功能的都要另外買授權 04/09 07:33: 推 corum68972: 恭喜你現在知道企業用戶是怎麼被老黃強姦的了 04/09 07:55: → winiel559: 還好有這些企業級盤子,不然4090還不一張20萬 04/09 10:01: 推 kamir: 一個願打,一個願挨 04/09 10:50: → kamir: 都說是垃圾了,還花錢 04/09 10:50: 推 Windcws9Z: 難怪賣這麼便宜 04/09 13:11: → game0502: RTX8000+NLS乖乖付錢的的人路過… 04/09 16:16: → nOhiTmE: pve 現在有optin 6.2 kernel. 04/09 22:39

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.219.70.171 (臺灣)
PTT 網址

ccbbaa04/10 12:17感覺是給nvidia now用的@@

arenoe04/10 12:56有點看懂了

jaspergod04/10 13:19所以顯卡掛給虛擬機後,再從虛擬機切分給不同的程式跑(

jaspergod04/10 13:19MIG),應該是可行的吧XD 也不會用到vGPU授權?

沒錯,這種方式很推薦 但是就要花時間維護環境(要很懂MIG架構)

wardraw04/10 13:19推科普 稍微懂了

AKSN7404/10 13:23推,MIG記得也吃硬體架構,所以只有特定卡才能用

AKSN7404/10 13:24然後MIG的初衷是為了給容器,給VM用反倒是其次

目前就我所知A30,A100,H100有支援MIG功能,並且購買單卡有送vGPU授權 看來內部也很競爭

※ 編輯: aa210682 (61.219.70.171 臺灣), 04/10/2023 13:32:49

cmshow04/10 14:13推,看ptt漲姿勢

coffeedemon04/10 15:15T4跟A2效能差不多 不過A2省了一點功耗?

pcfox04/10 15:49好文分享堆一個

AI00704/10 17:09先收藏,晚點研究看看

dmeiki04/10 17:11

jychu113204/10 18:47A2很爛欸,除了VRAM大小根本是亮機卡等級,只有極少應

jychu113204/10 18:47用能贏T4

jychu113204/10 18:50然後L4以他75W的效能來說其實算很強

jychu113204/10 18:53A2真實性能大概只有T4的1/3

根據我手邊有的資料,效能差不多就是了 不過我是沒有實際跑過跑分,不過真實性能這塊還是有很多面向的 繪圖、運算、FP32..等,這些都是,不能單純概括而論

imhanhan04/10 19:12推推

MACROSS2K04/10 19:18感謝分享

wahaha9904/10 19:31方法1 現在Workstation能用了?

wahaha9904/10 19:31一般遊戲卡也行嗎?

可以,直通道技術跟hypervisor產品有關 講一個更好裡解的部分,要讓CD ROM or USB讓USB讀取的到 邏輯上就是跟直通道一樣的概念

Lomonosov04/10 19:35

BlackCoal04/10 21:06推推

han88080504/11 01:53玩過這個 聞聞看 對這個有什麼看法

han88080504/11 01:53V

看起來是hyper-v專用 本人是不推薦這種作法的,畢竟誰也無法保證效能那些是否在虛擬機上正常(望向VMware Bitfusion)

※ 編輯: aa210682 (61.221.67.195 臺灣), 04/11/2023 13:31:40