Re: [閒聊] 欸不是,買個顯卡還要買驅動= =
看到版上在討論vGPU
身為vGPU相關的工程師應該是有資格來討論(?
先來談談虛擬化這件事情
虛擬化就是透過hypervisor(如VMware,kvm)之類的平台
在單一主機的環境上面,虛擬出多個作業系統
單機版就如vmware workstation,或是各類模擬器也算是(bluestack)
了解玩虛擬化之後就可以往下討論
如何讓虛擬化之後的作業系統(guest os)拿到GPU
市面上有各種千奇百怪的方式,所以以下只探討N家有認證的方式
1.Passthrought/直通道/Diretch Path I/O
這三種名稱的意思都差不多
將整張GPU卡片直接分配給guest OS,這種方式嚴格說不是虛擬化
畢竟沒有虛擬化GPU的成分,將整張卡片丟給虛擬機,何來虛擬化GPU之稱
透過這種方式驅動程式是使用一般家用的驅動程式,所以可以直接使用
2.vGPU
看到前一種方式,有一個很大的限制,就是單一虛擬機單一卡片
這種方式以企業等級的方式來看是非常浪費資源的
Datacenter系列卡片通常都16GB up,並且效能也非常強大
單一虛擬機很難用光其效能
所以vGPU就是將GPU利用虛擬的方式,分給多台虛擬機
讓每一台虛擬機都可以有固定份額的GPU
切分方式就是透過GB的方式切分(xGB)
當然這種功能是面相企業的,所以當然會有收費的問題
所以N家就簡單粗暴地綁定驅動程式
要購買才能下載特定的驅動,並且驅動程式也會需要輸入授權
提完以上可以額外來講一下vGPU各種授權種類
其中有分成4+1種
vWs拿來做圖像運算(這種功能可以讓vGPU開啟圖像渲染、directx 相關功能)
vApp 利用做RDSH
vPC 跟vWs類似,但是關掉圖像進階功能,純顯示
vCs 純計算,拿來做計算相關
當然,費用不相同XDD
順便來討論一下看到文章內提到的有趣問題
1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10)
這種卡片的驅動程式只能使用vGPU的驅動程式
簡單說,就算改成直通道模式,依然只能只用vGPU的驅動
沒辦法使用一般的驅動
印象中在V系列(對照20系列)之後再見過這種模式
P4印象中也是?
2.T4,A2,L4
印象中這幾張的效能差不多(明明不同世代,效能也可做得差不多
就我收到的消息時A2的產線大暴死,所以才T4繼續頂
應該不是市場接受度的問題,A2定價便宜很多呢XD
3.A100,MIG
MIG這項技術是否可以完全脫離vGPU呢
是,但也不是
MIG是驅動程式自帶的操作指令,可以切分成多張GPU
在監控介面下就是看到多張卡片
然後可以進行分配使用
但是前面提到,要在驅動程式的介面下操作
所以必須還是得使用前面提到的方式(直通道orvGPU)
1.直通道給虛擬機之後,再從虛擬機端操作
2.或是直接在hypervisor層進行MIG操作之後,再將切分出來的GPU打出來分配給虛擬機
第二種方式依然還是要購買授權呢
所以是但也不是
4.
這邊可以提到N家一個非常複雜的新授權NVIDIA AI Enterprise
嚴格來說它就是vcs+軟體服務的授權
他有著完全不同的驅動以及授權
但是使用方式還是跟vcs一樣
這刀法是真的強
以上,想到甚麼再補充
※ 引述《wei115 (社畜)》之銘言:
: 是這樣的
: 最近看對岸有批好便宜的tesla p4
: 一張大概只要NT 2000
: 性能大概有1070-10%等級 功耗不到75w 長期在資料中心吹冷氣
: 而且還支援vGPU
: 想說買來裝在我的proxmox主機上 玩我心心念念的顯卡虛擬化
: 可是查了一些資料發現
: 虛擬化確實很簡單,但裝進去後 每個虛擬機還要授權
: 如果沒有授權 20分鐘就限制性能 只能跑15fps
: 阿我都買硬體惹 現在連裝個驅動都要收錢喔= =
: https://i.imgur.com/HIy4YHd.jpeg
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.134.21.189 (臺灣)
: ※ 文章網址: https://www.ptt.cc/PC_Shopping/E.J0lzxLd5FV_Y
: 推 skyrain1234: 那授權費要5000嗎 04/08 20:14: 每年收
: 而且只收企業,個人用戶還會掛你電話
: 比5000還值錢= =
: ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 20:16:08
: 推 Fezico: 老黃驅動值5000買越多賺越多 04/08 20:16: → Fezico: 這東西本來就不是放出來給零售市場的,你怎會期望他屌你 04/08 20:17: 推 cowboyas0413: 我是覺得對岸論壇翻一翻 找到能用的驅動的機率不小 04/08 20:18: 驅動要網路認證 但我有看到幾個解決方案 有一個github專案可以使用24小時 然後重啟驅
: 動再用24小時
: 推 sheng76314: 有這種事 難怪便宜沒好貨 04/08 20:18: 推 DsLove710: 不然你要買AMD嗎 04/08 20:19: amd顯卡= =
: 推 fenix220: 貪小便宜的代價 04/08 20:24: 推 gameboy0618: 不然你要買AMD嗎 04/08 20:24: 推 Cubelia: 雖然I的內顯被酸亮機用,但在GVT-g和SR-IOV的vGPU支援 04/08 20:25: → Cubelia: 給得很大方 04/08 20:26: 本來也打算組intel方案的 只是那時候pve不怎麼支援大小核+amd礦渣主板很便宜就改裝580
: 0x惹
: → Cubelia: 不過性能就有總比沒有好 04/08 20:26: → AreLies: 我之前買V520結果發現 我沒有驅動 04/08 20:26: → Severine: 所以相較之下4090真的太便宜了 04/08 20:28: → scarbywind: 工商用硬體一堆這樣搞的. 04/08 20:33: ※ 編輯: wei115 (42.79.242.21 臺灣), 04/08/2023 20:41:12
: → newsnew: 商用很多都這樣 不是買斷制了 04/08 20:45: 推 keyman2: 賣家沒有先說喔? 04/08 21:07: → smallreader: 商用本來就要買授權了 04/08 21:24: → gyannor: 不如買1066 04/08 21:31: 推 harry886901: 沒辦法虛擬化 那就顯卡直通吧 04/08 21:31: 我現在主力機就是跑在虛擬機內的R
: 分配全部CPU核心、64GB RAM、直通一張大哥3060 12G
: → harry886901: 我買海鮮的p104 才1000也是1070同一個核心也不差 04/08 21:32: 推 harry886901: proxmox base on debian 04/08 21:36: → harry886901: 我記得某版debian就對大小核有支援了 04/08 21:36: 我看好像6.0kernel才支援
: 現在pve更新到最新kernel才5.15
: 噓 pcfox: 自己選的 04/08 21:41: 推 tennyleaz: 不知道可不可以刷vbios破解 04/08 22:25: 有看用unlock改成quadro來跑 這就不需要授權
: 可是cuda會沒辦法使用
: 推 Transposon: 不知道何時換丟T4 04/08 22:25: → MACROSS2K: T4大概還要好一段時間,A2前陣子缺貨大概都用T4 04/08 22:40: → MACROSS2K: L4又剛發,不知道市場接受度如何 04/08 22:40: 推 ArSaBuLu: 跟百變金剛一樣 雖然預算低 蛋便宜有便宜的辦法 04/08 22:41: 推 johnson0319: google一下就有各種unlock教學不是 04/08 22:50: unlock是改id
: 主要是主機支援,可是虛擬機還是要另外裝驅動
: ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 23:16:51
: → lc85301: 不然你要買 AMD 嗎 04/08 23:21: 推 marunaru: vGPU要買阿 老黃的商法 04/08 23:31: → marunaru: 如果你是A100那種等級的就不用了 自帶授權 04/08 23:31: → marunaru: 不想花vGPU的授權你就只能改成Passthrough的方法 04/08 23:32: → MACROSS2K: 其實AMD我也覺得蠻可惜的,MxGPU其實有出過一波 04/08 23:32: → MACROSS2K: 但不知道是不是軟體沒跟上,感覺沒有打開市場 04/08 23:32: → MACROSS2K: 然後MI200其實有出ESXi驅動,但測過好像沒有作用 04/08 23:34: → MACROSS2K: 也無法開出VF,有點不太理解想要設計成什麼樣子 04/08 23:35: 推 laeva75: 企業級的常見情況,買一個好像功能很多很強硬體只含最最 04/09 07:33: → laeva75: 最少最簡單的功能,其他功能的都要另外買授權 04/09 07:33: 推 corum68972: 恭喜你現在知道企業用戶是怎麼被老黃強姦的了 04/09 07:55: → winiel559: 還好有這些企業級盤子,不然4090還不一張20萬 04/09 10:01: 推 kamir: 一個願打,一個願挨 04/09 10:50: → kamir: 都說是垃圾了,還花錢 04/09 10:50: 推 Windcws9Z: 難怪賣這麼便宜 04/09 13:11: → game0502: RTX8000+NLS乖乖付錢的的人路過… 04/09 16:16: → nOhiTmE: pve 現在有optin 6.2 kernel. 04/09 22:39
--
感覺是給nvidia now用的@@
有點看懂了
所以顯卡掛給虛擬機後,再從虛擬機切分給不同的程式跑(
MIG),應該是可行的吧XD 也不會用到vGPU授權?
沒錯,這種方式很推薦 但是就要花時間維護環境(要很懂MIG架構)
推科普 稍微懂了
推,MIG記得也吃硬體架構,所以只有特定卡才能用
然後MIG的初衷是為了給容器,給VM用反倒是其次
目前就我所知A30,A100,H100有支援MIG功能,並且購買單卡有送vGPU授權 看來內部也很競爭
※ 編輯: aa210682 (61.219.70.171 臺灣), 04/10/2023 13:32:49推,看ptt漲姿勢
T4跟A2效能差不多 不過A2省了一點功耗?
好文分享堆一個
先收藏,晚點研究看看
推
A2很爛欸,除了VRAM大小根本是亮機卡等級,只有極少應
用能贏T4
然後L4以他75W的效能來說其實算很強
A2真實性能大概只有T4的1/3
根據我手邊有的資料,效能差不多就是了 不過我是沒有實際跑過跑分,不過真實性能這塊還是有很多面向的 繪圖、運算、FP32..等,這些都是,不能單純概括而論
推推
感謝分享
方法1 現在Workstation能用了?
一般遊戲卡也行嗎?
可以,直通道技術跟hypervisor產品有關 講一個更好裡解的部分,要讓CD ROM or USB讓USB讀取的到 邏輯上就是跟直通道一樣的概念
推
推推
玩過這個 聞聞看 對這個有什麼看法
V
看起來是hyper-v專用 本人是不推薦這種作法的,畢竟誰也無法保證效能那些是否在虛擬機上正常(望向VMware Bitfusion)
※ 編輯: aa210682 (61.221.67.195 臺灣), 04/11/2023 13:31:4019
首Po是這樣的 最近看對岸有批好便宜的tesla p4 一張大概只要NT 2000 性能大概有1070-10%等級 功耗不到75w 長期在資料中心吹冷氣 而且還支援vGPU6
是這樣的 曾經,在NVIDIA vGPU還不叫這個品牌名稱的時候,最一開始叫做GRID,2013年 一開始支援的GPU是一個專屬的產品線叫做K1/K2 那時候算是NVIDIA做GPU虛擬化的起步 1.0版本扣掉軟體模擬模式與PCI pass-through模式來看85
另外開一篇 在Docker/Container概念開始流行之前,多重環境同時執行的概念 從"模擬",也就是用軟體進行binary translation,這種只靠CPU進行軟體運算的 環境 到"虛擬",在原生硬體上建立多個"楚門的世界",並且都享有原生硬體效能12
這邊多解釋一下好了,雖然說推文內也有人提到部分 Proxmox基本上底層的Hypervisor即是Linux KVM,這部分NVIDIA目前也已經支援了 大約是2020還2021年的時候開放的,且一樣需要授權才可以使用 而且記得沒錯還需要在在自家架一個授權管理伺服器 而在KVM的實現方式,基本上跟NVIDIA原本差不多4
Proxmox的PCI(e) pass through我的建議是不適合初學者,最好是有經驗 能自己解決問題的人再來用。 如果是很重要的機器,請謹慎使用,並不是說這個東西不好裝或設定, 而是就算你現在系統都裝好,使用上也都沒問題, 但難保下一次更新就整個不能用了。
28
[閒聊] NV新驅動已不再支援Win7系統和Kepler架構相關參考來源: techpowerup網站 videocardz網站27
[討論] Android 13能跑Windows虛擬機了來自XDA的新聞 Android 13預覽版加入了pKVM的功能 所以就有人拿來裝Windows 11 ARM了 沒有GPU加速但效能接近原生,能夠玩老遊戲22
[情報] 老黃的遊戲顯卡現已被發現啟用虛擬化方法GPU虛擬化就跟CPU虛擬化一樣 將硬體資源虛擬分配給多個虛擬終端 可用於3D建模或是科 學工作 最親近我們使用者的實例就是GeForce Now 其採用GRID20
[閒聊] 有人用過intel的內顯虛擬化嗎?安安 小弟之前無聊查資料 發現intel內顯有一個很神的功能,就是顯卡虛擬化intel GVT-g 為什麼說它神呢?因為AMD和NVIDIA最便宜支援虛擬化的顯卡,價位都差不多2080ti的價 格8
[情報] NVIDIA將RTX Ampere工作站顯示卡導入桌上NVIDIA將其龐大的工作站就緒RTX顯示卡大軍帶到了桌上型和筆記型電腦領域 其中包括RTX A6000,A5000,A4000,A3000和A2000 新型GPU專為專業人士和內容創作者而設計 為每個類別的用戶提供了很多便利,無論他們是想要在辦公桌上還是在旅途中都能獲得高 性能。X
[情報] NV推AI企業軟體套件協助各行各業發展NVIDIA 今日宣佈推出 NVIDIA® AI Enterprise,這是一套全方位的企業級人工智慧 (AI) 工具和框架軟體套件 由 NVIDIA 提供最佳化、認證及支援服務,專供今日另外宣布推出的 VMware vSphere 7 Update 2 使用。 NVIDIA 與 VMware 這項業界首見的合作所開發出的 AI-Ready Enterprise 平台