PTT推薦

[請益] Linux 雙顯卡工作站

看板PC_Shopping標題[請益] Linux 雙顯卡工作站作者
u9612123
(只會衝鋒)
時間推噓11 推:11 噓:0 →:77

小弟只懂寫軟體平常都在Windows底下開VM裝Linux工作
現在打造一台工作站想省掉虛擬化
用原生純純的Linux跑Docker, K8s,
也可以裝個Windows虛擬機使用Office系列
或是Multiple GPUs on the same machine vs Distributed GPUs
需求說完,硬體:

CPU: 7500F (5200元)
主機板: ProArt B650-CREATOR (8000)
顯示卡: 3060三風扇*2 (9000*2)
SSD: MX500 1TB*2 (2000*2)
記憶體: DDR5 32G*2 金士頓 (3200*2)
電源: 海韻 Focus GX-850 ATX3.0 850W (4200)

為啥選主機板配那麼多預算
因為ProArt B650-CREATOR 支援X8 X8
剛好分配給兩張顯卡一樣的帶寬而且3060吃不滿PCEI4.0 X8
為啥不買3090,因為小弟沒錢不然上兩張3090
記憶體先上兩條,日後有需求在繼續買

我看了配置主機板錢好像花多了
但這已經是我能找到最便宜的x8 x8主機板
CPU好像用的挺便宜5000有找
聽說Linux大神Torvalds把他的工作機換成AMD?
但又不知道消費者I系列對SERVER應用支援好不好
不然把CPU預算拉到13000以內I系列也是可以的
說不定我哪天中頭獎把兩張3060換成兩張3090
這高貴的CPU就有用武之地
這台機器的工作就是充當我寫程式跑跑ML的機器
或是掛一堆Container之類
小弟三十好幾對3A大作沒興趣現在拿童年回憶
世紀帝國、D3出來打沒十分鐘就不想玩了
還不如出門走走故地重游

有請各位大大分享經驗,感謝各位大大不令指教!





--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.147.33 (臺灣)
PTT 網址

labbat 10/18 00:23何不使用linux系統,虛擬機跑windows?

E7lijah 10/18 00:26就連4090跑4.0 x8也只會損失3%效能

原來如此,筆記

chang1248w 10/18 00:27為啥想用雙卡?

chang1248w 10/18 00:30完全可以到隔壁先拉一張3090,存錢等

chang1248w 10/18 00:30下一張

promaster 10/18 02:40就算2張3090能達成什麼目標?連nvlink

promaster 10/18 02:40都被廢了

promaster 10/18 02:40這廢熱還是組一台烤箱吧!

應該說看到同行用5張1080Ti 組了一個K8s GPU Cluster就想知道Distribute GPU跟單機插?

aq981334 10/18 03:06現在一台主機兩張民用級顯卡 好像不存

aq981334 10/18 03:06在什麼用途了?

從資料科學角度確實沒多大用處,或許從系統工程層面有點價值??

aq981334 10/18 03:07我唯一能想到的用途就是一台主機上跑著

aq981334 10/18 03:07ESXI或PVE之後各個虛擬機單獨分配一張

aq981334 10/18 03:07獨顯?

aq981334 10/18 03:09I系列大小核 對Sever 應用都不太好就是

aq981334 10/18 03:09

我就是怕大小核,畢竟專業軟體如Adobe有Intel優化,但Server應用DB、NGINX之類就不好?

sma1033 10/18 05:02只有你想不到,沒有用不到,多顯卡很好用

sma1033 10/18 05:02一張卡長時間跑model training,另一張卡

sma1033 10/18 05:03還能做別的事情,工作就是要這樣才有效率

sma1033 10/18 05:03可以不要再遊戲黨看天下了好ㄅㄟ

sma1033 10/18 05:04我自己裝139k+192G記憶體+3090x2當工作站

sma1033 10/18 05:05好用的很,唯一缺點就是穩定性比不上商用

sma1033 10/18 05:06工作站,不過看在價錢實惠的份上用來還行

對壓,Dell Server專用的SSD 960GB就要1萬,就不要說記憶體 CPU加起來一台低消也要15?

sma1033 10/18 05:08Linux多工應用目前都沒碰到問題

有大大這句話我就放心了

soulgem 10/18 06:16真的要看更仔細的用途, 偏ML還是偏系統..

沒錯!

soulgem 10/18 06:17單卡怕 model training 爆掉影響日常使用

soulgem 10/18 06:18(現行 3960X+256G RAM+3060+A4000...)

soulgem 10/18 06:193090x2 可能是電費受不了

挖猛猛的,這24HR運作每個月就要幾千的電費

soulgem 10/18 06:20大小核確實裝 Windows 比較好 (思)

soulgem 10/18 06:307字頭可能沒有內顯+雙顯方案的感覺...

soulgem 10/18 06:31副機是 5700g+b550-creator+雙卡 PVE...

soulgem 10/18 06:32但是這台副機不常開, 真的會傷電(眼神死)

soulgem 10/18 06:33內顯+雙顯 PVE 才會一個 VM 給一張卡

soulgem 10/18 06:33PVE 自己從內顯出

soulgem 10/18 06:33僅供參考

soulgem 10/18 06:37若偏向多容器應用建議把 RAM 搞多一點.

sma1033 10/18 06:50消費級平台的硬傷就是RAM只能192G,HEDT

sma1033 10/18 06:51平台又一直被放生,想組便宜工作站真的難

sma1033 10/18 06:53想弄24H開機的GPU運算主機真的在硬體層面

sma1033 10/18 06:53必須要費很多腦子,不然就要多花錢或是犧

sma1033 10/18 06:54牲穩定性,零件隨便實在湊很容易踩雷

是阿,感謝大大分享組工作站心得。

henrylin8086 10/18 07:49Linus好像是用Threadripper,那是

henrylin8086 10/18 07:49不同規格的東西。

eXcFerGodSt 10/18 08:28更正一下 那不是什麼大神 那是 Linux

eXcFerGodSt 10/18 08:28 他爸

mtc5566 10/18 12:06撇開I/A不談 AM5記憶體未必能上6400 拿La

mtc5566 10/18 12:06ncer 6000就可以了 時序低效能說不定還更

mtc5566 10/18 12:06

感謝分享資訊!

chang1248w 10/18 12:39...?

froce 10/18 15:10為啥我看不懂你到底要問啥…

froce 10/18 15:10你這配置沒啥問題啊,要跑Linux server就

froce 10/18 15:10確定主要設備和網卡驅動沒問題就好,所以

froce 10/18 15:10你到底要問啥?

求個安心吧!

froce 10/18 15:11要更穩一點就上ECC ram,消費平台極限大概

froce 10/18 15:11就在那裡而已。

Yes, Sir

soulgem 10/18 15:14Docker/k8s 可以在原生 linux 下

soulgem 10/18 15:15但是 ESXi/PVE 是 hypervisor 整台成虛擬

soulgem 10/18 15:15所以機器蓋起來要怎樣控制就得先想好.

soulgem 10/18 15:16應該說是半虛擬, 但是那兩個會變遠端控機

對阿,還是原生裝Docker/K8s,再裝個VM Workstation之類跑Windows比較不那麼複雜

※ 編輯: u9612123 (219.70.147.33 臺灣), 10/18/2023 20:58:00

froce 10/19 08:28我不知道你目前的環境。但我的經驗是如果

froce 10/19 08:28你習慣在windows下開發,獨立一台windows

froce 10/19 08:28開發機一台linux建置機會比較好。

froce 10/19 08:28Windows下現在wsl2+docker要跑ml訓練還算

froce 10/19 08:28ok。

froce 10/19 08:28建置機的話就一定要弄虛擬化平台比較方便

froce 10/19 08:28

froce 10/19 08:28主力不是在linux下生活,要在虛擬機裡每天

froce 10/19 08:28用windows…說真的我完全不想折磨自己

u9612123 10/19 11:36應該說就是看大神用五台1080Ti組分散式

u9612123 10/19 11:36集群,決定先買兩個3060塞在一起玩玩看

u9612123 10/19 11:36,windows單純是用不慣linux內建的open

u9612123 10/19 11:36 office,可能我前面沒表達清楚,最後

u9612123 10/19 11:36感謝大大的回應

※ 編輯: u9612123 (39.12.121.116 臺灣), 10/19/2023 11:57:42

yeeouo 10/19 12:36原po看起來預算很有限 非ecc ram不超頻的

yeeouo 10/19 12:36話就算是win一個多月不關機也沒問題的

yeeouo 10/19 12:39另外不要看到別人組啥跟風 確定自己需求

yeeouo 10/19 12:39比較重要(繳了一堆學費的經驗

yeeouo 10/19 12:39且除非你確定自己在組啥 否則能單不雙!

yeeouo 10/19 12:40買來大部分時間都跑在單卡上或是雙卡跑不

yeeouo 10/19 12:40到50%提升是常有的事

yeeouo 10/19 12:53一張卡要分成五張卡很容易 見五等分的顯

yeeouo 10/19 12:53卡 性能損失不大 五張卡要合併成一張 性

yeeouo 10/19 12:53能損失就比較大了 性價比很低的

yeeouo 10/19 12:53比較建議當頂卡已經滿足不了你時再組多卡

u9612123 10/19 16:48總是要I have a dream嗎! OpenAI有成

u9612123 10/19 16:48功組2500個節點。

u9612123 10/19 16:48https://openai.com/research/scaling-

u9612123 10/19 16:48kubernetes-to-2500-nodes

Bujo 10/20 08:52終於有GPU生產力的文章出現了