PTT推薦

[菜單] 200k 實驗室深度學習主機

看板PC_Shopping標題[菜單] 200k 實驗室深度學習主機作者
EEQQ102938
(EEQQ)
時間推噓30 推:31 噓:1 →:48

趕畢業跑深度學習實驗,但目前工作站太爛,所以跟老師拿一筆錢升級工作站。
原本想鎖定兩張3090或兩張4090進行升級的,但廠商說他們沒有3090了,所以開了一張有兩個4090的單,但有點超過預算,想請各位幫忙健檢一下,看看哪裡可以換@@,還沒口試就花教授一堆錢,很抖QQ

已買/未買/已付訂金(元):未買

預算/用途:200K 實驗室深度學習機

CPU (中央處理器):Intel i9-13900
MB (主機板):華碩Z790-A GAMING WIFI主機板
RAM (記憶體):芝奇幻鋒 D5-5600 32G * 2
VGA (顯示卡):技嘉GeForce RTX4090 GAMING OC * 2
Cooler (散熱器):Noctua NF-A14 PWM 14cm風扇 * 4
SSD (固態硬碟):Samsung 980 PRO 2TB NVMe M.2
PSU (電源供應器):全漢HYDRO PTM PRO 1200W ATX3.0 * 2
CHASSIS (機殼):Phanteks ENTHOO ELITE電腦機殼
水冷:NZXT Kraken X73 水冷散熱器

其它 (自填):
總價 (未稅/含稅):235000 (含稅)

另外想請問,聽說40系列沒有nvlink了,那這樣我是不是不能把兩張卡合在訓練模型?我主要用tensorflow的package,tf的strategy可以把兩張4090的ram合在一起看嗎?如果不行的話是不是買一張4090就好了...

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 136.23.35.40 (日本)
PTT 網址

dos0103/30 17:35不用砍啦 反正教授的錢也是花學校的錢 學校的錢也是花研究

dos0103/30 17:35計畫預算 研究計畫的預算又來自繳稅的錢 然後你又遲早會繳

dos0103/30 17:35稅 想想這其實也是花你自己的錢 直接買了啦!

encorek2255403/30 17:37多卡訓練一直都跟nvlink無關吧

EEQQ10293803/30 17:39如果batch大一點或模型大一點的話,一張卡24G可能不夠

EEQQ10293803/30 17:39用…

Zenryaku03/30 17:40實驗室不直接找廠商弄嗎…

sugoyeee03/30 17:40板不需要a有更好的選擇 要拿d5就拿超過6000的

Zenryaku03/30 17:40以後畢業了還被叩回去修電腦

EEQQ10293803/30 17:41原文有說這是廠商報的單喔!

Zenryaku03/30 17:42哦沒看到 抱歉

Zenryaku03/30 17:42先把三星的ssd換掉 爛廠商問題一堆

rewisyoung03/30 17:4220萬預算 有沒有考慮用GA100啊

這會爆預算吧…

Zenryaku03/30 17:43電源不用兩台1200吧 哪吃那麼多電需要2400w

Zenryaku03/30 17:45風扇可以不用買貓頭鷹的,而且這顆不是A12*25沒特別強

※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 17:47:22

Zenryaku03/30 17:48然後記憶體也不用買芝奇的,芝奇也是特別貴的那種,時

Zenryaku03/30 17:48脈至少買到6000

blacknate03/30 18:10放個高速的HDD吧,SSD掛掉模型找不回來會嘔死

blacknate03/30 18:11深度學習吃SSD的程度很可怕的,尤其是YOLO 那一類圖像

blacknate03/30 18:11的吃很重

blacknate03/30 18:13記得查一下你用的框架版本,萬一硬體太新不支援就哭了

cmcer03/30 18:15怕掉資料就組raid吧

※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 18:16:58

blacknate03/30 18:17樓上說得對,組raid,不然你光是保內把ssd操壞就有得受

blacknate03/30 18:17

johnjohnlin03/30 18:20學校破10萬不是要公開招標嗎

johnjohnlin03/30 18:21然後雙卡請買HEDT以上

mrme94503/30 18:23這張主板不妥吧,只有第一槽是x16,下面兩槽都只有x4頻寬

mrme94503/30 18:23而已

mayolane03/30 18:26有破10萬要招標這回事嗎,儀器隨便幾十萬沒有聽說過招

mayolane03/30 18:26標欸

mrme94503/30 18:31主板直接用W680的吧,華碩那張也不貴,只是我也不知道這

mrme94503/30 18:31兩槽那麼近能不能裝兩張4090就是了,另外記憶體看能不能

mrme94503/30 18:31找到ECC的,跑起來比較穩,比速度重要多了

nasa93002203/30 18:31實驗室經費自己買的不用招標吧

remia8103/30 18:42建議先去TWCC測試一下你的訓練多卡到底能不能用

remia8103/30 18:42tf多卡訓練很謎

TingLinDick03/30 18:46我也是配置兩張4090,但機殼因為怕散熱有問題,所以

TingLinDick03/30 18:46是用礦機架加pcie延長線讓兩張顯卡有空間,兩張同時

TingLinDick03/30 18:46跑的話會蠻熱的,所以機殼的散熱最好問一下廠商可不

TingLinDick03/30 18:46可行

兩張4090可以share vram嗎?

bear141403/30 18:47主板不行 風冷佔3點多槽 你第二張卡只剩PCIe 3.0 x1

bear141403/30 18:48除非你用延長線

bear141403/30 18:49速度建議至少要有PCIE3.0 X8 (=PCIE4.0 X4)

bear141403/30 18:51另外你要跑的是哪個領域 CPU 13700系列就非常足夠了

bear141403/30 18:56訓練若單卡VRAM夠 多卡可以同時跑不同超參數的

bear141403/30 18:56提高效率

bear141403/30 18:58另外 你這台要放實驗室還是24小時冷氣server room?

會放在24hr 冷氣的server room喔

yenchieh110203/30 19:16實驗室來張A6000啊

bear141403/30 19:16現在A6000不好 要6000 ADA才夠快

※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 19:17:51 ※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 19:18:11

EEQQ10293803/30 19:19看下來目前應該是換主板,儲存從SSD換HDD,Ram換頻率

EEQQ10293803/30 19:19高一點的嗎@@

mesmerising03/30 19:27實驗室拿一堆信仰外觀稅的零件好難懂

blacknate03/30 19:30ML重點是ram大才能做cache,頻率其實沒那麼重要

mrme94503/30 19:36不是要你SSD換HDD,是要你多準備空間存放模型的,SSD壞掉

mrme94503/30 19:36還有得救,SSD還是要有,只是換別家的吧,980Pro還有0E問

mrme94503/30 19:36

fuct03/30 19:36為了你的畢業花那麼多錢喔,真好

GooglePixel03/30 20:01怎麼不直接買server 效能非家用級能比

dos0103/30 20:03SSD你還是要有 HDD只是多放備用的

GooglePixel03/30 20:05當我沒說 光一個data center等級GPU就爆預算==

Snowman03/30 20:0710萬以上是可以選擇公開招標 100萬以上才是強制公開招標

johnjohnlin03/30 20:30可是寫限制招標文件很麻煩

TingLinDick03/30 20:44如果訓練需要較大的VRAM的話,我是用pytorch DDP去處

TingLinDick03/30 20:44理,TF的沒用過

Aquarius12603/30 20:45之前弄兩張3090塞機殼裡面熱到哭 只好弄礦架在外面跑

Aquarius12603/30 20:45qq

fuless03/30 20:58怎麼看都像台信仰機 哪間學校碩

cor1os03/30 22:25信仰?零件沒有AMD哪來的信仰(笑)

HotDogCC03/30 22:42如果你今年確定畢業,買個pcie4的SSD用完就滾了,壞了

HotDogCC03/30 22:42給學弟負責(x

kidd23203/31 00:17這台太羊了

jahnson03/31 00:34實驗室禁用冷筍

GLTyang03/31 10:55原來實驗室可以自己組電腦 我以為都會想要用工業電腦XD

GLTyang03/31 10:55DD

oppoR2003/31 11:54實驗室可以用自組啊 看過不少台了

oppoR2003/31 11:54不過通常都是找廠商報價 讓她幫你買零件

oppoR2003/31 11:55讓她幫你組 最後有問題還是可以找廠商

dc024403/31 13:08記憶體拿6000以上的比較有意義t-create 6000 32G*2雙通道

dc024403/31 13:08這種的不貴

bear141404/01 12:50做深度學習記憶體速度影響不太 挑便宜的就可以了