[菜單] 200k 實驗室深度學習主機

dos0103/30 17:35不用砍啦 反正教授的錢也是花學校的錢 學校的錢也是花研究

dos0103/30 17:35計畫預算 研究計畫的預算又來自繳稅的錢 然後你又遲早會繳

dos0103/30 17:35稅 想想這其實也是花你自己的錢 直接買了啦!

encorek2255403/30 17:37多卡訓練一直都跟nvlink無關吧

EEQQ10293803/30 17:39如果batch大一點或模型大一點的話，一張卡24G可能不夠

EEQQ10293803/30 17:39用…

Zenryaku03/30 17:40實驗室不直接找廠商弄嗎…

sugoyeee03/30 17:40板不需要a有更好的選擇 要拿d5就拿超過6000的

Zenryaku03/30 17:40以後畢業了還被叩回去修電腦

EEQQ10293803/30 17:41原文有說這是廠商報的單喔！

Zenryaku03/30 17:42哦沒看到 抱歉

Zenryaku03/30 17:42先把三星的ssd換掉 爛廠商問題一堆

rewisyoung03/30 17:4220萬預算 有沒有考慮用GA100啊

Zenryaku03/30 17:43電源不用兩台1200吧 哪吃那麼多電需要2400w

Zenryaku03/30 17:45風扇可以不用買貓頭鷹的，而且這顆不是A12*25沒特別強

Zenryaku03/30 17:48然後記憶體也不用買芝奇的，芝奇也是特別貴的那種，時

Zenryaku03/30 17:48脈至少買到6000

blacknate03/30 18:10放個高速的HDD吧，SSD掛掉模型找不回來會嘔死

blacknate03/30 18:11深度學習吃SSD的程度很可怕的，尤其是YOLO 那一類圖像

blacknate03/30 18:11的吃很重

blacknate03/30 18:13記得查一下你用的框架版本，萬一硬體太新不支援就哭了

cmcer03/30 18:15怕掉資料就組raid吧

blacknate03/30 18:17樓上說得對，組raid,不然你光是保內把ssd操壞就有得受

blacknate03/30 18:17了

johnjohnlin03/30 18:20學校破10萬不是要公開招標嗎

johnjohnlin03/30 18:21然後雙卡請買HEDT以上

mrme94503/30 18:23這張主板不妥吧，只有第一槽是x16，下面兩槽都只有x4頻寬

mrme94503/30 18:23而已

mayolane03/30 18:26有破10萬要招標這回事嗎，儀器隨便幾十萬沒有聽說過招

mayolane03/30 18:26標欸

mrme94503/30 18:31主板直接用W680的吧，華碩那張也不貴，只是我也不知道這

mrme94503/30 18:31兩槽那麼近能不能裝兩張4090就是了，另外記憶體看能不能

mrme94503/30 18:31找到ECC的，跑起來比較穩，比速度重要多了

nasa93002203/30 18:31實驗室經費自己買的不用招標吧

remia8103/30 18:42建議先去TWCC測試一下你的訓練多卡到底能不能用

remia8103/30 18:42tf多卡訓練很謎

TingLinDick03/30 18:46我也是配置兩張4090，但機殼因為怕散熱有問題，所以

TingLinDick03/30 18:46是用礦機架加pcie延長線讓兩張顯卡有空間，兩張同時

TingLinDick03/30 18:46跑的話會蠻熱的，所以機殼的散熱最好問一下廠商可不

TingLinDick03/30 18:46可行

bear141403/30 18:47主板不行 風冷佔3點多槽 你第二張卡只剩PCIe 3.0 x1

bear141403/30 18:48除非你用延長線

bear141403/30 18:49速度建議至少要有PCIE3.0 X8 (=PCIE4.0 X4)

bear141403/30 18:51另外你要跑的是哪個領域 CPU 13700系列就非常足夠了

bear141403/30 18:56訓練若單卡VRAM夠 多卡可以同時跑不同超參數的

bear141403/30 18:56提高效率

bear141403/30 18:58另外 你這台要放實驗室還是24小時冷氣server room?

yenchieh110203/30 19:16實驗室來張A6000啊

bear141403/30 19:16現在A6000不好 要6000 ADA才夠快

EEQQ10293803/30 19:19看下來目前應該是換主板，儲存從SSD換HDD，Ram換頻率

EEQQ10293803/30 19:19高一點的嗎@@

mesmerising03/30 19:27實驗室拿一堆信仰外觀稅的零件好難懂

blacknate03/30 19:30ML重點是ram大才能做cache,頻率其實沒那麼重要

mrme94503/30 19:36不是要你SSD換HDD，是要你多準備空間存放模型的，SSD壞掉

mrme94503/30 19:36還有得救，SSD還是要有，只是換別家的吧，980Pro還有0E問

mrme94503/30 19:36題

fuct03/30 19:36為了你的畢業花那麼多錢喔，真好

GooglePixel03/30 20:01怎麼不直接買server 效能非家用級能比

dos0103/30 20:03SSD你還是要有 HDD只是多放備用的

GooglePixel03/30 20:05當我沒說 光一個data center等級GPU就爆預算==

Snowman03/30 20:0710萬以上是可以選擇公開招標 100萬以上才是強制公開招標

johnjohnlin03/30 20:30可是寫限制招標文件很麻煩

TingLinDick03/30 20:44如果訓練需要較大的VRAM的話，我是用pytorch DDP去處

TingLinDick03/30 20:44理，TF的沒用過

Aquarius12603/30 20:45之前弄兩張3090塞機殼裡面熱到哭 只好弄礦架在外面跑

Aquarius12603/30 20:45qq

fuless03/30 20:58怎麼看都像台信仰機 哪間學校碩

cor1os03/30 22:25信仰？零件沒有AMD哪來的信仰(笑)

HotDogCC03/30 22:42如果你今年確定畢業，買個pcie4的SSD用完就滾了，壞了

HotDogCC03/30 22:42給學弟負責（x

kidd23203/31 00:17這台太羊了

jahnson03/31 00:34實驗室禁用冷筍

GLTyang03/31 10:55原來實驗室可以自己組電腦 我以為都會想要用工業電腦XD

GLTyang03/31 10:55DD

oppoR2003/31 11:54實驗室可以用自組啊 看過不少台了

oppoR2003/31 11:54不過通常都是找廠商報價 讓她幫你買零件

oppoR2003/31 11:55讓她幫你組 最後有問題還是可以找廠商

dc024403/31 13:08記憶體拿6000以上的比較有意義t-create 6000 32G*2雙通道

dc024403/31 13:08這種的不貴

bear141404/01 12:50做深度學習記憶體速度影響不太 挑便宜的就可以了