Re: [請益] 兩張3090深度學習用電腦

目前手邊正有兩張3090在跑DL，雖然不是繪圖但還是手癢回個文順便賺點P幣 欸嘿
實驗室有5張A6000，但xeon的單核好爛管理系統還不能設container的shm
只好自己弄一台 馬的

※ 引述《brid (鳥哥)》之銘言：
: 標題: [請益] 兩張3090深度學習用電腦
: 時間: Tue May 30 15:14:10 2023
:
: 如題，最近實驗室要新增一台電腦
: 預計是兩張二手3090要跑深度學習(AI繪圖)
: 沒有選4090是因為怕燒(實驗室常常沒人)
: 想請問以下問題(除了顯卡都以全新為主)
: 1.3090 如果要跑x16/x16的話板U建議怎麼拿，還是說拿一般的板子跑x8/x8即可？
我這邊跑在pcie4 x16和pcie3 x4，訓練速度體感是沒差就是
但我的模型不大
: 2.記憶體拿64G應該很夠了吧？
: 3.機殼有沒有推薦的？預計要裝滿14cm的風扇和兩張3090
: 老師有點白色控，如果價差不大可以推薦看看一些白色的零件，RGB不需要沒關係
: 機殼預算5k左右，板u不知道行情，但也是希望以夠用為主

先說我的配備
12700k
msi pro z690a wifi d4
隨便16g*2
隨便ssd好幾條好幾個
msi 3090 ventus 3x 裝上面
evga 3090 xc3 雙下面 反過來的話會燙到爆
海盜1000w
Antec P100(沒看錯 8年多前的殼)

U和板是之前礦潮的時候撿的，星星那張來自蝦皮另一張來自隔壁板
入手價是蠻便宜啦，但隔壁板那張她媽清了狗幹久
星星那張也有過風扇很大聲送修 還好沒有拒保 如果買二手便宜卡要有心理準備
再來就是散熱，能開側板的話真的隨便的殼都沒關係
不能開的話應該大部分的殼都很刺激喔

另外要注意幾個點
第一是一定很熱，尤其上面那張卡
本身進氣條件就不好了，又會吸到下面那張卡的熱空氣，除非用鼓風扇
但3090基本上沒這東西的樣子

第二是兩張卡中間那個m2插槽請當作沒有
根本沒幹嘛就熱到跳掉 笑死

另外就是windows的docker desktop效能有夠爛 換到linux後直接起飛 又笑死

順便回幾個推文 感覺不少人對這種運算機不太熟?
: 推 hbk20491: 沒人3090就沒危險？ 05/30 15:15: → hbk20491: 高功耗在跑人一定要在 05/30 15:15沒差吧 我看別間實驗室A100也沒人在顧 一堆小礦場也沒人在顧

: → oppoR20: 強烈建議3090Ti 05/30 15:16: → oppoR20: 我們lab熱壞一張3090了 05/30 15:163090ti有比較好嗎 預設功耗比較高 還是原po最怕的pcie5供電
雖然好像不會燒就是
90的雙面vram熱壞就...送修?
3090ti最大問題應該還是價格 前陣子普遍多4到5000 還沒有可以砍價的礦卡
現在3090也漲起來就不知道了 但的確是一個可以考慮的選項

: 推 hbk20491: 3090發爐大戶 你敢24小時讓他維持80幾度以上？？4090超 05/30 15:19: → hbk20491: 低溫不超過60度 05/30 15:19為啥不敢 才80度 桌機用戶vs筆電用戶.jpg
另外就是3090降個公耗基本上不會影響太多

: → oppoR20: 高功耗沒人在沒差啦 哪有那麼誇張 05/30 15:21: → oppoR20: 多得是把機器放在其他地方的lab 05/30 15:21把機器放在研究室才是少數吧XD
熱得要死 如果是伺服器型還吵得要死 放隔壁都聽的到zz

: 推 ZhouGongJin: 怕熱就油冷啊，反正能報帳。 05/30 15:26真幽默
: 推 mrme945: 不用啊，華碩那張W680就可以了，還可以上ECC記憶體，不過 05/30 15:36: → mrme945: 兩槽有點近，卡的位置不是很好安排 05/30 15:36要塞的下XD 現在的卡都狗幹大張==

: → GZEN: 那熱量真的勸你再想想 05/30 15:40我隔壁同學每天強迫享受三溫暖 免費的真棒
如果冬天的話很爽就是 可惜夏天到了

: 推 boren: 共同供應契約買個繪圖工作站直接配好就行了，出保不囉嗦 05/30 16:27: → boren: 喔對了，顯卡就配兩張A6000，買什麼3090 05/30 16:34會這樣問肯定是預算不夠啊 a6000一張18萬組兩台還有剩 也沒跑比較快
vram是多很多啦 但用不到=浪費餒

: 推 Ahhhhaaaa: 1. 不需要買x16/x16的板跟U，因為3090跑不滿pcie 4.0x8 05/30 16:48: → Ahhhhaaaa: ，所以買個有x8/x8即可 甚至你不強求的話可以x16/x4 05/30 16:48: → Ahhhhaaaa: 要買x16/x16你乾脆直接上A6000、或者下一代的6000 ada 05/30 16:48其實我覺得 有沒有要NVlink是兩回事 但原po沒有說這部分
如果要nvlink感覺就有機會需要雙x16 單純靠那個小東西的頻寬應該沒那麼大?
但我沒用過我也不知道
當初麗x的人說那個很難用叫我們不要浪費錢 笑死

: 推 liang1123: 有辦法請到經費的話就找廠商上繪圖工作站R 二手3090誰 05/30 17:37: → liang1123: 知道有沒有被操出內傷 到時出問題你會被釘飛 05/30 17:37趕快畢業就沒事(X
: 推 annboy: 1. CPU只會影響前處理 拿i9 主機版拿x8/x8因為DL訓練瓶頸 05/30 18:03: → annboy: 在卡內 x8跟x16最多最多不會超過5% 05/30 18:03: → annboy: 記憶體要大於 VRAM綜合的兩倍 所以要超過96 請拿128G 三 05/30 18:04: → annboy: 條插滿 05/30 18:04: → annboy: 3. 聯力 O11D XL 05/30 18:05: → annboy: *四條插滿 05/30 18:06i9不一定有用吧 我看我一個訓練都只有單核吃滿 剩下都不高 總使用率大概30%
感覺i7應該就夠了餒 當然這種東西沒在嫌少的XD
至於ram我覺得要看跑甚麼 我這邊大概吃16g不到 笑死

: → s3503s: 3090太燙 一張都很抖 建議要就兩張4090 05/30 18:12: 推 s3503s: 真的要塞就找類似礦架的 不然兩張疊在一起 機殼多大都沒 05/30 18:15: → s3503s: 用 05/30 18:15450w vs 350w 要確定餒 但如果是礦架的話都不燙就是

: → y40103: 建議4090 為了怕燒用3090聽起來很瞎 05/30 18:45有點好笑，但4090太貴太大張，原po看起來有預算問題
選兩張二手3090我覺得合情合理

: → GZEN: 對了你基本上還要上雙電供 能選的機殼從一開始就很有限了 05/30 18:49不用== 才兩張3090 一顆1000w涼涼 會怕就1300w 電沒有不穩的話搞不好比顯卡還能撐
200w.jpg少看點

: → mtc5566: 用4090+1 至於怕燒那真的沒辦法.. 05/30 20:56為啥大家那麼喜歡4090

不知道欸 電蝦板鄉民研究所的實驗室都是土豪實驗室ㄇ
雖然4090看tflops效能是3090的兩倍多，但dl很吃vram頻寬
我記得conv之類的效能好像就1.6倍 vram也沒有比較多
20k vs 48~50k 多60%效能好像沒有很優
然後還超大 搞不好塞不下第二張

以上供原po參考 祝早日脫離苦海
但現在才在組應該是碩一或博班 感覺還久 幫qq

--