PTT推薦

[菜單] 120k AI模型訓練機

看板PC_Shopping標題[菜單] 120k AI模型訓練機作者
aces3732
(哦業 小啾寶)
時間推噓 9 推:9 噓:0 →:51

已買/未買/已付訂金(元):未買

預算/用途:AI模型訓練,希望之後可以擴充雙4090顯卡
有幾個蠢問題
1. 是否DDR4就夠了,不用上5
2. 14700K跟非K會差很多嗎? 如果改用14700F的話,是否FC140就夠了,不用上水冷
3. 雙顯卡插得下嗎? 1500w是否夠,會不會裡面變火球
4. SSD打算一個系統一個跑資料用,是否拿個4tb就夠了?


CPU (中央處理器):Intel i7-14700K【20核/28緒】3.4G(↑5.6G)/33M/UHD770/無風扇
MB (主機板):華碩 TUF GAMING Z790-PRO WIFI
RAM (記憶體):威剛 64GB(雙通32GB*2) DDR5 6000 XPG Lancer/CL30
VGA (顯示卡):華碩 TUF-RTX4090-O24G-GAMING(2595MHz/35cm/註五年)
Cooler (散熱器):微星 MAG CoreLiquid M360 /A.RGB冷頭+風扇/厚:5.2
SSD (固態硬碟):
美光Micron Crucial T500 1TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒
美光Micron Crucial T500 2TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒
HDD (硬碟):
PSU (電源供應器):be quiet! Dark Power Pro 12 1500W
CHASSIS (機殼):聯力 LANCOOL 216 RGB 黑
MONITOR (螢幕):
Mouse/KB (鼠鍵):
OS (作業系統):

其它 (自填):酷碼 VGA Holder 顯卡用支架
總價 (未稅/含稅):120000左右


--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.150.62 (臺灣)
PTT 網址

Depthsharky 03/25 22:31不想上水就14700/14700F

Depthsharky 03/25 22:32一張卡用PCIE延長線

Depthsharky 03/25 22:33DR5大容量貴 看你的用途對ddr5有沒有

Depthsharky 03/25 22:33硬性需求

Depthsharky 03/25 22:33T500含散熱片很貴

Depthsharky 03/25 22:34資料看你會不會用到滿載讀寫

Depthsharky 03/25 22:34不然也能考慮GEN3

所以其實用14700就夠了 然後DDR4 這樣可以不上水冷

Depthsharky 03/25 22:35接頭的問題不保證

Depthsharky 03/25 22:41PSU那組有兩個給顯卡的輸出嗎

Depthsharky 03/25 22:43RTX A6000?

對阿 沒有甚麼找到有人這樣組 很怕跑不起來

AmigoSin 03/25 22:43借問消費平台用雙顯卡PCIe通道數夠嗎

好像兩張的話都走PCIE x8

※ 編輯: aces3732 (1.34.150.62 臺灣), 03/25/2024 22:51:34

Depthsharky 03/25 22:58以前有人在板上問過雙4090 後續我忘

Depthsharky 03/25 22:58了 真的太冷門

dos01 03/25 23:22D5的問題是插到四條不穩 再加上比較貴

dos01 03/25 23:22夠不夠用就看你要跑的東西會不會吃到記憶體

dos01 03/25 23:22的速度 但目前只有少數軟體會有影響

dos01 03/25 23:27CPU跟SSD的部分也一樣 夠不夠用都是看你

dos01 03/25 23:27跑的程式會吃多少資源 通常跑AI相關的會吃

dos01 03/25 23:27的是顯卡 CPU影響比較小 只要不要太老的都

dos01 03/25 23:27堪用 SSD也是只要資料塞的下就夠了 在這個

dos01 03/25 23:27前提下 上去全都是浪費

dos01 03/25 23:31然後你這種組法已經是個人電腦最頂的了

dos01 03/25 23:31再上去就企業級了 所以只要你跑的程式是有

dos01 03/25 23:31讓個人使用的東西 這台至少贏九成以上的人

dos01 03/25 23:31應該是不用擔心不夠用的問題

dos01 03/25 23:32現在一堆跑AI的拿個I5 4060TI都在跑了

dos01 03/25 23:32沒理由這台不夠用

Depthsharky 03/25 23:34跑圖和模型訓練不能類比吧= =

dos01 03/25 23:36還是能跑啦 就只是速度的問題而已

dos01 03/25 23:38只問夠不夠是一定堪用 但堪用能不能到達

dos01 03/25 23:38滿意的效益 這就是要看要求到哪裡

dos01 03/25 23:39我是覺得原PO有點太焦慮了 組到最頂沒理由

dos01 03/25 23:39跑不起來

annboy 03/25 23:571. 會有差一點 個位數%

annboy 03/25 23:572. 基本沒差 FC140就夠

annboy 03/25 23:583. 應該插不下 雙4090機殼要底深

annboy 03/25 23:58主機板要拿x8x8 中間隔四槽 預算會高不少

annboy 03/25 23:594. SSD系統1TB 訓練資料 2T足夠

annboy 03/25 23:59其他資料放HDD或額外買NAS備份

annboy 03/26 00:02然後不要太樂觀覺得雙4090可以幹嘛

annboy 03/26 00:02現在大一點的模型都要8卡伺服器起跳

annboy 03/26 00:02小模型的話1張跟2張差別

annboy 03/26 00:02就是分布式訓練可以縮短最多一半的時間

annboy 03/26 00:04可以講一下要訓練什麼模型

wuyiulin 03/26 00:42能雙卡還是雙卡,我這邊有看到一些解決

wuyiulin 03/26 00:42方案完全不支援單卡運算的,多買一張省

wuyiulin 03/26 00:42工時省重新建置時間。

sino6445 03/26 05:52模型訓練又雙4090,就上D5吧

sino6445 03/26 05:53不然記憶體速度會變瓶頸,高壓狀態下D5

sino6445 03/26 05:53有幫助

sino6445 03/26 05:54這場景D5算是派上用場了

sino6445 03/26 05:58即使雙顯卡也不需要147k

dsin 03/26 07:45上D5 D4的板子沒有雙PCIE4x8的 第二根都x4

annboy 03/26 11:35CPU的需求是依前處理的複雜程度而定

annboy 03/26 11:35現在有一些開源的前處理做得挺複雜

annboy 03/26 11:35CPU就會變瓶頸

sino6445 03/26 12:38帶k多那4%效能,要上水冷沒什麼意義

sino6445 03/26 12:39不然上149k,核心多一點,降壓比較實在

mtc5566 03/26 18:19你這用途 SSD都是2T起跳 不要省插槽 電源

mtc5566 03/26 18:19有海韻TX1600 這筆錢不要省