PTT推薦

[菜單] 110K AI,LLM計算機

看板PC_Shopping標題[菜單] 110K AI,LLM計算機作者
Lastwaltz
(終焉華爾滋)
時間推噓13 推:13 噓:0 →:62

已買/未買/已付訂金(元):未買

預算/用途:LLM(AI語言模型)計算+玩遊戲(2K 144hz)

CPU (中央處理器):Ryzen7 7800X3D
MB (主機板):技嘉 X670 AORUS ELITE AX
RAM (記憶體):威剛 ADATA XPG LANCER DDR5-6000 64G(32G*2) ($5999,金士頓缺貨)
VGA (顯示卡):技嘉 RTX 4090 WINDFORCE V2 24G ($61090)
+ EVGA GeForce RTX 3080 FTW3 ULTRA GAMING 10G (原有)
Cooler (散熱器):利民 FC140 (原有)
SSD (固態硬碟):美光 Crucial MX500 1TB (原有)
HDD (硬碟):Toshiba 4TB , Toshiba 2TB (原有)
PSU (電源供應器):EVGA SuperNOVA 1000 G6, 80 Plus Gold 1000W (原有)
+ 振華 LEADEX VII XG 850W (for 4090) ($4590)
CHASSIS (機殼):追風者 Enthoo Pro II 伺服器版本(金屬側板) ($4890)
MONITOR (螢幕):
Mouse/KB (鼠鍵):
OS (作業系統):

其它 (自填):利民 TL-C12C 風扇*15 ($64*15,京東)
總價 (未稅/含稅):

LLM運算需求:
主板: 2x PCIe 4.0 支援 雙顯卡 x8/x8 Bifurcation
B650 裡面唯一支援x8/x8 只有華碩proart 看討論區說沒有該功能只影響training就算了VRAM: 24G~48G 越多越好(2.4bpw exl2 ~ 4.65bpw exl2)
記憶體: reddit看到有人說有差 有人說沒有 所以乾脆直上吧
畢竟新板子有x8/x8基本都有DDR5

升級主要是為了4090 換掉主板/記憶體/顯卡/機殼 剩下都用現成的


之後可能會把3080 換張 3090 24G + 水冷
散熱/供耗: 3090只需要壓到280W LLM就有91.5%速度,加上LLM是交替輪用兩張卡 應該
是不會變烤箱(吧)

--------------
小抱怨 突然發現這半年顯卡漲了 記憶體漲了 真的是挑個爛時候升級

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.160.141.30 (臺灣)

※ 文章網址:
https://www.ptt.cc/PC_Shopping/E.TCdEGgsRZX0Y

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 13:57:27

mrme945 01/09 13:57你確定1000W夠嗎?

Zenryaku 01/09 13:58不要光害不要水冷 你買O11系列做啥

mrme945 01/09 13:58噪音無所謂的話你應該要直接上機櫃吧

mrme945 01/09 13:58直接配工業扇了

Zenryaku 01/09 13:58也不要玻璃 那你還買O11

mrme945 01/09 13:59我猜他是想要一張吊豬肉之類的吧

otosaka 01/09 14:004090+3090 拿1000W確定嗎

otosaka 01/09 14:00他要兩張卡 只能吊起來吧

目前確實是打算吊起來 畢竟ProArt B650 兩個PCIe太近了 這樣基本散不到熱量

Zenryaku 01/09 14:03他這個要雙電源吧,O11D evo xl不能雙電

Zenryaku 01/09 14:03

MK47 01/09 14:05不要拿7600X啊 7500F用起來有九成五像 要就

kaj1983 01/09 14:05AM5主板不要選華碩啊...

我個人也不喜歡華碩板 但是找不太到其他能切PCIe x8/x8 的便宜板子 MEG X670E GODLIKE 就要兩萬up了

MK47 01/09 14:057950X不然拿7500F就好了

Zenryaku 01/09 14:05而且你要吊顯卡怎麼沒有買排線

主要是還沒確定要哪個機殼 到時候會一並購入直立架和排線

kaj1983 01/09 14:06你記憶體又是32g*2...自檢應該會等很久

mrme945 01/09 14:07電源的部分可以直接再買一顆ATX3.0 1000W

mrme945 01/09 14:07,新的電源接4090和其他東西,舊電源接30

mrme945 01/09 14:0780,然後用同時啟動線連兩顆電源,不過機

mrme945 01/09 14:07殼要改非XL才有雙電源倉

電源部分大家好像都是支持再買一個電源 而不是換一個1600W的PSU? 這樣能裝得下的機殼應該很有限吧

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:14:26

mrme945 01/09 14:11顯卡支架要買O11D EVO UPRIGHT GPU KIT,

mrme945 01/09 14:11裡面有延長線

Zenryaku 01/09 14:17最好再加購前網版套件,前面再加三顆進

Zenryaku 01/09 14:17

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:18:52

Zenryaku 01/09 14:17前三下三進 側三出上三後一出

mrme945 01/09 14:18SSD我建議你順便再加一條m.2

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:21:50

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:23:53

Zenryaku 01/09 14:23你換不是XL的版本就能雙電源了

Zenryaku 01/09 14:24不然就是像上面說的買機櫃

Zenryaku 01/09 14:25或是買開放式機殼直接用電風扇吹

sino6445 01/09 14:27用AI,LLM最好用intel,避免奇怪的問題發

sino6445 01/09 14:27

目前只打算跑GPTQ/EXL2 只會在GPU上計算 應該不會動用到CPU吧

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:31:37

otosaka 01/09 14:32好奇問一下 不能用一個更大的電源就好嗎

mrme945 01/09 14:35也可以啊,只是1300/1600W都蠻貴的,現在

mrme945 01/09 14:35又有現有還不錯的1000W電源,所以我才推

mrme945 01/09 14:35雙電源

otosaka 01/09 14:37喔對吼 他已經有一顆G6 那再買一顆ATX3.0

otosaka 01/09 14:37 1000W的接4090就好了 買更大瓦反而要多

otosaka 01/09 14:37花錢 還要處理舊電源

mrme945 01/09 14:37突然發現台達1300W價格還不錯,不過沒那

mrme945 01/09 14:37麼充裕就是了

研究一下發現更高的電供需要220V 我的座位附近偏偏沒有 還是老實用兩顆1000W..

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:42:42

otosaka 01/09 14:40他說是兩張輪流用 應該也不用吃太多電吧

sino6445 01/09 14:47CPU看你,專業領域連i+n有的都容易被出

sino6445 01/09 14:47問題了

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:54:30

sino6445 01/09 14:48歷史經驗,我會覺得那個價差,去搞那些

sino6445 01/09 14:48不值得

上面也有人不支持華碩amd板 我來找找看有什麼Intel板可以用好了 畢竟我也沒用過AMD 爆了不會修= =

jeffguoft 01/09 14:52我已經能想像在電腦旁會有多熱了XD

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 14:56:09

comipa 01/09 14:57Asus AMD板讚阿 特別是裝AC後 不能只有我

mrme945 01/09 15:02其實到1600W都還可以用110V啦,只是滿載

mrme945 01/09 15:02就會占滿整個迴路了,而且效率也沒220V好

bettle1461 01/09 15:02我曾經跟你有類似的顧慮,後來也準備

bettle1461 01/09 15:02好了可以 x8/x8 + dual 4090 的配置。

bettle1461 01/09 15:02不過現在回頭看,在意主板能不能做 PC

bettle1461 01/09 15:02IE 通道拆分好像沒太大必要(可網參通

bettle1461 01/09 15:02道數變化對應效能損失),你的情況是

bettle1461 01/09 15:02 4090+3080or90,x16+x4 跑似乎也行?

sino6445 01/09 15:024090降壓去跑90%負載,其實沒什麼熱的感

sino6445 01/09 15:02

bettle1461 01/09 15:04如此一來配單可以更加彈性

johnjohnlin 01/09 16:12以前拿epyc+nv的經驗amd是沒啥問題

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 16:56:15

y40103 01/09 17:17現在資料中心AMD也沒少買吧

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 17:56:48

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 17:57:29

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:02:56

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:04:09

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:04:43

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 18:57:28

mtc5566 01/09 19:23華碩記得別裝AC軟體 其他倒是還好啦

mtc5566 01/09 19:24EVGA電源記得申請16p模組線 別用顯卡附的

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 21:37:11

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 21:38:14

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 21:41:12

※ 編輯: Lastwaltz (118.160.141.30 臺灣), 01/09/2024 22:23:51

jeff85898 01/09 23:27http://i.imgur.com/STXSsK9.jpg

圖 110K AI,LLM計算機

jeff85898 01/09 23:304U機殼三個工業扇搭配顯卡處兩組抽風

jeff85898 01/09 23:30兩張3090滿載大概70度左右 不過是真的

jeff85898 01/09 23:30蠻吵的

jeff85898 01/09 23:36http://i.imgur.com/1xrSeMK.jpg

圖 110K AI,LLM計算機

jeff85898 01/09 23:36兩組2U電源並聯最多提供2000W 有比ATX

jeff85898 01/09 23:36電源省點空間

jeff85898 01/09 23:41https://i.imgur.com/O3A6mzn.jpg

圖 110K AI,LLM計算機

jeff85898 01/09 23:414090也有提供16pin的電源背板,直接換

jeff85898 01/09 23:41掉機殼內附的就行了

cutejojocat 01/09 23:43需要pcie通道就直接選x670(e)沒問題

cutejojocat 01/09 23:43 然後兩顆psu如果不是220v記得不要吃

cutejojocat 01/09 23:43同個迴路

jeff85898 01/09 23:43這組背板就有支援到3000W