PTT推薦

[菜單] 45K AI測試機

看板PC_Shopping標題[菜單] 45K AI測試機作者
ncufalcon
(ncufalcon)
時間推噓 3 推:4 噓:1 →:19

已買/未買/已付訂金(元):未買

預算/用途: 預算45K,用於測試Olama +RAG模組,鎖定4070。因為是以顯卡
為主,其他的就依照預算搭配CPU。因為要跑Windows平台,記憶體預計買64G
;SSD也想分成兩個,一個系統,一個放LLM+RAG

CPU (中央處理器):AMD【6核】Ryzen5 7500F 3.7GHz(Turbo 5.0GHz)/
ZEN4/6C12T/快取32MB/65W/無外盒/含散熱器/代理商三年

MB (主機板):【重磅價】華碩 DUAL-RTX4070-O12G+華碩 TUF GAMING
B650-E WIFI+WD_BLACK SN850X 1TB+EVGA 850 G6

RAM (記憶體):十銓 TEAM T-CREATE EXPERT DDR5-6000 64G(32G*2)-黑
(CL34/支援XMP&EXPO)

VGA (顯示卡):同重磅

ooler (散熱器):【救贖】Sinya 欣亞 S200TG 玻璃透側機殼+Thermalright
利民 Peerless Assassin 120 絕雙刺客

SSD (固態硬碟):Solidigm P44 Pro 1TB/M.2 PCIe Gen4/讀:7000M/
寫:6500M/五年保固 (雙散熱片)

HDD (硬碟):無

PSU (電源供應器):同重磅

CHASSIS (機殼):同救贖

MONITOR (螢幕):沿用
Mouse/KB (鼠鍵):沿用
OS (作業系統):自備

其它 (自填):
總價 (未稅/含稅):44929

沒有特殊品牌洗好,第二個SSD只是選擇有帶散熱片,寫入速度不錯的。
請各位先進指點,是否還有可以修改的
謝謝大家

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.171.103.113 (臺灣)
PTT 網址

otosaka 06/25 15:43要64G怎麼不組126K+DDR4

您是說intel 12600K嗎? 我不知道AMD的差異,當然也可以換

otosaka 06/25 15:44然後你說鎖定4070 結果買4070S..?

otosaka 06/25 15:44跑AI不買大VRAM的4060ti 16G嗎

回o大,因為以TFLOPS數據來看,跑LLM方面,4070還是比4060系列好一點 請參考國外網站比較

https://reurl.cc/ezlZoj

※ 編輯: ncufalcon (1.171.103.113 臺灣), 06/25/2024 15:55:48

Zenryaku 06/25 15:54要大ram去組ddr4吧,現在d5 64g太貴

Zenryaku 06/25 15:55顯卡挑五年保的

Zenryaku 06/25 15:57記憶體價錢少一半 你顯卡可以上super

Zenryaku 06/25 15:57AM5不能用ddr4 所以要換intel

otosaka 06/25 15:5970/70S跑起來一定比4060ti強 但VRAM不夠

otosaka 06/25 15:59就是不夠

RoarLiao 06/25 16:01哥,llama3:8b 就要16G vram

RoarLiao 06/25 16:01您跑LLM 要直接略過llama3 嗎?

RoarLiao 06/25 16:02像上面o大說的,這不是速度問題是門檻

chocoball 06/25 16:03我的怎麼才4.7gb..

RoarLiao 06/25 16:03還是您先買4070s 然後發現跑不動了

RoarLiao 06/25 16:03我去二手版等您xd

RoarLiao 06/25 16:12樓上c大,您試試在ollama 下這個指令

RoarLiao 06/25 16:12ollama run llama3:8b-text-fp16

RoarLiao 06/25 16:12看還是不是 4.7gb

bighta83330 06/25 16:18VRAM不夠的情況你模型放不進去效能再

bighta83330 06/25 16:18好都白搭吧 除非你要調整精度

abc0922001 06/25 16:36我4060Ti-16G有試 llama3,超~~慢的

abc0922001 06/25 16:37所以現在還是繼續用ChatGPT= =

kaltu 06/26 06:50跑車速度肯定比卡車快,但你貨物放不進去有

kaltu 06/26 06:50屁用