PTT推薦

Re: [問卦] DeepSeek問世會讓顯卡降價嗎

看板Gossiping標題Re: [問卦] DeepSeek問世會讓顯卡降價嗎作者
a1e
(我上了賊船了囧)
時間推噓 6 推:6 噓:0 →:9

※ 引述《BMWi3 (在那叫什麼)》之銘言:
: DeepSeek問世不需要那麼多高階晶片了
: 那麼顯卡會降價嗎
: 現在GeForce RTX 4070 蝦皮還賣19200
: dram都因內卷殺到見骨了
: 顯卡會步上後塵嗎
顯卡一定會漲價

目前己經有很多deepseek布署在本機電腦的教學
ollama上也有deepseek R1模型可以下載
deepseek R1模型各參數量對顯卡記憶體需求
https://i.imgur.com/blJhjZb.png

圖 DeepSeek問世會讓顯卡降價嗎

14b以下都是現在一般顯卡(現在4060ti以上等級顯卡都有12gb以上記憶體)
能獨立在本機運作

32b才需要4090等級(24gb記憶體)

先前有貼過,1.5b的模型可以在手機上運作
https://x.com/itsPaulAi/status/1882138485630566853
1.5b的這個迷你模型只能專注在數學領域上,不能應付其他問題

這影片己經把7b、14b和32b的性能比較拉出來
https://www.youtube.com/watch?v=tlcq9BpFM5w
後面還有用相同硬體資源運作其他llm的比較

deepseek的出現,等於把llm的硬體需求拉低非常多,以前本機端的llm模型不是沒有
但性能沒那麼好,現在deepseek直接用低硬體需求幹出過去llm模型達不到的性能
硬體需求降低,AI產品價格也會低,會讓使用者也買的起相關產品

想像一下智慧家電,以前都是用手機控制或聲控,未來家裡布署一個AI運算機
直接根據你的現況,自動做出操作..etc,這種場景去年還認為要至少10年才會出現
現在這幾乎己經開始想像的到可能幾年後就會有廠商推出這類產品了

這反而會加速邊緣運算的需求,而且deepseek也有open source,各家做邊緣運算
用計算卡的廠家現在一定開始針對deepseek開發自家相對應的硬體
快一點今年底,慢一點明年,八成一堆硬體廠會打著支援deepseek的口號賣硬體了

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.118.133.124 (臺灣)
PTT 網址

jhjhs33504 01/27 22:40怎麼沒有中文音軌?

shcjosh 01/27 22:40但本地模型的需求會很高嗎 comfy ui也可

shcjosh 01/27 22:41以localhost但用的人也不多

DustToDust 01/27 22:41三普會先用國安封殺DS

gino0717 01/27 22:41以前是想都別想 現在是多花一點錢就有

以前是性能算小型家用車,現在直接給你幹出市售超跑等級,雖不如f1賽車 但一般人用己經算很不錯

zzro 01/27 22:41可以讓機器人有足夠的殺人智能了嗎?

gino0717 01/27 22:41機會布一個本機端夠好用的模型

zzro 01/27 22:42畢竟無人機載重跟電量都有限制

※ 編輯: a1e (122.118.133.124 臺灣), 01/27/2025 22:43:54

owen777 01/27 22:43說封殺的是笑話吧,現在巨頭都再靠腰AI

owen777 01/27 22:43風險管理行政命令害他們被DS追上了

owen777 01/27 22:44你再禁一個開源的DS,搞到中國開發環境

owen777 01/27 22:44比美國還自由,會跳腳的是誰?

HowLeeHi 01/27 22:44短期內應該會漲價

wsdykssj 01/27 23:0070b能不能用APU跑?

a1e 01/27 23:18樓上不知道,看ollama有沒有支援吧