Re: [問卦] DeepSeek問世會讓顯卡降價嗎

※ 引述《BMWi3 (在那叫什麼)》之銘言：
: DeepSeek問世不需要那麼多高階晶片了
: 那麼顯卡會降價嗎
: 現在GeForce RTX 4070 蝦皮還賣19200
: dram都因內卷殺到見骨了
: 顯卡會步上後塵嗎
顯卡一定會漲價

目前己經有很多deepseek布署在本機電腦的教學
ollama上也有deepseek R1模型可以下載
deepseek R1模型各參數量對顯卡記憶體需求
https://i.imgur.com/blJhjZb.png

32b才需要4090等級(24gb記憶體)

先前有貼過，1.5b的模型可以在手機上運作
https://x.com/itsPaulAi/status/1882138485630566853
1.5b的這個迷你模型只能專注在數學領域上，不能應付其他問題

這影片己經把7b、14b和32b的性能比較拉出來
https://www.youtube.com/watch?v=tlcq9BpFM5w
後面還有用相同硬體資源運作其他llm的比較

deepseek的出現，等於把llm的硬體需求拉低非常多，以前本機端的llm模型不是沒有
但性能沒那麼好，現在deepseek直接用低硬體需求幹出過去llm模型達不到的性能
硬體需求降低，AI產品價格也會低，會讓使用者也買的起相關產品

想像一下智慧家電，以前都是用手機控制或聲控，未來家裡布署一個AI運算機
直接根據你的現況，自動做出操作..etc，這種場景去年還認為要至少10年才會出現
現在這幾乎己經開始想像的到可能幾年後就會有廠商推出這類產品了

這反而會加速邊緣運算的需求，而且deepseek也有open source，各家做邊緣運算
用計算卡的廠家現在一定開始針對deepseek開發自家相對應的硬體
快一點今年底，慢一點明年，八成一堆硬體廠會打著支援deepseek的口號賣硬體了

--

以前是性能算小型家用車，現在直接給你幹出市售超跑等級，雖不如f1賽車 但一般人用己經算很不錯