Re: [問卦] DeepSeek問世會讓顯卡降價嗎
※ 引述《BMWi3 (在那叫什麼)》之銘言:
: DeepSeek問世不需要那麼多高階晶片了
: 那麼顯卡會降價嗎
: 現在GeForce RTX 4070 蝦皮還賣19200
: dram都因內卷殺到見骨了
: 顯卡會步上後塵嗎
顯卡一定會漲價
目前己經有很多deepseek布署在本機電腦的教學
ollama上也有deepseek R1模型可以下載
deepseek R1模型各參數量對顯卡記憶體需求
https://i.imgur.com/blJhjZb.png
![圖 DeepSeek問世會讓顯卡降價嗎](https://i.imgur.com/blJhjZb.png?e=1738332094&s=NZtb-43pEvzOkfr4UB1t1g)
14b以下都是現在一般顯卡(現在4060ti以上等級顯卡都有12gb以上記憶體)
能獨立在本機運作
32b才需要4090等級(24gb記憶體)
先前有貼過,1.5b的模型可以在手機上運作
https://x.com/itsPaulAi/status/1882138485630566853
1.5b的這個迷你模型只能專注在數學領域上,不能應付其他問題
這影片己經把7b、14b和32b的性能比較拉出來
https://www.youtube.com/watch?v=tlcq9BpFM5w
後面還有用相同硬體資源運作其他llm的比較
deepseek的出現,等於把llm的硬體需求拉低非常多,以前本機端的llm模型不是沒有
但性能沒那麼好,現在deepseek直接用低硬體需求幹出過去llm模型達不到的性能
硬體需求降低,AI產品價格也會低,會讓使用者也買的起相關產品
想像一下智慧家電,以前都是用手機控制或聲控,未來家裡布署一個AI運算機
直接根據你的現況,自動做出操作..etc,這種場景去年還認為要至少10年才會出現
現在這幾乎己經開始想像的到可能幾年後就會有廠商推出這類產品了
這反而會加速邊緣運算的需求,而且deepseek也有open source,各家做邊緣運算
用計算卡的廠家現在一定開始針對deepseek開發自家相對應的硬體
快一點今年底,慢一點明年,八成一堆硬體廠會打著支援deepseek的口號賣硬體了
--
怎麼沒有中文音軌?
但本地模型的需求會很高嗎 comfy ui也可
以localhost但用的人也不多
三普會先用國安封殺DS
以前是想都別想 現在是多花一點錢就有
以前是性能算小型家用車,現在直接給你幹出市售超跑等級,雖不如f1賽車 但一般人用己經算很不錯
可以讓機器人有足夠的殺人智能了嗎?
機會布一個本機端夠好用的模型
畢竟無人機載重跟電量都有限制
說封殺的是笑話吧,現在巨頭都再靠腰AI
風險管理行政命令害他們被DS追上了
你再禁一個開源的DS,搞到中國開發環境
比美國還自由,會跳腳的是誰?
短期內應該會漲價
70b能不能用APU跑?
樓上不知道,看ollama有沒有支援吧
爆
[心得] DeepSeek對AI產業鏈影響懶人包最這幾天股板跟 X 上的AI金融圈吵的火爆 DeepSeek 對全球 AI 技術發展影響 吵的火爆示意圖 金融人士擔憂影響爆
Re: [新聞] Meta陷入恐慌?內部爆料:在瘋狂分析複製DeepSeek,高預teamblind 匿名的可能有人不信 與其聽匿名、鄉民互吹/貶 不如來聽聽 Meta 現任 CEO Mark Zuckerberg 本人對於 Deepseek AI 模型的看法 2025/01/11 Mark Zuckerberg 接受美國知名喜劇演員 Joe Rogan 專訪 截至今日有 840 萬人看過這個影片爆
[情報] AMD 興奮宣布 Instinct MI300X GPUs 支援 DeepSeek-V3標題: AMD Instinct GPUs Power DeepSeek-V3: Revolutionizing AI Development with SGLang 來源: AMD's X (Twitter) 網址:57
[情報] Perplexity CEO:實驗性整合DeepSeek R1模標題: Perplexity CEO:實驗性整合DeepSeek R1模型 來源: Perplexity CEO Aravind Srinivas 網址:24
[爆卦] DeepSeek API網頁已經癱瘓目前沒有媒體報導 DeepSeek 2025年1月20日公布R1模型以後 這幾天引爆矽谷 導致資本市場認為中國大模型來到關鍵時刻且鉅額投資的硬體 在美國封鎖中國背景下被中國AI軟體架構突破14
[問卦] 大陸已經在AI領域完全超車了吧?大陸自主研發的開源AI DeepSeek 不管是對硬體需求更低的高運算力或是訓練模式, 都吊打洋鬼子的OpenAI 現在連美國的研究人員都要改用DeepSeek來發展AI了 大陸用不到兩年的時間就直接幹爆洋人7
[請益] 其實DeepSeek用了幾顆GPU根本不重要用GPU硬體加速AI運算這件事 本來就不是無限制使用, 有些人講到AI就只想到暴力運算 找最大質數...要靠AI某某模型花○○年 要是大家指望那種爛模型,4
Re: [新聞] DeepSeek爆紅引AI「股瘟」!ASML歐股開盤算力愈強,模型愈強~ 就算deepseek 真的不用高階晶片就能訓練出說不弱於openAI o1 的模型, 那未來新的模型在有高階晶片的加持下, AI 不是會發展的更快、更難以想像嗎? AI 發展的更快,商用、消費用的領域愈多,對半導體的需求愈大,4
[問卦]DeepSeek是不是台積電的救世主?[問卦] DeepSeek是不是台積電的救世主? 最近看到DeepSeek在那邊吹什麼MLA架構、MoE模型,說什麼訓練效率超高、推理速度超快 ,笑死,還不是靠台積電的5nm、3nm製程在撐?沒了GG的晶片,你這些所謂的「創新」還 能跑得動? DeepSeek這種吃硬體怪獸,光是訓練一個模型就要幾萬顆A100、H100,這些GPU還不都是1
Re: [討論] 台灣為什麼搞不出DeepSeek?LIBSVM 是學校的東西,而且,它不用OOXX卡。 LLM 要大量的電,因為它要OOXX卡。 再說,LLM 這東西不賺錢,也沒什麼大不了的應用。 最後,本國是硬體立國。我們從不走在前面。 --
爆
[問卦] 全聯麵包廣告不實?48
[問卦] 請推薦女主很正劇情又輕鬆的韓劇44
[問卦] 月薪多少的敢每天一杯星巴克?45
[問卦] 百貨樓管薪水高嗎?37
[問卦] 豬排飯這塊市場484被福勝亭玩壞了?37
[問卦] 新光這起氣爆很特殊欸?!34
Re: [新聞] 蔡壁如誤發圖卡「偷臭黃國昌」恐停權1年23
[爆卦] 威力彩又摃了28
[問卦] 認真,請問百貨公司這種氣爆有辦法逃?27
[問卦] 我爸是不是撿到保育類烏龜啊?30
[爆卦] 對於傳說中宇宙第五種力的最新量測36
[問卦] 沒人發現漢堡根本就很營養嗎!24
[問卦] 台積買在1145怎麼辦?19
[爆卦] 台灣隊滿貫砲!!!26
[問卦] 司馬懿是受什麼刺激,最後大開殺戒?81
[問卦] 〓.〓 孫燕姿!最好聽的歌是哪一首?!2
[問卦] 杜奕瑾揭秘台中氣爆案關鍵?25
[問卦] 氣爆的真相只有一個!22
[問卦] 年輕人合法財富自由的方法有什麼?23
[問卦] 震撼彈!分手擂台播到「雨傘」拉!20
[問卦] 孔子周遊列國不怕遇到哪國君主不爽嗎11
[問卦] 統一後,你小孩要考高考,你OK?18
[問卦] 沒人發現嬰兒在哭都不知道他想要什麼嗎!19
[問卦] 買了Adobe Acrobat,可以做什麼?19
[問卦] 感覺52x燒錄機越來越沒用了 不如usb方便?19
[問卦] 信用卡背後的簽名要用哪種筆爆
[問卦] 查無爆炸原因的話剩什麼可能性1X
[問卦] 高雄氣爆和台中氣爆,鄉民態度差太多?58
[問卦] 台中新光三越會不會永久停業96
[問卦] 新光三越的無限期停業大概是多久?