[問卦] DeepSeek 在LPU上表現
小弟從Groq官網上看到deepseek用 LPU跑
速度好像快的驚人 未來的ai聖杯會不會變成lpu？
還是有其他科技大大可以解釋一下 這些差異
https://i.imgur.com/BsIambO.jpeg
Sent from MeowPtt on my SM-S9280
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.137.194.16 (臺灣)
※ PTT 網址
推
LPU一直都很快 但是第一代產品走錯方
→
向
→
一張卡才幾百MB 要兩三千張才夠671B
我看官網上一些分享LPU整個屌打，還是說LPU 建置成本比GPU還高？ 或是耗能上的表現如何？
※ 編輯: boy830527 (223.137.194.16 臺灣), 01/28/2025 08:58:38→
還不算KV cache
推
廢話 那個官網難道會說自己的缺點
→
另外有一些抖音博主也在分享……
→
建置成本跟能耗和gpu相比有差很多
→
嗎？
推
就是特化給語言模型的當然要快啊
推
不是特化給模型 是他走純SRAM
→
但是一張卡才幾百MB 上市也一年多
→
真的有搞頭早就賣爆了
→
看起來像是記憶體空間不夠大需大量
→
建置但速度快是這樣嗎？
→
我記得之前讀到LPU是專給LLM 設計的 所以
→
說算是個特化產品嗎
→
因為現在演算法優化後對整體影響性
→
如何？
爆
[心得] DeepSeek對AI產業鏈影響懶人包最這幾天股板跟 X 上的AI金融圈吵的火爆 DeepSeek 對全球 AI 技術發展影響 吵的火爆示意圖 金融人士擔憂影響![[心得] DeepSeek對AI產業鏈影響懶人包](https://i.imgur.com/WiusWatb.jpg "[心得] DeepSeek對AI產業鏈影響懶人包")
爆
[情報] AMD 興奮宣布 Instinct MI300X GPUs 支援 DeepSeek-V3標題： AMD Instinct GPUs Power DeepSeek-V3: Revolutionizing AI Development with SGLang 來源： AMD's X (Twitter) 網址：![[情報] AMD 興奮宣布 Instinct MI300X GPUs 支援 DeepSeek-V3](https://i.imgur.com/xVyT4dsb.png "[情報] AMD 興奮宣布 Instinct MI300X GPUs 支援 DeepSeek-V3")
爆
[問卦] 大量補助台灣養的出DeepSeek嗎？這幾天Deepseek引起全球熱議，沒想到對岸養出便宜又高效能的AI系統。 AI島、科技之島、晶圓之島，世界難波萬的台灣，要是靠政府補助，養的出DeepSeek嗎？ --![[問卦] 大量補助台灣養的出DeepSeek嗎？](https://i.imgur.com/ilR9pDfb.jpg "[問卦] 大量補助台灣養的出DeepSeek嗎？")
15
Re: [情報] Perplexity CEO:實驗性整合DeepSeek R1模Perplexity CEO Aravind Srinivas 發推特恭喜 Deepseek: Congrats to @deepseek_ai for getting to #1 on the App Store. For a while, it wasn't clear who would beat ChatGPT for the first time. The best we could manage was #8, a year ago. Look forward to using all their models for search, assistant, and agents this year. 恭喜 @deepseek_ai 登上 App Store 第一名！曾經一段時間，我們並不確定誰會是第一個超越 ChatGPT 的。最好的成績是在一年前拿到第八名。期待今年能使用他們的所有模型，包括搜尋、助手和代理服務！ -![Re: [情報] Perplexity CEO:實驗性整合DeepSeek R1模](https://i.imgur.com/NKrnu5db.png "Re: [情報] Perplexity CEO:實驗性整合DeepSeek R1模")
9
Re: [新聞] Nvidia 最大夢魘來臨！AI 聊天機器人執專用型跟泛用型不同 GpU 可執行繪圖 渲染 訓練 LLVM 什麼都可以 LPU 只能提供訓練後的LLVM 產生結果 而且 GROQ 展示的參數遠比 openAI 70B8
[問卦] Deepseek到底會不會影響英偉達中國最近推出Deepseek 好像好用又便宜 小弟不才 最近all in 英偉達 被套在高點 損失了好多錢7
Re: [新聞] 中國「DeepSeek」威脅美國AI主導地位？遭1. DeepSeek上個月就有了，R1也是20日就發布了，如果真的是AI晶片突如其來的黑天鵝的話，應該可以直接迎來一波直衝地府的大行情，但近期輝達股價怎麼會走成這種尿性？ 2. 最近又被拿出來炒是因為站上了蘋果APP下載排行 3. AI晶片業務有分訓練跟推理，DeepSeek可能帶來影響的是訓練的部分，實際會不會影響晶片供需還要看OpenAI這些巨頭會不會想因為DeepSeek而調整策略；但近期看除了Meta有出來講講話，以及媒體替他們恐慌外，其他巨頭倒是沒有什麼回應 4. DeepSeek就是後進者優勢，已經知道市場喜歡什麼、測試者都在測什麼，針對重點去開發，當然能節省成本![Re: [新聞] 中國「DeepSeek」威脅美國AI主導地位？遭](https://i.imgur.com/T83UMmEb.jpg "Re: [新聞] 中國「DeepSeek」威脅美國AI主導地位？遭")
6
[問卦] 認真文 中國AI超前美國是好事吧就是 我之前就講過了 中國大陸強大對人類發展才是好的 這次deepseek也代表中美兩國的AI 沒有任何一方有絕對的領先地位![[問卦] 認真文 中國AI超前美國是好事吧](https://i.imgur.com/zTuR1jpb.jpeg "[問卦] 認真文 中國AI超前美國是好事吧")
4
[問卦] AI推理 LPU會打扒GPU嗎groq的語言模型推理 從硬體架構上就針對語言模型最佳化 號稱比GPU快10倍 是否可能把GPU打趴 讓GPU回去做他該做的事（遊戲 生圖等等）？ --
Re: [問卦] CPU 重要性哪時候被 GPU 超越的?我跟你說 未來的發展 還有APU BPU DPU