Re: [新聞] 繞開輝達護城河 陸媒傳DeepSeek可改適配
※ 引述《doig (山川壯麗 物產豐隆)》之銘言:
: 報導引述消息人士指出,DeepSeek擁有一些擅長寫PTX語言的內部開發者,假如它之後使: 用中國國產GPU,其在硬體適配方面將會更得心應手,其只要瞭解這些硬體驅動提供的一: 些基本函數介面,就可以仿照輝達GPU硬體的程式設計介面去寫相關的代碼,從而讓自家: 大模型更加容易適配國產硬體。
我有問題
我去查了PTX
意思就是GPU的組合語言
如果用CUDA寫的是高階語言
你用組合語言寫的話
不就被綁死在NVIDIA的GPU組語上了
那怎麼會更能在國產的硬體上跑
記者這段在寫什麼
不懂耶
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.111.188 (臺灣)
※ PTT 網址
推
虛擬機用過吧,這稱底層API會比較好懂,
→
只需要再生一個功能一樣的就可以換掉了,
→
人海戰術西邊最擅長的
推
記者自己也不懂吧
→
某種程度上,這代表deepseek的團隊
→
有能力掌握這種高階的處理方式,故
→
有可能性遷移到別的GPU上,而在他
→
們即將被全面封禁Nvidia的高階GPU
→
後,這會成為必然
→
沒意外的話,他們現在掌握的算力,
→
有很大部分都得拿來搞這塊的遷移--
→
-因為用人弄是不可能的
→
人海(X) AI海(O)
→
有能力改寫AMD都找上門合作
→
AMD已經找上門了
→
都特規了
→
他們是不得不,而且改碼不像是製程
→
,用人和AI就能弄了,遲早的事情
推
可以用組語開發 但高階函式能兼顧速度成本
→
看AGI有沒有可能 現在做夢比較快
→
人家不是已經靠AI輔助做成功了嗎?ds
→
也沒大肆宣傳這個,是老美相關企業研
→
究論文才爆出來
推
老美是說理論可能 幻想一下不犯法
→
華為 GPU 價格是 NV 的一半,性能只少5%
→
華為 GPU 價格是 NV 的一半,性能只少5%
→
華為 GPU 價格是 NV 的一半,性能只少5%
→
NV後續有點危險哪.......
16
[情報] DeepSeek繞過CUDA 自己優化底層編程語言關於DeepSeek的優化改進 許多人沒注意到的是: DeepSeek也繞過了CUDA並使用底層編程語言PTX做優化 在輝達的PTX語言實際編譯流程中22
Re: [新聞] DeepSeek顛覆AI產業模式!曝中國2大發展LLM經過這三年發展已展現其潛力,但也陷入(公開)知識枯竭造成的瓶頸 網路爬蟲能抓的都已訓練完 AI模型如還需增加功力,只能望向各家機構(公司)的商業祕密 比如DS團隊使用低階語言PTX來增加GPU計算效率 此部分的知識儲備,據說來自母公司幻化量方過往最佳化量化交易模型的經驗15
Re: [新聞] 跳過 CUDA,Deepseek 用精細的 PTX 寫成《轉載》 網路上傳deepseek繞過了輝達cuda,我跟大家講一下deepseek到底做了什麼。 輝達嚴格來說是一個平台性公司,並不止是硬件,硬件只不過是一個載體,它的護城河是cuda計算平台,所有高性能並行計算的祖師爺,只要你用輝達的顯卡做高性能計算,就要透過cuda計算平台。 你說用AMD的顯示卡,嗨,它沒有生態呀,就像android和windows phone那麼大的差別。 你買蘋果手機,不是買的硬體,而是IOS整個生態,這個生態也是用戶黏性的核心,cuda也是如此,你搞高效能運算,週邊的配套生態工具都是cuda的,你總不能自己再開發一套出來,就像你一個開發電商的會去再造個JAVA的輪子嗎? 輝達打來十年的領先時間。 所以各大公司都被英偉達狂宰,有苦難言。 總之一句話,英偉達創造了當代高效能運算的所有標準軟體、硬體以及工俱生態,你想寫個demo用啥都行,你想上生產除了輝達別無選擇,這就是過去十年AI圈的現實 ,天下苦達子久矣。9
Re: [討論] Deepseek 繞開cuda 用任何GPU都可以這種文章完全就是在造謠 用PTX寫程式繞開的是CUDA開發框架而不是CUDA硬體 PTX是CUDA開發框架產生的中繼語言,通常,演算法工程師撰寫的是高階語言 (C++或pyt hon) ,開發環境會將高階語言轉換成中繼語言 你能直接撰寫PTX是可以說繞過CUDA沒錯,但繞過的是指CUDA框架的API以及從高階語言轉7
Re: [新聞] 跳過 CUDA,Deepseek 用精細的 PTX 寫成cuda架構長這樣 一般人都是用上層土黃色那部份的cuda api來寫ai程式 PTX就下層driver那部份,基本上還是奠基在NV的GPU上 PTX的操作方法,NV自己都有手冊了![Re: [新聞] 跳過 CUDA,Deepseek 用精細的 PTX 寫成 Re: [新聞] 跳過 CUDA,Deepseek 用精細的 PTX 寫成](https://i.imgur.com/Enp8heXb.jpeg)
4
[討論] deepseek 主要創新點應該是繞過cuda看了一下討論 發現ds 主要有關ai 的部分如同老美的說法 但加速的關鍵主要還是來自於用組合語言直接寫 原本都還得透過cuda 這是nv 的技術護城河![[討論] deepseek 主要創新點應該是繞過cuda [討論] deepseek 主要創新點應該是繞過cuda](https://i.imgur.com/TJAtdO3b.jpeg)
2
Re: [討論] Deepseek 繞開cuda 用任何GPU都可以基本上就唬濫的 CUDA的護城河深到可能比台積電的神秘良率還深 如果台積電的技術領先大概3-5年 CUDA領先10年吧 可以說一個對手也沒2
Re: [新聞] DeepSeek梁文鋒放假消息做空輝達海撈?看來**量化真的有在套利 從「繞過CUDA」這種消息就可以知道他們在利用資訊差引發市場恐慌 寫PTX繞過的是CUDA高階語言API而不是繞過CUDA GPU,因為都叫cuda所以太好造謠了 你一個演算法本來就可以在各種硬體跑,這不是常識嗎?工程師移植功力好想在什麼阿貓 阿狗的GPU/CPU跑都是你的自由,把「繞過CUDA」講得好像別的GPU/CPU都可以跑出跟cudaX
Re: [討論] Deepseek 繞開cuda 用任何GPU都可以認真說,這是使用PTX語言寫的,而PTX依然是NVDA在維護的東西 『尚未』繞過NVDA 但 能這麼做,就表示具備能力可以可以針對AMD 針對AppleM 甚至針對華為910B 去針對優化編譯 直接跟底層硬體溝通![Re: [討論] Deepseek 繞開cuda 用任何GPU都可以 Re: [討論] Deepseek 繞開cuda 用任何GPU都可以](https://i.imgur.com/ozg9NCLb.jpg?fb)
爆
[問卦] 去銀行一次提領一百![[問卦] 去銀行一次提領一百 [問卦] 去銀行一次提領一百](https://i.imgur.com/eiBR27jb.jpeg)
94
[問卦] 霸凌同學 有好聽說法嗎75
[問卦] 台女脆文:瑞幸咖啡穩死的!![[問卦] 台女脆文:瑞幸咖啡穩死的! [問卦] 台女脆文:瑞幸咖啡穩死的!](https://i.mopix.cc/NRU3Hs.jpg)
68
[問卦] 八歲就開扁同學以後能成大事嗎63
[問卦] CloudFlare又掛了?44
[問卦] 驚!9年來 年輕人自殺成長三倍 代表什麼![[問卦] 驚!9年來 年輕人自殺成長三倍 代表什麼 [問卦] 驚!9年來 年輕人自殺成長三倍 代表什麼](https://i.imgur.com/I9muINnb.jpeg)
27
[問卦] 沒人發現今日小紅書,明日就是PTT??![[問卦] 沒人發現今日小紅書,明日就是PTT?? [問卦] 沒人發現今日小紅書,明日就是PTT??](https://i.imgur.com/Oh5UTjvb.jpeg)
37
[問卦] 台女:性騷擾本來就是我來定義![[問卦] 台女:性騷擾本來就是我來定義 [問卦] 台女:性騷擾本來就是我來定義](https://i.mopix.cc/NRU3Hs.jpg)
34
[問卦] 為什麼女生興趣都寫旅遊跟美食30
[問卦] 2025年底了今年的代表字是? 好的部分27
[問卦] 8歲小朋友霸凌案,教會了我們什麼?0.029
[問卦] 8歲打人是「小朋友之間的摩擦」那18歲?![[問卦] 8歲打人是「小朋友之間的摩擦」那18歲? [問卦] 8歲打人是「小朋友之間的摩擦」那18歲?](https://i.meee.com.tw/QWoHrWC.jpg)
25
[問卦] 男女去泡溫泉,啪啪機率多高?28
[問卦] 炒麵 要怎麼做 才能做出最好吃的炒麵?![[問卦] 炒麵 要怎麼做 才能做出最好吃的炒麵? [問卦] 炒麵 要怎麼做 才能做出最好吃的炒麵?](https://i.ytimg.com/vi/zU_l0NR7HFE/maxresdefault.jpg)
26
[問卦] 禁小紅書台灣擋的技術是不是很爛28
[問卦] 織田信長是一位很糟糕的大名吧?26
Re: [新聞] 快訊/「出包台灣鯛」關鍵女研究助理找到了! 警赴住家19
[問卦] 蜜雪冰城才能真的打趴台灣飲料市場吧?![[問卦] 蜜雪冰城才能真的打趴台灣飲料市場吧? [問卦] 蜜雪冰城才能真的打趴台灣飲料市場吧?](https://i.mopix.cc/jyYKX6.jpg)
18
[問卦] 白沙屯媽祖一年是要繞境幾次23
[問卦] 中國的護國神山是啥?22
Re: [新聞] 《財劃法》覆議失敗 卓揆嗆立院:不要以20
[問卦] 穿越異世界的始袓?21
[問卦] 日本打柏青哥到底好玩在哪?![[問卦] 日本打柏青哥到底好玩在哪? [問卦] 日本打柏青哥到底好玩在哪?](https://i.ytimg.com/vi/vOuomNmiTtc/sddefault.jpg)
20
[問卦] 我講難聽一點 8歲就算砍人也沒刑責![[問卦] 我講難聽一點 8歲就算砍人也沒刑責 [問卦] 我講難聽一點 8歲就算砍人也沒刑責](https://i.imgur.com/p8Z4x4wb.jpeg)
19
[問卦] 打詐中心除了禁小紅書 還有做什麼嗎18
[問卦] “先動手就是不對” 是不是想裝被害者18
[問卦] 日本經濟安保大臣小野田紀美你可以嗎?![[問卦] 日本經濟安保大臣小野田紀美你可以嗎? [問卦] 日本經濟安保大臣小野田紀美你可以嗎?](https://i.mopix.cc/mkcEbs.jpg)
18
[問卦] 29歲出包助理 接下來能做什麼工作?17
[問卦] 當台灣公務員是不是風險很高?14
[問卦] 脆女們因小紅書被禁表示26,28年要給教訓![[問卦] 脆女們因小紅書被禁表示26,28年要給教訓 [問卦] 脆女們因小紅書被禁表示26,28年要給教訓](https://files.catbox.moe/pvq63p.png)
![Re: [新聞] 繞開輝達護城河 陸媒傳DeepSeek可改適配 Re: [新聞] 繞開輝達護城河 陸媒傳DeepSeek可改適配](https://i.imgur.com/ZGzxwgNb.jpg)