Re: [新聞] Nvidia覇主地位危矣?這些挑戰者做出便
小弟請教各位大佬
NV最大的優勢,應該是CUDA
CUDA讓各AI專家可以編程NV GPU
讓GPU跑你想跑的東西,而不侷限在圖形運算
AMD正是落後在這裡
當大家都用CUDA編程AI晶片
AMD不能用CUDA等於不能相容
於是AI晶片就被NV佔據極大優勢
以上不知對不對
如果對
小弟的疑問是
如果NV護城河是CUDA這種編程語言
而AI最大優勢又是編程
難道以後不會因為隨著AI的強大
各路AI晶片可以把CUDA編程
轉譯成自家AI晶片可以接受的語言
這樣護城河還會在嗎?
-----
Sent from JPTT on my iPhone
--
以這麼幸福嗎
前提是無痛轉譯 能達成嗎?
amd也有搞rocm
你是第2147483647個發現的人,然後也早就有人在做
了,還被nv發現被nv警告
CUDA本身不是護城河 是使用CUDA的人多到變成護城河
之前NV某次聲明就是在警告這件事
所以AMD確實有在搞轉譯啊...但有難度
amd追不上不只有cuda...
如果只是cuda 也沒辦法解釋從2007~現在amd顯卡也是
一路輸到脫褲子 沒有一次有跟上的
可以查一下 ZLUDA 與 SCALE
現在早就有轉譯了阿
試試看 被告到破產喔
只能用 反壟斷法 來壓制了
你可以看看顯卡的差距 就知道NV管理層的強大
這比在文書作業領域幹掉 MS office 還困難。
AMD追不上的東西可多了...
NV現在要擔心有沒有人要用反壟斷搞他
能轉啊 中間損耗勒
問題是 一半的價格,只要提供一半多的算力 不也是變相的競爭? 不也是可以存活,或拉低NV毛利?
※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:41:28讓AMD努力一點,想當年CPU也是落後20年
除了CUDA還有NV_link壓 護城河不會只有一座
自己寫的很好改 問題是一堆api沒辦法改 西瓜偎大邊
你要沒問題的原廠,還是可能有問題的副廠?
能動的東西就不要換
這東西沒那麼簡單喇 你設備做出來了 能用嗎?會不會
跑一跑有bug 當機 燒壞 各種毛
Nv 沒有對手
一般價格一般算力 加上電費跟額外處理自己需求就虧
了
制定標準是一個最賺錢的方法
買越多省越多 真的不是隨便說說
轉譯,原廠隨便改版都弄死你,傻了才擔這個風險
CUDA有一整個完整的社區當支持,強的是使用者多
那是整組的 NV驅動值5000沒聽過嗎 跑LLM不一定要NV
華為也可以跑啊 但目前NV最有效率
一個基本的觀念 軟體的一切取決於硬體
先行者優勢就是這麼大,不然windows早就被取代
如果不是從cuda 轉譯 而是從自然語言直接轉勒? 天方夜譚?AI的強項不是?
※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:54:10老黃強到只怕分拆 懂嗎?
Cuda 是軟硬整合平台不是編程語言 他的語言是 c
既然是軟硬整合 就要知道 你的計算機架構不是 nv
的
AMD有做過類似的事情 但實際的效能算下來就很差
轉譯哪有那麼簡單,光是效能就搞死你
你抄也沒用,要自己調教出自己軟硬整合平台
對廠商來說 搞這些東西還不如多花點錢跟NV買顯卡
編程
要在運算資源分配上,做到立即動態調控 不是抄
老黃最大的對手是歐盟和壟斷的指控
中國已經倒一堆ai卡公司了還是nv進去要閹割版
平台就解決的 這超級困難
不可能
會被告吧
你要在a卡上搞ai真的很麻煩
呼應老黃的一句話 買越多省越多 搞那些相容性平台
文組別分析技術 看了想笑
效能問題 不如直接多買兩套NV產品
這篇文跟郭正亮同等級
你知道nvlink/nvswitch 比目前PCIe速度還快5,6倍嗎
何必繞一堆彎路呢
還有一堆人以為NV的AI卡會輸給ASIC 不知道NV的AI有
nv除了gpu還有家族,nvlink等等,加起來才是護城河
tensor core跟cuda core 可以同時處理矩陣跟算數
我也不希望NV獨大 但目前只能用它
簡單來說啦 硬體設計 NV做了幾十年的GPU/GPGPU
多核數值運算硬體設計是頂的 還有自從發現GPGPU可以
加快AI圖形辨識之後 NV在tensor core又研發了十年
老黃還在不斷加新東西在護城河給你用想分拆也很難
加上處理LLM模型搞出來的nvlink/nvswitch規格
跟加快運算速率用HBM設計 還有一直推廣GPGPU的cuda
#1budjKbm (PC_Shopping) 隔壁板文章參考一下
哪一家比得上 不要說運算速度了 拿nvlink跟PCIe/USB
所以大多數分析都認為amd能吃下一定市場啊,因為NV
賣太貴了,但沒有人看好AMD能超車
最新規格比一下 就知道nvlink這protocol有多扯
最常用的pytorch 你只能選 cpu 或 cuda, 所以這很
難短時間內改變啦
簡單一個問題 你是老闆你要用哪個比較有幫助
你可以轉啊,你要先吃前期的虧損
blackwell的nvlink速度 是PCIe 5.0的14倍
你做過傳輸介面就知道 搞一個10G以上的都很難了
blackwell可以到1.8TB 這根本是神級表現
呵呵AMD願意賣垃圾價就會有人願意轉啊
真的! 不放空對不起自己的分析
手中一堆NV 總要來問問大佬 什麼情況要跑吧?
但AMD願意嗎
硬體也輸啊
重點是生態系與社群 NV東西對開發者友善度極高
還有你做過電腦圖學或是遊戲開發就知道 NV SDK的品
能耗呢?
短期內,行業內的主流就是唯一N卡。他卡問題多到跑
不起來。
質一直都很高 對圖學研究真的很友善
他廠是丟一本spec自己讀跟研究 出issue多保重
NV跑不跑一看你相不相信AI,二看總經
念資工有修過電腦圖學的一定都看過 GPU GEM系列
GEM2 好像第一次推廣CUDA語言
你要用他的魔法 對付他 然後不被發現 你是蝙蝠俠裡
面那個小員工嗎
接過去然後bug一堆
現在只有反壟斷法可以搞NV
沒有就是AI霸主
小系統還好,你搞大時,就會發現差更大,但AI會只
搞個小系統嗎?
懂了 續抱 財報完再繼續加碼就對了 大佬講太深,只看懂繼續加碼就對了
你說的東西現在tf/騰訊都有 但不影響CUDA訓練
編程是甚麼意思誰翻譯一下
我只能說你好棒 你想的到 nv內的工程師都想步道
真的看不到對手 跟GG一樣
因為大家都用cuda,它就變護城河,用非cuda跑出來結
果跟cuda就不一樣,哪有時間找問題在哪,當然繼續用
cuda
就像大家都習慣用微軟了 你能出其他的作業軟體啊
但誰要用
AMD這種百千億美金的大對手都看不到車尾燈 10億的
雜魚妄想扳倒鯨魚
你沒發現,新聞都只講單晶片效能怎樣怎樣,沒人在
提串起來的效能怎樣怎樣
nv厲害的就是他晶片串起來效能很不得了,目前沒對
手
AMD就是因為串起來效能糞,除了大頭想扶持 根本沒
人要用
感謝 這個比喻很清楚 我看新聞,也都想到單晶片去了
※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 14:01:28電費: ?
NVLink才是重點吧 沒有他nvidia就沒這麼特別了
有本事你搞啊
記得AMD multi-GPU performance很差 這是它先天上
設計的問題 除非整個打掉重練
護城河是來自於整個半導體生態啦 任何一個環節你沒
有都別想挑戰 不是你圖紙畫一畫就說可以挑戰耶
你要有台積的製程 台積的封裝 海力士的記憶體 要不
先從成熟的手機晶片開始挑戰看看 有那麼容易早就百
花齊放
編程
太好了 還看不懂
還有nvlink 買越多越省電費 這個才是沒辦法超越的護
城河
81
Re: [新聞] 輝達最新AI晶片驚傳設計瑕疵 外媒爆出週末閒聊, CSP 幾個主要大廠就是微軟, AMZN, 谷歌, Oracle/IBM, 阿里巴巴, AMZN 跟谷歌一直都有自己的研發團隊研發AI晶片, 其中又以谷歌的TPU最有名, 谷歌CSP 對外提供NVDA GPU 與TPU兩種選項,72
[標的] NVDA 長期無腦多1. 標的:NVDA.US NVIDIA 2. 分類:長期多/心得 3. 分析/正文: 近日台積老大哥已經開示AI未來的CAGR將會高達50% 那AI要買誰呢?當然要買最純的NVIDIA26
Re: [問卦] 有沒有中國這次第四次AI工業革命要GG了AI晶片很多家做,但輝達的CUDA和GPU軟硬 結合,可以用CUDA當C語言編譯器,把輝達 GPU當CPU用。現在中國的AI大用戶,,好像 不想用高閹割版的輝達H20,於是都各自要把 自家用CUDA編譯的整套程式,慢慢改寫轉移15
Re: [新聞] 中國AI晶片業陷困境 兩大關鍵廠商消沉AI GPU 這塊未來十年內肯定還是 Nvidia 獨大,就跟 台 gg 一樣,整個生態早就建立起來了,要幹翻他光有錢是不夠的 皮衣刀客在十幾年前就佈局 cuda,只要有用 Nvidia gpu 做加速的軟體通通都要綁 cuda,目前開源做深度學習跟推論的,也都是綁 cuda , 然後 cuda 並不是開源的,所以如果不是 Nvidia 的晶片,根本不能用 cuda 所以你看 meta 買 nv 的卡,openai 也買 nv 的卡,AMD 雖然也有自己的運算軟體,但生態系沒建立起來,在 AI 這塊終究看不到 nv 的車尾燈,你有看過有哪家大廠買 AMD 的卡做訓練嗎? 所以搞 gpu 晶片這塊就跟牙膏在 gg 面前說要做先進半導體製程一樣,只是純燒錢而已,什麼都不會有的 -----13
Re: [新聞] 蘋果M2晶片減產 牽動台積M1/M2 就是主打能效 屌打x86幾條街 但撇開能效 新架構沒獨顯、不能裝原生windows就喪失生(ㄧㄡˊ)產(ㄒㄧˋ)力 只剩坐在星巴克喝10小時咖啡的功用了 更深入比較: 簡單說就是M1/M2 在特定影像軟體優化上確實有優勢 但限制也多6X
[請益] 請問顯卡有買amd的理由嗎?自從Nvidia最新的驅動釋出了vsr影像技術後 以前A家引以為傲的影片畫質和色彩飽和度的優勢 全部都沒有了 更不用說AMD RDNA3架構也丟了自己的能耗表現 被NV新一代的ada架構顯卡屌打5
[問卦] AMD在顯卡AI領域為何還是垃圾?NVIDIA的CUDA已經16年了欸 16年了 別人16年前就用CUDA解放GPU的運算能力 讓GPU 分散處理能力解放出來 這次徹底迎接來AI需求大爆發 16年了 AMD到底在幹什麼?8
Re: [新聞] 中國AI晶片業陷困境 兩大關鍵廠商消沉又看到一個熟悉的名字, 這新聞讓我非常驚訝, 我先解釋一下 AI晶片分成兩種: edge AI 與 server AI, 如果有興趣討論者兩種AI 晶片的市場, 未來, 與公司股票,3
Re: [新聞] 中國AI晶片業陷困境 兩大關鍵廠商消沉你想多了 並行運算還有opencl 並不是只有Cuda CUDA目前稱霸是因為他們最早看到這一塊 他們很早就投入各方面的應用2
[問卦] 為什麼AI起飛 升天的是NV?那AMD呢?安安 太嘎豪 如題 肥宅懶得截圖了 genius 如下