Re: [新聞] Nvidia覇主地位危矣？這些挑戰者做出便

NV的市場領先地位不是單單只有CUDA這麼單純，你要知道CUDA不是只會算AI，各種高階的模擬運算才是最可怕的護城河。

NV在技術上還有兩大護城河
NVLink/Infiniband：高效的集群計算
Omniverse：虛擬與現實的融合

目前的LLM都有越來越大的趨勢，絕對不是單一個GPU能跑得動的，所以高效的集群計算才是關鍵，你單一個GPU做多大算力不再是重點，而是你要有辦法高效的串成一整個集群，而且NV大概是唯一一家有辦法自己“驗證集群運算缺陷”的公司，因為他自己也有AI團隊在搞大模型，所以NVlink跟Infiniband才會如此重要，要知道UAlink才剛起草聯盟，第一版出來可能要2026了

Omniverse 這可能是大家比較忽略的一塊，這塊是AI從虛擬走向實體的關鍵技術，以自駕車為例，現在tesla就是以海量數據導致FSD能有領先地位，但最終，你不可能只用實際車輛採集數據，尤其是各種負面範例，撞車或撞到人，這絕對是非常稀缺的資料，但假設你能用Omniverse來模擬整個車禍發生的各種情況，才有機會解決這種資料稀缺問題。更進一步則是機器人的虛擬環境訓練，你不可能把機器人丟到家庭裡，不小小壓到小孩才開始調整行為策略，各種人機協作互動的行為更是關鍵。

這兩大塊甚至比單純的CUDA更壟斷，因為GPU集群的實驗你自己沒下去玩過，根本就不知道會發生什麼事，臨時硬體壞了該如何備份復原更換，電力系統要如何整合，這都不是小公司玩的起的
補上萬卡集群的訓練說明
https://youtu.be/aey0qZzJg-Q?si=7GoOw5EDFkG9LcVx

Omniverse 更是未來實體AI的關鍵，新的機器人一定是丟到虛擬環境練到好才出來，這也是為啥老黃一直還是延續GPU而非特化成NPU，因為它需要3D建模與物理引擎，光追系統做虛擬環境驗證，拔掉這些core可能可以省成本，但就無法用途轉移了

※ 引述 《breathair (拆了？簡單了)》 之銘言：
: 標題: Re: [新聞] Nvidia覇主地位危矣？這些挑戰者做出便
: 時間: Wed Aug 28 12:28:18 2024
: 　
: 小弟請教各位大佬
: 　
: NV最大的優勢，應該是CUDA
: CUDA讓各AI專家可以編程NV GPU
: 讓GPU跑你想跑的東西，而不侷限在圖形運算
: 　
: AMD正是落後在這裡
: 當大家都用CUDA編程AI晶片
: AMD不能用CUDA等於不能相容
: 於是AI晶片就被NV佔據極大優勢
: 　
: 以上不知對不對
: 　
: 如果對
: 小弟的疑問是
: 如果NV護城河是CUDA這種編程語言
: 而AI最大優勢又是編程
: 　
: 難道以後不會因為隨著AI的強大
: 各路AI晶片可以把CUDA編程
: 轉譯成自家AI晶片可以接受的語言
: 　
: 這樣護城河還會在嗎？
: -----
: Sent from JPTT on my iPhone
: 　
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.76.203.28 (臺灣)
: ※ 文章網址: https://www.ptt.cc/Stock/E.am8aobcyTwf4
: → bolovema : 以這麼幸福嗎 08/28 12:28: → zerro7 : 前提是無痛轉譯 能達成嗎? 08/28 12:29: → gozule : amd也有搞rocm 08/28 12:30: → as80110680 : 你是第2147483647個發現的人，然後也早就有人在做 08/28 12:30: → as80110680 : 了，還被nv發現被nv警告 08/28 12:30: → bnn : CUDA本身不是護城河 是使用CUDA的人多到變成護城河 08/28 12:31: 推 Lineage5415 : 之前NV某次聲明就是在警告這件事 08/28 12:31: 推 josephpu : 所以AMD確實有在搞轉譯啊...但有難度 08/28 12:32: → Djuda : amd追不上不只有cuda... 08/28 12:32: → Djuda : 如果只是cuda 也沒辦法解釋從2007~現在amd顯卡也是 08/28 12:33: → Djuda : 一路輸到脫褲子 沒有一次有跟上的 08/28 12:33: 推 KALR : 可以查一下 ZLUDA 與 SCALE 08/28 12:33: → ohya111326 : 現在早就有轉譯了阿 08/28 12:33: 推 flipflap : 試試看 被告到破產喔 08/28 12:34: 推 lolpklol0975: 只能用 反壟斷法 來壓制了 08/28 12:34: 推 HiHiCano : 你可以看看顯卡的差距 就知道NV管理層的強大 08/28 12:36: → flypenguin : 這比在文書作業領域幹掉 MS office 還困難。 08/28 12:37: 推 xephon : AMD追不上的東西可多了... 08/28 12:38: → xephon : NV現在要擔心有沒有人要用反壟斷搞他 08/28 12:38: 推 yayohola : 能轉啊 中間損耗勒 08/28 12:38: 　
: 問題是
: 一半的價格，只要提供一半多的算力
: 不也是變相的競爭？
: 不也是可以存活，或拉低NV毛利？
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:41:28
: 推 TurtleGods : 讓AMD努力一點，想當年CPU也是落後20年 08/28 12:40: 推 gabriel : 除了CUDA還有NV_link壓 護城河不會只有一座 08/28 12:40: 推 ohlong : 自己寫的很好改 問題是一堆api沒辦法改 西瓜偎大邊 08/28 12:41: 推 pornpig32 : 你要沒問題的原廠，還是可能有問題的副廠？ 08/28 12:43: 推 kylecheng25 : 能動的東西就不要換 08/28 12:45: 推 strlen : 這東西沒那麼簡單喇 你設備做出來了 能用嗎？會不會 08/28 12:45: → strlen : 跑一跑有bug 當機 燒壞 各種毛 08/28 12:45: 推 s56565566123: Nv 沒有對手 08/28 12:45: 推 KiwiSoda01 : 一般價格一般算力 加上電費跟額外處理自己需求就虧 08/28 12:46: → KiwiSoda01 : 了 08/28 12:46: 推 co80040814 : 制定標準是一個最賺錢的方法 08/28 12:46: → KiwiSoda01 : 買越多省越多 真的不是隨便說說 08/28 12:46: 推 Samurai : 轉譯，原廠隨便改版都弄死你，傻了才擔這個風險 08/28 12:47: 推 js850604 : CUDA有一整個完整的社區當支持，強的是使用者多 08/28 12:48: 推 SSglamr : 那是整組的 NV驅動值5000沒聽過嗎 跑LLM不一定要NV 08/28 12:48: → SSglamr : 華為也可以跑啊 但目前NV最有效率 08/28 12:49: 推 RinLink : 一個基本的觀念 軟體的一切取決於硬體 08/28 12:49: → Samurai : 先行者優勢就是這麼大，不然windows早就被取代 08/28 12:49: 　
: 如果不是從cuda 轉譯
: 而是從自然語言直接轉勒？
: 天方夜譚？AI的強項不是？
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:54:10
: 推 havochuman : 老黃強到只怕分拆 懂嗎？ 08/28 12:52: 推 acgotaku : Cuda 是軟硬整合平台不是編程語言 他的語言是 c 08/28 12:53: → acgotaku : 既然是軟硬整合 就要知道 你的計算機架構不是 nv 08/28 12:54: → acgotaku : 的 08/28 12:54: 噓 dos01 : AMD有做過類似的事情 但實際的效能算下來就很差 08/28 12:54: → sezna : 轉譯哪有那麼簡單，光是效能就搞死你 08/28 12:54: → acgotaku : 你抄也沒用，要自己調教出自己軟硬整合平台 08/28 12:55: → dos01 : 對廠商來說 搞這些東西還不如多花點錢跟NV買顯卡 08/28 12:55

--