Re: [新聞] 蘋果宣布MLX框架將支援NVIDIA CUDA平台
應該是真的 不過是屬於inference deploy端 也就是你在MLX訓練好模型
可以直接在NVDIA GPU平台上 用CUDA backend跑起來 這個訊號意味cuda算力平台
已經可以算是主流 所以蘋果逼得只好讓自己框架 在deploy端可以支援cuda gpu
不然訓練好的模型 主流平台都不能滿血跑inference 會挺尷尬的
至於要拿NVDIA GPU外接蘋果os去訓練模型 大概沒機會了 最後一代還能這樣做是TitanXP時代 後來蘋果就不接受cuda driver (NVIDIA都會幫忙寫) 所以就GG
現在就是看果家到底要不要擁抱NVDA 開始好好做開源ML 這一兩年應該就會看到定論
QQ
--
最近不知買啥 開始買起果家了 @@ 庫克 不要讓我失望啊
※ 引述《dnol (舞秋風 憶白雲)》之銘言:
: 大躍進!蘋果宣布MLX框架將支援NVIDIA CUDA平台
: 2025-07-16 17:07:35
: 記者孟圓琦/編譯
: https://www.technice.com.tw/issues/ai/182711/
: 蘋果專為Apple Silicon設計的機器學習框架MLX,目前正積極導入NVIDIA CUDA 平台支援: ,此舉對於機器學習領域而言,無疑是一項重大進展。
: MLX 是一個專為在 Apple 晶片上進行高效、靈活的機器學習研究而設計的陣列框架。如: 今宣告將導入NVIDIA CUDA 平台支援。
: 經外媒《AppleInsider》報導指出,這項工作的推動者是 GitHub 上的開發者@zcbenz,: 他早在數月前便開始著手 CUDA 支援的原型開發。隨後,他將專案拆分成多個較小部分,: 並逐步將其整合至 Apple MLX 的主分支中。儘管 CUDA 後端目前仍在開發階段,但多項: 核心運算操作已獲得支援並通過測試,包括矩陣乘法、Softmax、歸約、排序和索引等。: CUDA (Compute Unified Device Architecture),本質上是 NVIDIA 硬體的「Metal」:: 一個專為自家 GPU 設計的運算平台,旨在最大化其在高效率平行運算任務中的效能。對: 於許多人而言,CUDA 是在 NVIDIA GPU 上執行機器學習工作負載的標準方式,並廣泛應: 用於整個機器學習生態系統,從學術研究到商業部署。諸如PyTorch和TensorFlow等深度: 學習框架,都依賴 CUDA 來利用 GPU 加速運算。
: 那麼,為何 Apple 的 MLX 框架要開始支援 CUDA 呢?MLX 最初是為 Apple Silicon 和: Metal 進行優化,但增加 CUDA 後端改變了這一局面。現在,研究人員和工程師可以在: Mac 上利用 MLX 本地開發 CUDA 模型,然後將其部署到大型 NVIDIA GPU 叢集上,這些: 叢集目前在機器學習訓練工作負載方面仍佔據主導地位。
: 儘管如此,目前仍存在一些限制,其中大部分仍在積極開發中。例如,並非所有 MLX 運: 算子都已實作完成,且對 AMD GPU 的支援仍在更遠的計畫中。
: 即便如此,能夠在無需重寫程式碼的情況下,將 MLX 程式碼引入 NVIDIA GPU,為更快的: 測試、實驗和研究用例開啟了大門,這幾乎是所有 AI 開發人員都樂於聽到的消息。
: 心得/評論:
: 這則新聞出來有一個星期了,但我沒看到版上有人貼。
: 所以我貼出來,想趁機討論一下。
: 我剛去查証了一下,這消息似乎是小道消息,蘋果似乎沒有正式的發怖這個消息。
: 若蘋果打算將他們內部的AI架構port到cuda上。
: 這是不是暗示,蘋果以後也可能擁抱nvidia生態系。
: 以前就有聽說,蘋果很排斥nvidia,因為以前有過節。
: 難道不久的未來,我們會看到大合解?
: nvidia和蘋果的股價一起up up?
--
NV加水果,就問是不是要噴到外宇宙
恭喜數錢 羨慕
@@ a08 一起去開餐車吧 我每天看threads都是餐車
24
Re: [新聞] 謝金河指蘋果好日子不多了 全因庫克: : : : : 蘋果的問題是26
[情報] NV Ampere 普及RTX光追RTX3080/Ti獨享SLI對於NVIDIA下一代的Ampere GPU,昨晚的最新爆料給出的說法跟之前不同,顯示遊戲用的 Ampere顯示卡使用的是三星10nm製程,CUDA核心也沒有之前那麼誇張,但RTX 3080 Ti性 能大概會提升40%,增幅不算低了。 這份爆料出自網友CorgiKitty,從昨天到現在他還給出了更多的訊息,再來補充一下。 1、之前他爆料Ampere GPU的FP32規模會翻倍,但不代表CUDA核心數會大漲,因為NVIDIA![[情報] NV Ampere 普及RTX光追RTX3080/Ti獨享SLI [情報] NV Ampere 普及RTX光追RTX3080/Ti獨享SLI](https://img1.mydrivers.com/img/20200312/5be11de9ff0b48759ed223756d1ee7de.jpg)
23
Re: [閒聊]AMD顯卡可以跑CUDA程式,那就不必特地買N各位早安, 這裡是禮拜六早上的 R&D。 ※ 引述 《amduser (重返榮耀)》 之銘言: : : 之前新聞![Re: [閒聊]AMD顯卡可以跑CUDA程式,那就不必特地買N Re: [閒聊]AMD顯卡可以跑CUDA程式,那就不必特地買N](https://img1.mydrivers.com/img/20240216/6afa4966af674a5184f0fadd6f9c5093.png)
15
Re: [新聞] 中國AI晶片業陷困境 兩大關鍵廠商消沉AI GPU 這塊未來十年內肯定還是 Nvidia 獨大,就跟 台 gg 一樣,整個生態早就建立起來了,要幹翻他光有錢是不夠的 皮衣刀客在十幾年前就佈局 cuda,只要有用 Nvidia gpu 做加速的軟體通通都要綁 cuda,目前開源做深度學習跟推論的,也都是綁 cuda , 然後 cuda 並不是開源的,所以如果不是 Nvidia 的晶片,根本不能用 cuda 所以你看 meta 買 nv 的卡,openai 也買 nv 的卡,AMD 雖然也有自己的運算軟體,但生態系沒建立起來,在 AI 這塊終究看不到 nv 的車尾燈,你有看過有哪家大廠買 AMD 的卡做訓練嗎? 所以搞 gpu 晶片這塊就跟牙膏在 gg 面前說要做先進半導體製程一樣,只是純燒錢而已,什麼都不會有的 -----8
Re: [問卦] Nvidia會不會變成下一個intel?接下來是 AMD 的時代了 nVidia 已經被看破手腳了 Deepseek 已經示範給全球看 不需要 CUDA 也沒關係 CUDA 是給人寫的 AI 寫的程式不需要 CUDA 在 AI 的加持之下 叫 AI 直接生成低階程式語言 直接操作 PTX 效率還更好9
Re: [討論] Deepseek 繞開cuda 用任何GPU都可以這種文章完全就是在造謠 用PTX寫程式繞開的是CUDA開發框架而不是CUDA硬體 PTX是CUDA開發框架產生的中繼語言,通常,演算法工程師撰寫的是高階語言 (C++或pyt hon) ,開發環境會將高階語言轉換成中繼語言 你能直接撰寫PTX是可以說繞過CUDA沒錯,但繞過的是指CUDA框架的API以及從高階語言轉9
Re: [討論] DeepSeek消息的三大誤區小弟是擔任10年資歷以上的韌體工程師,所以對於這討論很有感: 我剛好也學過一點AI CUDA等東西,那我會把PTX跟CUDA做以下的類比 CUDA: C++ Python等高階語言 PTX: 組合語言 我以前在學組合語言的時候就發現,組合語言開發出來的程式就會比c++小很多,6
[情報] i皇6代以上內顯開CUDA加速 最高buff 52%本來想轉xf的 但我真的看不懂他真的在寫三小(抑或是說源頭cnbeta真的不知道寫什麼) 英文原文: 原作者Github:![[情報] i皇6代以上內顯開CUDA加速 最高buff 52% [情報] i皇6代以上內顯開CUDA加速 最高buff 52%](https://i.imgur.com/7QJsd9ob.jpg)
3
Re: [情報] Live 蘋果發布會 WWDC 2024看到推文很多人跟網紅說蘋果要當個平台商, 但是就我的理解, 蘋果這個操作是完全放棄當平台商, 蘋果無法當個AI平台商抽取蘋果稅, 因為蘋果直接使用OpenAI API,3
Re: [問卦] deepseek 說輝達是現代石油公司?剛剛我又引導對輝達不利方式去說 以下我問的問題: 3.會因為演算法的進步,導至不需要那麼多算力(Nvidia GPU) ,讓微軟與meta 或其它公司去砍Nvidia 的訂單嗎? Deepseek 回答如下:
爆
[請益] 0056可以這樣操作嗎![[請益] 0056可以這樣操作嗎 [請益] 0056可以這樣操作嗎](https://i.imgur.com/z8X13Bfb.jpg)
83
Re: [心得] 山椒魚盤勢觀察![Re: [心得] 山椒魚盤勢觀察 Re: [心得] 山椒魚盤勢觀察](https://i.mopix.cc/LLOj00.jpg)
54
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性![Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性 Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性](https://img.youtube.com/vi/H_suOWdYLq0/mqdefault.jpg)
38
Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐![Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐 Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐](https://i.imgur.com/maDWxU7b.jpg)
32
[情報] 2344 華邦電 114年11月營收![[情報] 2344 華邦電 114年11月營收 [情報] 2344 華邦電 114年11月營收](https://i.mopix.cc/JF4BB2.jpg)
25
[情報] 3443 創意 11月營收16
Re: [新聞] Fed主席大熱門哈塞特表態:下周應降息 預16
[請益] 第一金最近有什麼大事要發生嗎?13
Re: [標的] 記憶體族群回檔 彎腰撿鑽石多![Re: [標的] 記憶體族群回檔 彎腰撿鑽石多 Re: [標的] 記憶體族群回檔 彎腰撿鑽石多](https://i.imgur.com/MO9jzZjb.gif)
29
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性10
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性22
Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐9
[情報] 日本兩年期公債收益率升至1.03%8
[情報] 1205 上市投信買賣超排行5
[情報] 2548 華固 10月營收 MoM 702% YoY 37447%![[情報] 2548 華固 10月營收 MoM 702% YoY 37447% [情報] 2548 華固 10月營收 MoM 702% YoY 37447%](https://i.meee.com.tw/gQ7aplg.png)
Re: [請益] 0056可以這樣操作嗎4
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性![Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性 Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性](https://i.imgur.com/4uwgTa3b.png)
1
Re: 00641R 富邦日本反1 小單多
[情報] 工紙族群多
[標的] 2454聯發科2330台積電 哪個好![[標的] 2454聯發科2330台積電 哪個好 [標的] 2454聯發科2330台積電 哪個好](https://i.imgur.com/TbK5aJcb.jpeg)
[情報] 114年12月05日 三大法人買賣金額統計表