Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性
算力還是關鍵,沒有不是關鍵
GENINI 3的成功正是再次證明算力是有用的
各大平台只早不是只關注純粹LLMs了,
目前新的重點都是在影像與世界模型,
準備讓人工智能進入物理世界與真實世界,
這一塊算力更加吃緊
算力真正的瓶頸卡在能源上,
昨天老黃上Joe Rogan的節目已經再次強調一次了
你根本不用擔心短期算力過剩,
除了晶片端外,整個系統端到能源供應端
的現實條件目前都卡住了實際算力大幅度增長的速度
宣告要蓋資料中心,
跟真正資料中心跑起來是兩回事,
資料中心跑起來,跟資料中心
可以變成一個超級運算叢集單元是另外一回事
OAI根本沒辦法壟斷運算資源,
微軟家的Azure都不讓他壟斷了,
你就不用煩惱他壟斷Nvidia的卡了
AI玩顯卡供應鏈玩膩了,
去找能源供應鏈吧,
什麼核能的太遠,蓋一個場要好幾年呢,
可是現在就一堆卡等著供電才能運作了
發電、電力輸配、到800V與HVDC架構
很多明年會很有趣的東西
※ 引述《waitrop (嘴砲無雙)》之銘言:
: ※ 引述《xross (xross)》之銘言:
: : 我看版上一堆 AI 下半場了 垃圾時間了 之類的分析文
: : 可是我左看又看 怎樣都像白刃戰 拼刺刀 殺瘋了 卷瘋了
: : 啥 Code Red 都出來了
: : Gemini 3 才出來幾週
: : Deepseek 就來葛 +0.1 (v3.1 -> v3.2) 包含 IMO 數學金牌 AI
: : 說已經趕超 Gemini
: : 才沒幾天
: : Deepmind 就又突然出個 Deep Think 版 也是強調 IMO ICPC 數學 AI
: : "gold medal winning IMO and ICPC technologies"
: : https://x.com/demishassabis/status/1996683917991334300
: : 時間點上 不是巧合吧
: : 怎麼看都像是逼對方出招啊
: : 說好的垃圾時間呢???
: 的確是垃圾時間,
: 但是垃圾時間的定義跟你說的不同,
: 首先,
: 我們來看最近最流行的這句話:
: Scaling is over and LLMs are a dead end.
: https://x.com/GaryMarcus/status/1993727856204198313/photo/1
: 翻成中文,
: 就是我11/12那天說的:
: 各家的LLM把世界資料都訓練差不多之後,
: 各家的LLM都不會差太多
: https://www.ptt.cc/Stock/E.m85q0AHYPkj0
: 如果最後大家的LLM都差不多一樣,
: 那不就是LLM的垃圾時間,
: 接下來比拼的就是平台整合, 應用APP整合,
: 以及物理AI, Agent, Edge,
: 那就是回到了蘋果跟谷歌的地盤,
: 這也是為何最近OpenAI一直親門踏戶到處搶六巨頭的市場,
: 比方說做social media搶臉書市場,
: 做網購,線上支付,App支付等搶亞麻市場,
: 做search 廣告搶谷歌市場,
: 直接在ChatGPT app裏頭開啟App Store, 搶蘋果市場,
: 因為接下來就是搶平台搶應用APP
: 至於這些跑分排行,
: 誰的LLM最強等等,
: 吹的, 聽聽就好,
: 最後都差不多,
: 每一兩個月, 甚至一兩個星期就會排名大洗牌,
: 最後大家都差不多一樣強
: 我要說的說完了,
: 再說下去就是難聽的實話,
: 又要遭到一堆OpenAI支持者的攻擊,
: 我們接下來做兩個假設,
: 1. 假設 "Scaling is over and LLMs are a dead end" 是真的,
: 那麼大家都LLM都一樣,
: 主要看平台看APP應用,
: 不然你就要改算法, 改方向,
: 我一直說方向錯了,
: 然後被罵爆酸爆,
: 的確,
: OpenAI看來是要LLM一路走到底,
: 沒想要改算法改方向,
: 但是這條路明顯到盡頭了
: 2. 假設 "Scaling is over and LLMs are a dead end" 是假的,
: 也就是繼續大力出奇蹟,
: 堆積越多的算力 就會有越強的LLM AI表現,
: 這是過去幾年奧特曼的OpenAI強調的觀點,
: 所以過去幾年奧特曼幾乎把市場上的算力給囤滿,
: 甚至囤到不夠電力 讓GPU放在倉庫,
: 甚至囤到無限加價搶購GPU HBM (這些再說就敏感了)
: 如果Scaling可以繼續下去,
: 那麼把對手的算力資源給搶走,
: 對手也就只能投降
: 但是事實是這樣嗎? DeepSeek我不熟,
: 但是我確定Anthropic 的算力是遠遠比不上OpenAI,
: 但是Anthropic 的 claude 並不輸(可能還贏) ChatGPT,
: 表示算力不是絕對的因素
: 再來說說谷歌的Gemini,
: 雖然TPU是量大管飽,
: 但是OpenAI 的算力是谷歌的三倍以上,
: 證明:
: OpenAI已經的算力部署訂單是1.5兆 到2030年,
: 平均一年3000億美金(300B),
: 谷歌2024-2025年的支出是100B,
: 但是這100B是要分給各個部門 (search, youtube, android, public cloud),
: AI分到的開支可能連一半都不到,
: MSFT AMZN支出也是100B左右,
: 也就是說 OpenAI 一年的算力支出是MSFT+AMZN+GOOG+META的總算力支出
: 但是ChatGPT並沒有比Gemini三倍或是十倍聰明,
: 說落後Gemini又要被支持者攻擊,
: 我們說平手或是稍微領先Gemini,
: 但是你ChatGPT花的錢跟算力是Gemini的三倍到十倍,
: 明顯Scaling is over,
: 算力不是關鍵,
: 算法跟方向才是繼續進步的關鍵
-----
Sent from PttX on my iPhone
--
老黃就是看到 瓶頸是能源這一塊 所以才示警 中國
現在大公司都得自己蓋發電廠 傳統那種由政府主導的
電力公司形式已經滿足不了資料中心了
的優勢 不讓更好的晶片進去中國市場 中國市場在
沒有能源瓶頸的情況下 耗能換算力是可以接受的事
我覺得老黃就只是來炒股票的 為了賣鏟子一直給礦工
打雞血而已
什麼美中競爭 老黃只是想多賣卡
對,你最懂 老黃、馬斯克、祖克柏、皮拆、納德拉這些M7的 CEO都不懂
老黃就賣鏟子的難道會說鏟子已經過剩了?
鏟子夠不夠用要問使用者群體才知道啊
他現在就是說 山姆哥 你知道為什麼會挖到手痠嗎 因
為你買不夠多鏟子
黃仁勳是什麼咖 有比PTT的AI專家懂嗎= =
沒錯,只有你,你是智慧的結晶,你是文明的瑰寶,你
是人類的獨苗,你是上帝的遺珠,你是最後的希望,你
也是,推文有人比Mag7的CEO懂,但是屈才了,身價100
0萬台幣都沒有
搞能源的前提是AI持續發力,那你還不如低點買進七
巨頭
我覺得關鍵是能不能回本 中國根本不會去考慮這個問
題 但其他國家有那個屁股嗎
哈哈以前電腦時代,南橋快不夠北橋,SSD後,變成AI
GPU過熱….
說人只是想炒股的到底是什麼蛙?笑死人
老黃會說新卡每token的能源效率最高,叫你買新卡取
代舊卡,不然電力是瓶頸,接著Burry就出來喊說:你
看,我說的沒錯吧,AI舊卡3年就淘汰了。
真的笑死 原來老黃在cuda這塊蹲了十年只是為了炒股
高速互聯 能源 HVDC 散熱升級依然是明年核心題材
29
我看版上一堆 AI 下半場了 垃圾時間了 之類的分析文 可是我左看又看 怎樣都像白刃戰 拼刺刀 殺瘋了 卷瘋了 啥 Code Red 都出來了 Gemini 3 才出來幾週 Deepseek 就來葛 +0.1 (v3.1 -> v3.2) 包含 IMO 數學金牌 AI54
的確是垃圾時間, 但是垃圾時間的定義跟你說的不同, 首先, 我們來看最近最流行的這句話: Scaling is over and LLMs are a dead end.![Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性 Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性](https://img.youtube.com/vi/H_suOWdYLq0/mqdefault.jpg)
4
關於這個贏得IMO金牌的Gemini pro Deep Think功能, 7/21 Google的DeepMind官網,就已經公開說明, 之後會製作一個版本,交給專家小組(包括數學家)測試後,於Google AI Ultra平台推出。 We will be making a version of this Deep Think model available to a set of trusted testers, including mathematicians, before rolling it out to Google AI![Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性 Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性](https://i.imgur.com/4uwgTa3b.png)
78
[心得] DeepSeek將是刺破本輪泡沫的那根釘子從DeepSeek騰空出世,在到今天Nvidia (以下簡稱NV) 等一票AI概念股的下殺,這輪的科技 股估值修正才正剛開始,誰能引爆華爾街炒作了整整一年的AI神話泡泡?或許DeepSeek就會 是刺破本輪AI泡沫的那根釘子。 記得2021 Nvidia顯卡被炒作的神話嗎?那時候以太幣漲到一顆4500,NV的RTX3060顯卡從24 99美元被炒作到6000美元以上,後來的故事大家都知道了,隨著2022那輪幣圈的泡沫暴跌跟61
Re: [請益] 費半成份股全線崩盤 怎麼辦?DeepSeek這塊有幾個看法 Training端就等之後瓜出來再吃 在Inference這塊 因為受限於MoE 所有推論成本可以降下來 但需求變高的是用記憶空間 和各個node之間的通訊開銷 以及軟體上cpu/gpu的load balance 以deepseek v3來說 600GB+ fp8 需要許多平行運算 這意味通訊瓶頸很重要 因為在切換專家時候 延遲會因此也跟者追加 而記憶體需求開銷也很大![Re: [請益] 費半成份股全線崩盤 怎麼辦? Re: [請益] 費半成份股全線崩盤 怎麼辦?](https://i.imgur.com/1glBeN3b.jpeg)
58
[心得] 資料中心投資方向"遇到任何不能解決的事情 就用C4炸彈" <謠言終結者> 在AI界這邊也是 "遇到任何無法解決的事情 就用算力出奇蹟" < @v@b AI社群> (在下方任何段落 只要看到這** 就跳回來這默念這句話) #算法![[心得] 資料中心投資方向 [心得] 資料中心投資方向](https://img.youtube.com/vi/UczALD7ZZDU/mqdefault.jpg)
51
Re: [標的] NVDA/AMD 討論 多哪隻這兩年就是AI雲端基建年 玩家就是NVDA/AMD 至於那個i皇歐 不好說QQ 如果用internet大時代來講 等基建完畢之後 就會有Software As Service (SaaS) 這類類似saleforce興起 目前看到的玩家就是Databrick 建議可以等這家上市ipo 買爆他 基建完之後 就會慢慢走向AI as Service (AIaaS) 軟體業 我有點懷疑老黃想吃AIaaS這塊應用市場 在AI界 刷演算法的除了G/MS/OpenAI/Meta等![Re: [標的] NVDA/AMD 討論 多哪隻 Re: [標的] NVDA/AMD 討論 多哪隻](https://i.imgur.com/LIsHimvb.jpeg)
44
Re: [新聞] OpenAI執行長:DeepSeek令人驚豔 但關鍵就是算力才是絕對 (新聞用運算這詞可能不太好懂) 吃瓜可以看下面翻譯 無窮算力->無窮智能 這就是OpenAI和Andrej Karpathy, Jim Fan甚至認為![Re: [新聞] OpenAI執行長:DeepSeek令人驚豔 但關鍵 Re: [新聞] OpenAI執行長:DeepSeek令人驚豔 但關鍵](https://i.imgur.com/cvD4Rcbb.jpeg)
34
Re: [新聞] 微軟突取消資料中心租約 揭示AI需求過剩算力沒有過剩問題 再高的算力都可以被塞滿 只是沒有必要 就像晶片有2奈米 但不是所有硬體都要衝2奈米14
Re: [新聞]全面禁止高階AI晶片出口中國要看懂這個新聞需要一些對於高速運算的基本知識。 輝達的GPU產品分成三種不同等級與用途,第一種叫做消費用晶片,也就是大家常常聽到跟使用的GTX跟RTX,主要用途在於遊戲運算以及虛擬貨幣挖礦,主要安裝在伺服器跟個人電腦上面 第二種等級的 GPU 是nvidia quadro系列,這種等級的GPU是與用來做3D繪圖運算用,用來渲染3D影像,主要安裝在工作站級的電腦上面。 最後一種等級的GPU是Tesla系列的A100跟更新的H100,他們的價格完全不是前面兩種等級可以比的,這種等級的GPU是安裝在高速運算中心,提供最高的算力。 另外這三種等級的晶片雖然都有其專有設計的目的,但是並非只能用在那個領域,要用A100來挖礦或是用RTX來跑深度學習都完全沒有問題的,他們的差別在於最高算力以及能耗上面,A100跟H100有著遠比其他等級晶片要高出許多的算力,要達到同樣算力,要用更多的能源,或是更多的空間以及更多成本。14
[閒聊] 資料中心不能變成公共建設嗎?就很早以前在google的雲端搞過Minecraft 私人伺服器,成效很不錯,十多個人都玩不會卡,當然那時候還沒想到這種提供算力的服務在現代超級重要,畢竟那時候ai沒有這麼興盛 那資料中心不能變成公共建設嗎? 公民有權能在政府提供的資料中心使用一定免費的算力來做自己想用的事情,像搞個人的ai模型之類的,感覺這個建設大部分人都能受益啊,還是這種無形的建設不好當政績? ----- Sent from JPTT on my Samsung SM-A5560.10
Re: [新聞] 微軟突取消資料中心租約 揭示AI需求過剩不是算力過剩,各大廠依然在積極提升算力 只不過提升方式從硬體,方向改成算法優化 所以算力沒有過剩,只是老黃換代策略或將失效 輝達換代速度快,價格飆得也快,布署成本不斷漲 這給鏟子的使用者帶來非常龐大資金和時間壓力
84
[請益] 0056可以這樣操作嗎![[請益] 0056可以這樣操作嗎 [請益] 0056可以這樣操作嗎](https://i.imgur.com/z8X13Bfb.jpg)
54
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性![Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性 Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性](https://img.youtube.com/vi/H_suOWdYLq0/mqdefault.jpg)
38
Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐![Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐 Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐](https://i.imgur.com/maDWxU7b.jpg)
29
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性20
Re: [新聞] 川普希望美國製造全球5成晶片 賴清德紐15
Re: [新聞] Fed主席大熱門哈塞特表態:下周應降息 預16
Re: [心得] 山椒魚盤勢觀察![Re: [心得] 山椒魚盤勢觀察 Re: [心得] 山椒魚盤勢觀察](https://i.mopix.cc/LLOj00.jpg)
14
[請益] 第一金最近有什麼大事要發生嗎?11
Re: [標的] 記憶體族群回檔 彎腰撿鑽石多![Re: [標的] 記憶體族群回檔 彎腰撿鑽石多 Re: [標的] 記憶體族群回檔 彎腰撿鑽石多](https://i.imgur.com/MO9jzZjb.gif)
5
[情報] 2548 華固 10月營收 MoM 702% YoY 37447%![[情報] 2548 華固 10月營收 MoM 702% YoY 37447% [情報] 2548 華固 10月營收 MoM 702% YoY 37447%](https://i.meee.com.tw/gQ7aplg.png)
4
[情報] 日本兩年期公債收益率升至1.03%2
Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性![Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性 Re: [新聞] OpenAI危險了!DeepSeek正式發佈V3.2 性](https://i.imgur.com/4uwgTa3b.png)
1
Re: 00641R 富邦日本反1 小單多
X
Re: [請益] 0056可以這樣操作嗎
[情報] 工紙族群多
[標的] 2454聯發科2330台積電 哪個好![[標的] 2454聯發科2330台積電 哪個好 [標的] 2454聯發科2330台積電 哪個好](https://i.imgur.com/TbK5aJcb.jpeg)