[閒聊] AI產業超級耗電欸
全球掀起人工智慧（AI）熱潮，也讓AI進化成吃電巨獸！一位微軟工程師爆料，如果在美國同一個州部署超過10萬片H100 GPU高階晶片，就會導致電網癱瘓。顯見AI運算速度愈快，電力供應需求暴增將成為令人擔憂的問題。
10萬片H100是什麼概念？據市場調查機構Factorial Funds的報告顯示，OpenAI的文字生成影片模型Sora在高峰期間需要72萬片H100，依該工程師說法，這個數量足以讓美國7個州的電網崩潰。
問題是
電從哪裡來？
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.8.30.239 (臺灣)
※ PTT 網址
噓
水桶發電
推
問天網
噓
你以為單純的AI有acg點嗎
推
88
→
88
推
點從哪裡來？
→
ACG點呢？
→
水桶
推
問拜登啊，問我幹嘛，我看起來像美國總統嗎
噓
88
推
這不早知道的事嗎 光微軟一家就訂了15萬塊H100...
推
以為是說VT的那種AI 純AI沒點吧
推
acg的a是指
噓
恰點？
推
下個月要去openai上班
推
88
噓
是不是發錯板
→
用幹發電
→
用愛發電！！！
→
和外星人借啊
噓
放心好了，AI用電起碼有創造價值，不像發錯版的廢文只
→
是在浪費世界資源
推
水桶裡有電
→
其實板上純AI沒點的文早就一堆了
推
美國電網是不是藏電阿，一定有一套公式讓電一定夠
→
是讓推文回應ACG點嗎
噓
發廢文浪費電比較可惡
噓
= =
噓
一定是沒用綠電(聲嘶力竭)
噓
程式寫錯發錯版了快去修一修啦
推
美國松鼠皮嗎 不皮就不缺電
87
[情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求生成式 AI 大爆發，NVIDIA GPU 恐供不應求 來源 微軟 Bing 搜尋引擎整合 ChatGPT，加上其他生成式 AI 工具的需求攀升 都相當依賴人工智慧處理能力，正是 NVIDIA GPU 優勢所在 當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求![[情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求](https://img.youtube.com/vi/0dmzRwvObaE/mqdefault.jpg "[情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求")
59
[標的] NVDA AMD,META將購買60萬H100的運算量1. 標的：NVDA.US & AMD.US (例 2330.TW 台積電) 2. 分類：討論 3. 分析/正文： 消息來源：![[標的] NVDA AMD,META將購買60萬H100的運算量](https://i.imgur.com/s7unGHrb.jpg "[標的] NVDA AMD,META將購買60萬H100的運算量")
43
Re: [新聞] 輝達AI有影 台積電7奈米利多今天黃仁勳有講一些話 這是老黃今天講的影片 (字幕可以用 中文) Nvidia 跟 ASML 台積電 新思科技（Synopsys）合作 輝達推出應用於微影運算的AI產品「cuLitho」 「cuLitho」能將運算速度加快40倍，功率也從35兆瓦下降至5兆瓦，![Re: [新聞] 輝達AI有影 台積電7奈米利多](https://img.youtube.com/vi/DiGB5uAYKAg/mqdefault.jpg "Re: [新聞] 輝達AI有影 台積電7奈米利多")
21
[閒聊] 串連數千個 Nvidia GPU，微軟打造 Chattechnews 串連數千個 Nvidia GPU，微軟打造 ChatGPT 的超級電腦 March 14, 2023 by 陳 冠榮 微軟斥資數億美元打造一台大型超級電腦，串連數千個 Nvidia GPU，為 OpenAI 的聊天機![[閒聊] 串連數千個 Nvidia GPU，微軟打造 Chat](https://i.imgur.com/9bqEe8Db.jpg "[閒聊] 串連數千個 Nvidia GPU，微軟打造 Chat")
17
[閒聊] OpenAI旗下Sora進軍好萊塢電影產業新聞網址： 市場週五 (22 日) 傳出，OpenAI 計劃進軍電影業，已安排下週與好萊塢工作室和人才機 構舉行會議，鼓勵電影製作人和工作室在工作中使用人工智慧。他們已經向一些大牌演員 和導演推廣了人工智慧影片製作軟體 Sora。 OpenAI 試圖電影業人員構建娛樂產業的合作夥伴關係、並鼓勵眾多製片公司將 OpenAI![[閒聊] OpenAI旗下Sora進軍好萊塢電影產業](https://cimg.cnyes.cool/prod/news/5501189/m/50120aeff052a284a8c5136c4cb945a5.jpg "[閒聊] OpenAI旗下Sora進軍好萊塢電影產業")
14
Re: [新聞]全面禁止高階AI晶片出口中國要看懂這個新聞需要一些對於高速運算的基本知識。 輝達的GPU產品分成三種不同等級與用途，第一種叫做消費用晶片，也就是大家常常聽到跟使用的GTX跟RTX，主要用途在於遊戲運算以及虛擬貨幣挖礦，主要安裝在伺服器跟個人電腦上面 第二種等級的 GPU 是nvidia quadro系列，這種等級的GPU是與用來做3D繪圖運算用，用來渲染3D影像，主要安裝在工作站級的電腦上面。 最後一種等級的GPU是Tesla系列的A100跟更新的H100，他們的價格完全不是前面兩種等級可以比的，這種等級的GPU是安裝在高速運算中心，提供最高的算力。 另外這三種等級的晶片雖然都有其專有設計的目的，但是並非只能用在那個領域，要用A100來挖礦或是用RTX來跑深度學習都完全沒有問題的，他們的差別在於最高算力以及能耗上面，A100跟H100有著遠比其他等級晶片要高出許多的算力，要達到同樣算力，要用更多的能源，或是更多的空間以及更多成本。11
[情報] 微軟發表首顆自研ARM及AI晶片微軟在Ignite 2023的會場上發表兩顆自研的晶片 一顆主要是針對AI工作執行以及AI自動生成和應用最佳化的Azure Maia AI加速器 另一顆是以ARM架構為基礎並對雲端運算需求而研發的Azure Cobalt CPU 以上兩顆自研晶片都是採用TSMC的5nm製程。不會零售只會運用在Azure雲端服務上![[情報] 微軟發表首顆自研ARM及AI晶片](https://news.microsoft.com/source/wp-content/uploads/2023/11/In-house-chips-silicon-to-service-to-meet-AI-demand-social.jpg "[情報] 微軟發表首顆自研ARM及AI晶片")
9
Re: [新聞] 張忠謀曝AI晶片需求太驚人 非以「片」計你先算算看就知道全世界有沒有錢這樣買了 H100 一片十二吋晶圓能切50塊 算低標50塊 一張H100需要1塊 賣三萬美金 等於一張十二寸晶圓 可以做出50張H100 可以賣一百五十萬美金 你一萬片晶圓 就是15B 一百五十億美金![Re: [新聞] 張忠謀曝AI晶片需求太驚人 非以「片」計](https://i.imgur.com/ReaMy28b.gif "Re: [新聞] 張忠謀曝AI晶片需求太驚人 非以「片」計")
49
[閒聊] 鏈鋸人185 嘔嘔嘔37
[食戟] 當年看到才波城一郎被5:0時有多震撼?![[食戟] 當年看到才波城一郎被5:0時有多震撼?](https://i.imgur.com/Cr9qac2b.png "[食戟] 當年看到才波城一郎被5:0時有多震撼?")
35
[閒聊] 國中就摸過女同學胸部的舉手![[閒聊] 國中就摸過女同學胸部的舉手](https://i.imgur.com/DM7gAt5b.jpg "[閒聊] 國中就摸過女同學胸部的舉手")
41
[情報] 植木的法則 時隔16年 全新讀切短篇![[情報] 植木的法則 時隔16年 全新讀切短篇](https://pbs.twimg.com/media/GdUcDMoaoAYoXYy.jpg "[情報] 植木的法則 時隔16年 全新讀切短篇")
30
[情報] 少前2全球上線PV出現數位尚未實裝人形![[情報] 少前2全球上線PV出現數位尚未實裝人形](https://img.youtube.com/vi/hF_hPr7NzLA/mqdefault.jpg "[情報] 少前2全球上線PV出現數位尚未實裝人形")
21
[釣魚] 索尼新專利 用AI做假帳號釣惡意用戶![[釣魚] 索尼新專利 用AI做假帳號釣惡意用戶](https://xcornman.com/wp-content/uploads/2024/11/origin_202411261546143681.png "[釣魚] 索尼新專利 用AI做假帳號釣惡意用戶")
20
[GBC] 女姛異聞錄Persona 5![[GBC] 女姛異聞錄Persona 5](https://i.imgur.com/Cr2YFt4b.jpeg "[GBC] 女姛異聞錄Persona 5")
19
[蔚藍] 今日壽星-阿慈谷 ヒフミ![[蔚藍] 今日壽星-阿慈谷 ヒフミ](https://i.imgur.com/wUSxnuvb.jpeg "[蔚藍] 今日壽星-阿慈谷 ヒフミ")
19
[Vtub] 兔田出大事18
[閒聊] 白雪公主怎麼不找巨石強森來拍?![[閒聊] 白雪公主怎麼不找巨石強森來拍?](https://i.imgur.com/uUU5GoPb.jpg "[閒聊] 白雪公主怎麼不找巨石強森來拍?")
28
[閒聊] 五胞胎挑戰用舌頭把櫻桃梗打結![[閒聊] 五胞胎挑戰用舌頭把櫻桃梗打結](https://i.imgur.com/F7wo4H7b.jpeg "[閒聊] 五胞胎挑戰用舌頭把櫻桃梗打結")
16
[情報] 雀魂 偶大sc 聯動紀念 送兩抽![[情報] 雀魂 偶大sc 聯動紀念 送兩抽](https://i.imgur.com/Zwn1xRob.jpeg "[情報] 雀魂 偶大sc 聯動紀念 送兩抽")
35
[157] 市川有勃起了嗎![[157] 市川有勃起了嗎](https://i.imgur.com/XCBvMvCb.jpeg "[157] 市川有勃起了嗎")
15
[問題] 竹嶋老師畫風的百合作推薦![[問題] 竹嶋老師畫風的百合作推薦](https://pbs.twimg.com/media/FRV-gwVVgAE8wOr.png "[問題] 竹嶋老師畫風的百合作推薦")
14
[ＳＣ] 哇 竟然是未來咩咕嚕還有未來凜世啊！![[ＳＣ] 哇 竟然是未來咩咕嚕還有未來凜世啊！](https://pbs.twimg.com/media/GdUKt2nbcAEGFt2.jpg "[ＳＣ] 哇 竟然是未來咩咕嚕還有未來凜世啊！")
18
[閒聊] 育碧巴塞隆納工會對返回辦公室提起訴訟![[閒聊] 育碧巴塞隆納工會對返回辦公室提起訴訟](https://assetsio.gnwcdn.com/0502_gamesindustry-logo-og.png?width=1200&height=630&fit=crop&enable=upscale&auto=webp "[閒聊] 育碧巴塞隆納工會對返回辦公室提起訴訟")
56
[閒聊] 你各位國中的時候都在做什麼？15
[原神] 所以要跳洽斯卡嗎![[原神] 所以要跳洽斯卡嗎](https://i.imgur.com/POP0Zrwb.jpg "[原神] 所以要跳洽斯卡嗎")
14
[閒聊] 滅卻師是不是情蒐沒做完整？13
[閒聊]模擬後宮體驗 BD BOX 簡單開箱![[閒聊]模擬後宮體驗 BD BOX 簡單開箱](https://imgpoi.com/i/XR86Z2.jpg "[閒聊]模擬後宮體驗 BD BOX 簡單開箱")
58
[閒聊] 我跟女友的妹妹接吻了![[閒聊] 我跟女友的妹妹接吻了](https://i.imgur.com/40RtPJ8b.jpeg "[閒聊] 我跟女友的妹妹接吻了")
13
[閒聊] 獵人 雷歐力揍金![[閒聊] 獵人 雷歐力揍金](https://i.imgur.com/00UVdTHb.jpeg "[閒聊] 獵人 雷歐力揍金")
12
[閒聊] 勇者與梅杜莎![[閒聊] 勇者與梅杜莎](https://i.imgur.com/ESoQsadb.jpg "[閒聊] 勇者與梅杜莎")
12
[閒聊] 萊莎的鍊金工房 禮服萊莎 PVC簡易開箱![[閒聊] 萊莎的鍊金工房 禮服萊莎 PVC簡易開箱](https://aurakaze.blog/wp-content/uploads/2024/11/DSC01382-scaled.jpg "[閒聊] 萊莎的鍊金工房 禮服萊莎 PVC簡易開箱")
51
[閒聊] 我內心的糟糕念頭 157 作者新圖![[閒聊] 我內心的糟糕念頭 157 作者新圖](https://i.imgur.com/6XaqsHyb.jpeg "[閒聊] 我內心的糟糕念頭 157 作者新圖")
79
[閒聊] 妳竟然破壞了那個祠堂?![[閒聊] 妳竟然破壞了那個祠堂?](https://i.imgur.com/3higsFub.jpeg "[閒聊] 妳竟然破壞了那個祠堂?")
11
[Vtub] HACHI 深夜歌回 #81![[Vtub] HACHI 深夜歌回 #81](https://img.youtube.com/vi/DbB2NUtbDPo/mqdefault.jpg "[Vtub] HACHI 深夜歌回 #81")
11
[閒聊] 九日 交戰記憶 我打得很過癮![[閒聊] 九日 交戰記憶 我打得很過癮](https://i.imgur.com/XqWBnLzb.jpeg "[閒聊] 九日 交戰記憶 我打得很過癮")
19
Re: [閒聊] 我的的假小子女友![Re: [閒聊] 我的的假小子女友](https://i.imgur.com/VcXWwhib.jpeg "Re: [閒聊] 我的的假小子女友")
43
[閒聊] 台灣醫和波波醫 有哪些不一樣？![[閒聊] 台灣醫和波波醫 有哪些不一樣？](https://i.imgur.com/aIH9JZVb.jpeg "[閒聊] 台灣醫和波波醫 有哪些不一樣？")
![[閒聊] 鏈鋸人185 嘔嘔嘔](https://cdn-ak-img.shonenjumpplus.com/public/series-thumbnail/3270375685341574005-13f033f8d0ba8e35b3ecc316be93c57b?1731985658 "[閒聊] 鏈鋸人185 嘔嘔嘔")