[閒聊] AI產業超級耗電欸
全球掀起人工智慧(AI)熱潮,也讓AI進化成吃電巨獸!一位微軟工程師爆料,如果在美國同一個州部署超過10萬片H100 GPU高階晶片,就會導致電網癱瘓。顯見AI運算速度愈快,電力供應需求暴增將成為令人擔憂的問題。
10萬片H100是什麼概念?據市場調查機構Factorial Funds的報告顯示,OpenAI的文字生成影片模型Sora在高峰期間需要72萬片H100,依該工程師說法,這個數量足以讓美國7個州的電網崩潰。
問題是
電從哪裡來?
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.8.30.239 (臺灣)
※ PTT 網址
噓
水桶發電
推
問天網
噓
你以為單純的AI有acg點嗎
推
88
→
88
推
點從哪裡來?
→
ACG點呢?
→
水桶
推
問拜登啊,問我幹嘛,我看起來像美國總統嗎
噓
88
推
這不早知道的事嗎 光微軟一家就訂了15萬塊H100...
推
以為是說VT的那種AI 純AI沒點吧
推
acg的a是指
噓
恰點?
推
下個月要去openai上班
推
88
噓
是不是發錯板
→
用幹發電
→
用愛發電!!!
→
和外星人借啊
噓
放心好了,AI用電起碼有創造價值,不像發錯版的廢文只
→
是在浪費世界資源
推
水桶裡有電
→
其實板上純AI沒點的文早就一堆了
推
美國電網是不是藏電阿,一定有一套公式讓電一定夠
→
是讓推文回應ACG點嗎
噓
發廢文浪費電比較可惡
噓
= =
噓
一定是沒用綠電(聲嘶力竭)
噓
程式寫錯發錯版了快去修一修啦
推
美國松鼠皮嗎 不皮就不缺電
87
[情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求生成式 AI 大爆發,NVIDIA GPU 恐供不應求 來源 微軟 Bing 搜尋引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升 都相當依賴人工智慧處理能力,正是 NVIDIA GPU 優勢所在 當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求59
[標的] NVDA AMD,META將購買60萬H100的運算量1. 標的:NVDA.US & AMD.US (例 2330.TW 台積電) 2. 分類:討論 3. 分析/正文: 消息來源:43
Re: [新聞] 輝達AI有影 台積電7奈米利多今天黃仁勳有講一些話 這是老黃今天講的影片 (字幕可以用 中文) Nvidia 跟 ASML 台積電 新思科技(Synopsys)合作 輝達推出應用於微影運算的AI產品「cuLitho」 「cuLitho」能將運算速度加快40倍,功率也從35兆瓦下降至5兆瓦,21
[閒聊] 串連數千個 Nvidia GPU,微軟打造 Chattechnews 串連數千個 Nvidia GPU,微軟打造 ChatGPT 的超級電腦 March 14, 2023 by 陳 冠榮 微軟斥資數億美元打造一台大型超級電腦,串連數千個 Nvidia GPU,為 OpenAI 的聊天機17
[閒聊] OpenAI旗下Sora進軍好萊塢電影產業新聞網址: 市場週五 (22 日) 傳出,OpenAI 計劃進軍電影業,已安排下週與好萊塢工作室和人才機 構舉行會議,鼓勵電影製作人和工作室在工作中使用人工智慧。他們已經向一些大牌演員 和導演推廣了人工智慧影片製作軟體 Sora。 OpenAI 試圖電影業人員構建娛樂產業的合作夥伴關係、並鼓勵眾多製片公司將 OpenAI14
Re: [新聞]全面禁止高階AI晶片出口中國要看懂這個新聞需要一些對於高速運算的基本知識。 輝達的GPU產品分成三種不同等級與用途,第一種叫做消費用晶片,也就是大家常常聽到跟使用的GTX跟RTX,主要用途在於遊戲運算以及虛擬貨幣挖礦,主要安裝在伺服器跟個人電腦上面 第二種等級的 GPU 是nvidia quadro系列,這種等級的GPU是與用來做3D繪圖運算用,用來渲染3D影像,主要安裝在工作站級的電腦上面。 最後一種等級的GPU是Tesla系列的A100跟更新的H100,他們的價格完全不是前面兩種等級可以比的,這種等級的GPU是安裝在高速運算中心,提供最高的算力。 另外這三種等級的晶片雖然都有其專有設計的目的,但是並非只能用在那個領域,要用A100來挖礦或是用RTX來跑深度學習都完全沒有問題的,他們的差別在於最高算力以及能耗上面,A100跟H100有著遠比其他等級晶片要高出許多的算力,要達到同樣算力,要用更多的能源,或是更多的空間以及更多成本。11
[情報] 微軟發表首顆自研ARM及AI晶片微軟在Ignite 2023的會場上發表兩顆自研的晶片 一顆主要是針對AI工作執行以及AI自動生成和應用最佳化的Azure Maia AI加速器 另一顆是以ARM架構為基礎並對雲端運算需求而研發的Azure Cobalt CPU 以上兩顆自研晶片都是採用TSMC的5nm製程。不會零售只會運用在Azure雲端服務上9
Re: [新聞] 張忠謀曝AI晶片需求太驚人 非以「片」計你先算算看就知道全世界有沒有錢這樣買了 H100 一片十二吋晶圓能切50塊 算低標50塊 一張H100需要1塊 賣三萬美金 等於一張十二寸晶圓 可以做出50張H100 可以賣一百五十萬美金 你一萬片晶圓 就是15B 一百五十億美金
26
[閒聊] 彈幕劇透是否能有真正有解決的方式。39
[閒聊] 動作遊戲Z軸作戰重要嗎?68
[閒聊] 絕區零是米哈遊最逆風的一次嗎?33
[討論] 露營究竟要出成什麼類型的遊戲才能大賣?32
[情報] MyGO!!!!! 高松燈 黏土人開放預定38
Re: [BGD] BanG Dream! Ave Mujica PV27
[閒聊] 逆風推絕區零20
[閒聊] 絕區零跟多娜多娜也太像了吧23
[百合] 火山的女兒 把女兒養成這樣真的沒問題嗎?23
[Vtub] 7/4同接鬥蟲19
Re: [情報] 絕區零成功登頂iOS日區付費總榜第一26
[法環] 雙月騎士的簡單外鄉方法19
[妮姬] 欸不是,戴夫小遊戲這是完美移植吧19
[閒聊] 大腿就是要又油又肥 奶子就是要又重又垂19
[討論] 來自新世界_女主角的心境(雷)18
[鳴潮] 深墬奇境裡的今汐...爆
[情報] 吊帶襪天使 新作視覺圖16
[閒聊] 中華一番 極 159 雷恩~你又...17
[閒聊] 可愛的佐天淚子17
[閒聊] 阿拉伯人真會玩,石油杯輸家好慘啊16
[閒聊] 以韓語遮羞的與正同學會怎麼演?16
[閒聊] 中華一番 極 159 陸阿姨20
[妮姬] 櫻花&羅珊娜 修羅場14
[情報] 青春之箱 2024年開播 Netflix獨家13
[24夏] 模擬後宮體驗 01 早見無雙13
Re: [閒聊] 絕區零是米哈遊最逆風的一次嗎?12
[討論] 如果從近期女同樂團主唱挑一個當女兒?47
Re: [俄語] 鄰座艾莉同學作者的運氣有多好12
[閒聊] 我推的孩子 長大了12
[鍊金] A25:國際服明天大改版,系統追上日服