PTT推薦

Re: [請益] AI伺服器成本分析——記憶體是最大的輸家

看板Stock標題Re: [請益] AI伺服器成本分析——記憶體是最大的輸家作者
mooto
(退出會比較好, 就退出)
時間推噓30 推:33 噓:3 →:59

※ 引述《neone (neone)》之銘言:
: 剛看到半導體產業分析機構semianalysis的這篇新文章:
: https://www.semianalysis.com/p/ai-server-cost-analysis-memory-is
: 雖然沒付費只能看到部分
: bing摘要:
: 這篇文章的核心內容是分析人工智能伺服器的成本。文章指出,隨著數據中心建設的瘋狂: ,市場也隨之瘋狂。但是,有許多公司並不應該因此而受益。文章還提到,IT預算有限,: 因此Nvidia銷售額的增長主要來自於購買較少的非GPU伺服器。文章中還提供了一個標準: CPU伺服器的成本分解,顯示內存佔伺服器成本的近40%。文章最後指出,在人工智能時代: ,普通伺服器的百分比將會下降,並且在數據中心轉向加速計算時,各組件的成本分配也: 會發生重大變化。

老黃今天展示的那櫃 Grace Hooper
就用了144TB GPU Memory 透過NVLink共享
(NVLink是他們自研的SERDES
簡單來說就是PCIe更快的介面)
所以重點只是高速 共享
記憶體還是存在的

還有也不用擔心大家嫌貴不買啦
老黃今天不就列了1600家要做AI的公司
挖不挖得到金礦又不關他的事
只要鏟子賣得出去就好了

這種時候大家都爭搶先當第一個啦
有機會變成AI界的m$, adobe誰不幹
在那邊省小錢 到時候就看別人鼠錢
反正新創花的也不是自己錢
燒光當然是再繼續吹

話說老黃真的值得領那個錢
美國人訓練不是蓋的
相比之下今天下午發哥找他來蹭
那些高層講話的台風 投影片的格局 真的差好多喔

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 218.161.53.112 (臺灣)
PTT 網址

stlinman 05/29 23:52老黃是創業家,以前可是要自己找風投搞錢的。

Liberl 05/29 23:55應該是說 台灣的高管把自己定位在管理者 而不是業務

WYchuang 05/29 23:55Nvidia的Chiplet是不是拿MTK練經驗?

Liberl 05/29 23:56但整間公司最大最應該做業務的是高管

Liberl 05/29 23:56我在某間大型上市公司(0050前半的)當CEO幕僚

Liberl 05/29 23:57CEO幾乎都在辦公室裡批公文 開會 很少出去拜訪

Liberl 05/29 23:58CEO不在公司裡 VP沒一個人敢做決定

freeclouds 05/29 23:58因為有業務副總阿 嘻嘻

freeclouds 05/29 23:59CEO都是等別人來公司拜訪的啦

Liberl 05/29 23:59這是台灣企業的陋習 越到高管越不接觸公司業務

freeclouds 05/30 00:00有的公司的CEO 是熱愛批簽呈跟支出單

freeclouds 05/30 00:00你以為5萬小錢頂多批到副總 結果竟然要到CEO

goodjop 05/30 00:00大部分第一代CEO 都是業務起家

Liberl 05/30 00:01張忠謀就說過CEO要是個生意人

Liberl 05/30 00:01魏哲家很明顯被他訓練得還算不錯

freeclouds 05/30 00:01家族企業第二代以後的CEO幾乎都是財會出身 真奇怪

goodjop 05/30 00:01白手起家 不會業務 早就倒閉了

goodjop 05/30 00:02因為都送歐美學財經管理

goodjop 05/30 00:03我爸就是業務起家 但我沒接他的事業 我自己創業

goodjop 05/30 00:03從技術專業 再轉業務 然後創業

Shepherd198705/30 00:03庫克蘇媽發表會都很尬, 體制內的乖寶寶

bobjohns 05/30 00:06台積電金融海嘯時,張忠謀還不是自己飛美國拉業務,

bobjohns 05/30 00:06根本是台灣CEO實力太差,表達有問題才一直在管理。

TaiwanUp 05/30 00:07我覺得跟Chairman互補就好 如果Founder都會 就隨便

TaiwanUp 05/30 00:07學馬斯克 曾經考慮找BTS當推特CEO

ck326 05/30 00:11現在新創想搞錢沒有之前0利率時代容易ㄅ,呵呵

TaiwanUp 05/30 00:13而且台積電的成功我不覺得是靠業務 純粹是算力需求

TaiwanUp 05/30 00:14就如同張忠謀曾經驚嘆 礦卡怎麼會下那麼多單

TaiwanUp 05/30 00:14這難道是他自己找來的客戶嗎

ppuuppu 05/30 00:15老黃領袖特質明顯,台廠高管有幾個能這樣講話吸引

ppuuppu 05/30 00:15人聽

TaiwanUp 05/30 00:15蘇媽的背景和人格特質有自帶業務buff 還有obov力場

a000000000 05/30 00:17蘇媽就很不會吹 就這點明顯輸給老黃

a000000000 05/30 00:18其他地方夠強惹

ALAHAKBAR 05/30 00:21西方ceo光身材就屌打了...

Argos 05/30 00:22業務型CEO是賈柏斯帶出來的風氣吧

easyman 05/30 00:22平平都是講省電, 蘇嬤只會講比業界快20%

easyman 05/30 00:23老黃就很會吹, 買越多賺越多

dagehoya556605/30 00:24發弟高官格局根本笑話

goodjop 05/30 00:24K董的人格特質 就比其他哥哥好

goodjop 05/30 00:25白手起家 又有技術 自然言之有物 業務不是問題

b0117 05/30 00:32蘇媽打工打的很不錯,感覺老黃是真的從自己的visio

b0117 05/30 00:32n出發,drive整個公司的走向

b0117 05/30 00:33蘇媽是管理者,老黃是創業家,格局還是差蠻多的

mooto 05/30 00:34雖然老黃是受邀來computex 但一場演講 只花一部分

mooto 05/30 00:35捧自家產品 剩下的是用(潛在)客戶的產品展示 這我

loveponpon 05/30 00:35Morris不就說過 執行長要拉業務要會說

mooto 05/30 00:35真的覺得很厲害 兩小時的show不會太無聊

b0117 05/30 00:36老黃還有一個最強的點,就是他用了很多台灣人

loveponpon 05/30 00:36庫克的發表會 更尷尬哈哈哈

b0117 05/30 00:36這光研發成本就不知道省多少了

b0117 05/30 00:38不像牙膏一堆印度人佔據,靠嘴巴做事應該不少

mooto 05/30 00:38台灣人好用R NV比起碼農還是比較血汗的

a000000000 05/30 00:40老黃講那些東西gtc一值都這樣惹

b0117 05/30 00:41務實做研發,節省研發成本,根本神之正迴授

neone 05/30 00:42老黃的人格魅力和演講技巧 真的CEO少有

mamorui 05/30 00:47今天keynote還不錯

Amulet1 05/30 00:56亞洲都一樣 靠關係就能上去

mooto 05/30 01:00沒有啦 豬屎屋還是很硬核的 台灣比較少在走雙軌制

mooto 05/30 01:01多數主管還是技術職升上去的 這就會碰到彼得原理

mooto 05/30 01:02說的問題 因為懂技術的人不見得擅長管理或業務

linbryan 05/30 01:02台灣只有function manager. 沒有純manager.你知刺針

linbryan 05/30 01:02飛彈.不是由工程師或戰鬥人員開發/想出來的.是由pro

linbryan 05/30 01:02ject manger開發/想出來的

SILee 05/30 01:03蘇媽豈止不會吹而已,之前還曾經AMD內部all hand被

SILee 05/30 01:03問問題問到自己惱羞失言搞到犯眾怒,幾個月後一堆工

SILee 05/30 01:03程師跟著主管整組一起走人跳槽 ㄎㄎ

a000000000 05/30 01:04蘇媽跟老黃出包史尼要去找都是一大串

mynumber55 05/30 01:07賈伯斯也弄出很多包啊,沒什麼

wei9898 05/30 01:10發哥的行銷能力跟高通比如何?

mooto 05/30 01:11發哥顯然不行阿 你看光是去年 對手都出包了 還是有

kkkkk9 05/30 01:12ai+vr宏達電要飛了

mooto 05/30 01:12一堆陸廠把它當小的 像發哥這樣的公司 或者說是台灣

mooto 05/30 01:13公司 狼性都不夠 只能穩扎穩打直到對方覺得沒賺頭

mooto 05/30 01:13自己退出 才拿的下市場 就勞碌命

※ 編輯: mooto (218.161.53.112 臺灣), 05/30/2023 01:14:37

TaiwanUp 05/30 01:20其實改成英語系國家就會好很多 可惜這

TaiwanUp 05/30 01:24同時要捨棄更多我們原本熟悉的事物 可能剩下麻花捲

snd 05/30 01:41業務型CEO就是創業過來的人阿

yoshilin 05/30 01:48chatBot根本文創業

Heedictator 05/30 01:57中文就是一坨大便

kumabartho 05/30 05:19因為二代都是學商管啊

Armag 05/30 07:04講的好像業務出身的就懂技術?我不是歧視文組,高

Armag 05/30 07:04階主管的價值本來就必須跨足多領域,理工生跨業務

Armag 05/30 07:04、財務比較簡單還是管理跨理工比較容易不用多說大

Armag 05/30 07:04家自有一把尺衡量

tctv2002 05/30 07:50先有技術才有資格談業務好嗎 你什麼都不懂問題在哪

tctv2002 05/30 07:50 憑什麼讓客戶相信你

s800525 05/30 08:20INTEL G叔也是技術出身,還不是很嘴XD

s800525 05/30 08:22科技業技術就是底,就連庫克也是工業工程出身的

faniour 05/30 08:22庫克(冷笑

CORYCHAN 05/30 08:44老黃是創辦人

zhi5566 05/30 09:21i社也很會吹啊 吹到把股東套死死 嘻嘻

Mtcat 05/30 09:2611

Severine 05/30 09:51Pat:Intel 4要出啦!要上車的趕快上阿

aegis43210 05/30 10:11Q4再上車,現在能買的公司漲完才會輪到i皇