PTT推薦

Re: [請益] 這波AI產業是牛市最久的一次嗎

LDPC 發表於 2024/10/21 上午1:58:00
看板Stock標題Re: [請益] 這波AI產業是牛市最久的一次嗎作者
LDPC
 (Channel Coding)時間推噓37 推:37 噓:0 →:14

https://reurl.cc/WNmR8D 問阿祖啊 這是網路上在傳的
底下有個衛星空照圖 https://ibb.co/y4Ww9s6
2022阿祖在蓋傳統數據中心 結果AI起來後 為因應AI數據中心 2023五月 阿祖直接把
蓋到一半的數據中心拆掉 重新蓋一次 只為了能更安裝GB200 重新設計散熱和電力
現在就是裁員裁員裁員 瘋狂蓋AI基礎建設

除了硬體外還有 軟體backend升級 你去看現在一堆開缺都是AI Infra Backend缺
裡面要求就是會寫Triton這種 https://triton-lang.org/main/index.html
https://reurl.cc/7d87WD

這玩意就是之前比爾蓋茲說要在軟體上re-engineer 透過這些軟體backend infra
重新設計 整個AI在Infra的速度會更有效率 更節省電力 這也是為啥大家都說
誒 為啥AI還不能落地賣錢 就是AI大基建需要兩年 之後才會有軟體服務
https://triton.csdn.net/66e29f86e2ce0119e0a1ba3b.html
http://www.mfbz.cn/a/342750.html

AI基建就是新的AI數據中心 電力優化 以及軟體Backend Kernel重新設計
一堆人已經開始在學軟體上後端開發的技能包 以延續職業生涯
比方說這是蘇媽的triton
https://rocm.blogs.amd.com/artificial-intelligence/triton/README.html
老黃triton
https://aijishu.com/a/1060000000362271
摘錄裡面案例
---------------------------------------------------------------
案例1：微软 Teams 会议系统使用 Triton 提升生成实时字幕和转录性能
微软 Teams 是全球沟通和协作的重要工具，每月有近 2.5 亿活跃用户，
其 Azure 认知服务提供 28 种语言的字幕和转录，实时字幕功能帮助与会者实时跟踪对话转录功能方便与会者在日后回顾当时的创意或回看未能参与的会议，实时字幕对聋哑人、听力障碍者，或者异国与会者特别有用

底层语音识别技术作为认知服务中的一个 API，开发人员可以使用它定制和运行自己的
应用程序，例如客服电话转录、智能家居控制或为急救人员提供 AI 助手。
认知服务会生成 Teams 的转录和字幕，将语音转换为文本，并识别说话人。
同时也能够识别专业术语 、姓名和其他会议背景，提高字幕的准确性。

微软 Teams 首席项目经理 Shalendra Chhabra 表示：“这样的 AI 模型非常复杂，
需要数千万个神经网络参数才能识别几十种不同的语言。但模型越大，
就越难以经济高效地实时运行。”

为了提高服务质量，微软使用 NVIDIA Triton 开源推理服务软件，来帮助 Teams
使用认知服务优化语音识别模型，以及认知服务所支持的高度先进语言模型，
在极低的延迟状态下提供高度准确、个性化的语音转文本结果，
同时可以保证运行这些语音转文本模型的 NVIDIA GPU 充分发挥计算资源，
在消耗更少计算资源的同时为客户提供更高的吞吐量，进而降低成本。
-----------------------------------------------------------------------


這是史上最大一次的基礎建設升級 軟體硬體都是 以往就業技能樹沒辦法升級成以後
未來技能架構 就...QnQ 準備去當電池了 10年前的人就業技能包寫Java/PHP/
現在都在摸這些GPU Kernel 優化...不摸的話就是去當人肉電池 \@n@/

所以怎會拿這波跟啥元宇宙比 元宇宙連基礎建設邊都沒摸到 這真的是...QQ

※ 引述《torrest (torrest)》之銘言：
: 如題
: 差不多從前年底就開始發酵
: 到現在也差不多兩年了
: 目前看起來還是要再繼續創新高
: 記得從2016開始紅過的
: 光學 被動 pcb 航海王 元宇宙 有的沒的
: 持續時間了不起就是半年一年結束
: 目前為止ai好像還看不到盡頭
: 這波是最長的一次嗎

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)
※ PTT 網址
※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 02:01:57
推

waitrop 10/21 02:00我每天摸GPU Kernel,也是很難找工作,準備當人肉電池

→

waitrop 10/21 02:01現在只有做AI算法跟模型的人,才有身價

推

Chilloutt 10/21 02:02肥宅的價值要浮現惹

推

a0808996 10/21 02:03LDPC大 又要數錢了\@n@/ 準備偷渡去加州找你要飯

→

LDPC 10/21 02:04=_= a08我要去龍山寺找你了 被套牢了..\@n@/

推

sdbb 10/21 02:0899nvdl GOOG meta mu avgo

推

cookie1216 10/21 02:08只能抱緊鏟子股了XD

→

sdbb 10/21 02:10難找工作(X)太多挖角(O)

推

karta018 10/21 02:12希望阿祖蓋快一點，這樣他快蓋好的時候新技術又問世

→

karta018 10/21 02:12，他又要重蓋了

→

sdbb 10/21 02:12看捷安特轉型成能源股
推

crossworld 10/21 02:18笑死 看起來跟哏圖迷因一樣

→

budaixi 10/21 02:23https://i.imgur.com/HAE6dWN.jpeg
推

meRscliche 10/21 02:24wow

推

qweaaazzz 10/21 02:30推

推

qwe78971 10/21 03:02大基建兩年太樂觀

推

bd535853 10/21 03:03請問一般的網頁後端現在學什麼活得下去QAQ

→

galoopboy 10/21 04:12樓上：AI

推

four5 10/21 04:13兩年後的老黃：大基建現在才剛剛開始

推

beagle200110/21 04:33再睡兩年就要準備賣了

推

ejnfu10/21 05:21ML infra / distributed storage or processing 應該活的

→

ejnfu10/21 05:21下去

※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 06:07:47
推

lyh0305 10/21 06:29推

推

brovet 10/21 06:32每天寫前端加api的感到難受

推

donkilu 10/21 07:17推L大

推

ppuuppu 10/21 07:48沒有參與到蘋果時代的我，這次絕對要參與輝達時代G

→

ppuuppu 10/21 07:48OGO老黃

推

metallolly 10/21 07:53完了 現在要學什麼 ？我怕連電池都沒辦法當

→

hugh509 10/21 07:55放棄掙扎吧，學股票就贏過9成了，人類終究是當柴燒

推

ggsuperda 10/21 07:58只會C語言484沒救惹QQ

推

joe2 10/21 08:05外送員的地位將會超越各位

推

truelove356 10/21 08:17NV B康 微軟 還要買哪支

推

chobit618 10/21 08:23學如何當個好電池

推

james56733 10/21 08:31無腦跟單教主黃BG穩穩賺 重點是抱不抱得住

推

TIPPK 10/21 09:00995

推

karcher 10/21 09:09GPU Kernel才開始摸有點晚

推

ups 10/21 09:15漲知識推

推

pponywong 10/21 09:15大基建兩年是指MAG7 之後是國家級的AI基建

推

Samurai 10/21 09:25肉眼可見的未來就是AI

→

mit2502 10/21 09:48蓋好GB200架好 rubon又出來了

→

mit2502 10/21 09:48rubin
推

strlen 10/21 09:57不用擔心魯賓 老黃的架構都可以延用 至少不會大改

推

zaqimon 10/21 10:03好險股票的技能永遠只有一個 永遠不需要更新

→

zaqimon 10/21 10:03只要學會買低賣高就行了

推

cosmite 10/21 10:10推分享

推

junior02048610/21 10:30阿祖真的猛

推

tujeni 10/21 10:41推分享

推

zxwxz 10/21 12:55三大雲端供應商都簽約買核電了，這絕對是人類歷史

→

zxwxz 10/21 12:55少有的機遇，AI才剛開始

推

newyorker54 10/21 15:21人類社會翻天覆地的變化，這篇有料

推

dl123 10/21 21:22推 才剛開始
同系列文章
[請益] 這波AI產業是牛市最久的一次嗎
其他人也閱讀了
PTT 熱門相關
Stock最新熱門推薦
🔥🔥🔥