Re: [請益] 這波AI產業是牛市最久的一次嗎

LDPC 發表於 2024/10/21 上午1:58:00

看板Stock標題Re: [請益] 這波AI產業是牛市最久的一次嗎作者

(Channel Coding)時間Oct 21 01:58:00 2024推噓37 推:37 噓:0 →:14

https://reurl.cc/WNmR8D 問阿祖啊這是網路上在傳的
底下有個衛星空照圖 https://ibb.co/y4Ww9s6
2022阿祖在蓋傳統數據中心結果AI起來後為因應AI數據中心 2023五月阿祖直接把
蓋到一半的數據中心拆掉重新蓋一次只為了能更安裝GB200 重新設計散熱和電力
現在就是裁員裁員裁員瘋狂蓋AI基礎建設

除了硬體外還有軟體backend升級你去看現在一堆開缺都是AI Infra Backend缺
裡面要求就是會寫Triton這種 https://triton-lang.org/main/index.html
https://reurl.cc/7d87WD

這玩意就是之前比爾蓋茲說要在軟體上re-engineer 透過這些軟體backend infra
重新設計整個AI在Infra的速度會更有效率更節省電力這也是為啥大家都說
誒為啥AI還不能落地賣錢就是AI大基建需要兩年之後才會有軟體服務
https://triton.csdn.net/66e29f86e2ce0119e0a1ba3b.html
http://www.mfbz.cn/a/342750.html

AI基建就是新的AI數據中心電力優化以及軟體Backend Kernel重新設計
一堆人已經開始在學軟體上後端開發的技能包以延續職業生涯
比方說這是蘇媽的triton
https://rocm.blogs.amd.com/artificial-intelligence/triton/README.html
老黃triton
https://aijishu.com/a/1060000000362271
摘錄裡面案例
---------------------------------------------------------------
案例1：微软 Teams 会议系统使用 Triton 提升生成实时字幕和转录性能
微软 Teams 是全球沟通和协作的重要工具，每月有近 2.5 亿活跃用户，
其 Azure 认知服务提供 28 种语言的字幕和转录，实时字幕功能帮助与会者实时跟踪对话转录功能方便与会者在日后回顾当时的创意或回看未能参与的会议，实时字幕对聋哑人、听力障碍者，或者异国与会者特别有用

底层语音识别技术作为认知服务中的一个 API，开发人员可以使用它定制和运行自己的
应用程序，例如客服电话转录、智能家居控制或为急救人员提供 AI 助手。
认知服务会生成 Teams 的转录和字幕，将语音转换为文本，并识别说话人。
同时也能够识别专业术语、姓名和其他会议背景，提高字幕的准确性。

微软 Teams 首席项目经理 Shalendra Chhabra 表示：“这样的 AI 模型非常复杂，
需要数千万个神经网络参数才能识别几十种不同的语言。但模型越大，
就越难以经济高效地实时运行。”

为了提高服务质量，微软使用 NVIDIA Triton 开源推理服务软件，来帮助 Teams
使用认知服务优化语音识别模型，以及认知服务所支持的高度先进语言模型，
在极低的延迟状态下提供高度准确、个性化的语音转文本结果，
同时可以保证运行这些语音转文本模型的 NVIDIA GPU 充分发挥计算资源，
在消耗更少计算资源的同时为客户提供更高的吞吐量，进而降低成本。
-----------------------------------------------------------------------

這是史上最大一次的基礎建設升級軟體硬體都是以往就業技能樹沒辦法升級成以後
未來技能架構就...QnQ 準備去當電池了 10年前的人就業技能包寫Java/PHP/
現在都在摸這些GPU Kernel 優化...不摸的話就是去當人肉電池 \@n@/

所以怎會拿這波跟啥元宇宙比元宇宙連基礎建設邊都沒摸到這真的是...QQ

※ 引述《torrest (torrest)》之銘言：
: 如題
: 差不多從前年底就開始發酵
: 到現在也差不多兩年了
: 目前看起來還是要再繼續創新高
: 記得從2016開始紅過的
: 光學被動 pcb 航海王元宇宙有的沒的
: 持續時間了不起就是半年一年結束
: 目前為止ai好像還看不到盡頭
: 這波是最長的一次嗎

--

※ PTT留言評論

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)

※ PTT 網址

※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 02:01:57

推

waitrop 10/21 02:00我每天摸GPU Kernel,也是很難找工作,準備當人肉電池

→

waitrop 10/21 02:01現在只有做AI算法跟模型的人,才有身價

推

Chilloutt 10/21 02:02肥宅的價值要浮現惹

推

a0808996 10/21 02:03LDPC大又要數錢了\@n@/ 準備偷渡去加州找你要飯