PTT推薦 LDPC 過去發表過的文章

hijack這篇 如果50年多三層老華廈 持有二樓 能買下一樓跟三樓 整修自助 可行性多大啊 假設臨沂街這種 室內20多坪 一樓跟三樓 各出3000多萬 買得到嗎 感覺屋主都不會賣耶 QQ ※ 引述《PPPa (3P)》之銘言： : 臺北是全台最優地方無庸置疑

12 

蘇媽AI晶片 2024上看50億美金 這邊陸續一堆公司都有在評估AMD AI晶片 內部就是跑跑大量測試 HuggingFace幾個模型拿來跑跑 來跟老黃A100/H100比較使用感 至於i皇 Gaudi? 從沒聽過=_= 過去這幾年從沒看到有人在要求科學家去試跑i皇的AI晶片

37 

問阿祖啊 這是網路上在傳的 底下有個衛星空照圖 2022阿祖在蓋傳統數據中心 結果AI起來後 為因應AI數據中心 2023五月 阿祖直接把 蓋到一半的數據中心拆掉 重新蓋一次 只為了能更安裝GB200 重新設計散熱和電力 現在就是裁員裁員裁員 瘋狂蓋AI基礎建設

\@n@/ 講個故事 某年我還在洛杉磯米老鼠當幻想工程師時 看上一個優秀阿宅 想找他來米老鼠公司暑假實習 開了一個offer 給他時薪50/hr 然後對方說 蛤 好少歐 同城市的snap 開給我60/hr耶 可以至少6x嗎 臉書還給到65/hr 然後我回去問HR HR冷冷的說 你知道我們一班開給電影動畫相關實習生多少嗎 不會超過 20/hr 通常甚至15/hr 你這個50/hr已經是我們最高能給的 不行再高了

19 

會投資其他國家房地產啊 之前看到仁川那邊滿多中國人在買房 打工定居 比方說這個

台灣有很多大公司值得投資 股東大會還會很貼心的送你公園套組 像是長榮海運送薄毯 開發金送餐墊 永豐金送折疊椅 元大0050 近三年投資報酬率43% 持有0050 等於間接持有50家公司 以價值度角度來說 在名片上寫者 持有50家公司投資者 多麼偉大尊絕不凡 --

18 

週末花點時間看了下 老黃跟高盛那場對談細節 這整篇演講對談就是在展示老黃的遠景和野心 通用計算->加速計算時代 資料數據中心全面翻新企圖 參照文章

 2 

衝者po主花蓮人 偶花蓮海外帕魯 也要努力跟上各位財富自由大大 今年上半年初 嫌NV賺太慢 改變策略 以下是今年改變持股操作 散熱路線 雙宏 奇鋐 上半年吃了一些紅利 高歌離席 QnQ HBM 路線(幾乎團滅)

21 

hijack這篇一下 當老黃說這是iphone moment時候 就閒者無聊找一些不知道有沒有用資訊 但用來觀察果家那個時候的股市狀況 2010年 當時各大公司市值排名大概是 排名 市值

最基本原因就是 當你是技術頂端時 決策者很難量化你的創意 Transformer這故事大家都知道 2018年 作者群甚至希望狗家能考慮大模型的可能性 被上層否決 這個點子後來被OpenAI拿走 摘錄下面幾段 Shazeer 曾向谷歌高管提议放弃原有搜索索引机制，利用 transformer

42 

相關文章可以參考這個 比較有意義的是這邊 前言

 5 

2020年 想家 隨手看了一下花蓮透天 透天100坪 兩千萬 嗯嗯 好貴 看到104有應徵演算法工程師 好像是當地少數的理工缺 剛好工作內容都還行 寫pytorch 開價4萬台幣 想了一下 搞個Gap Year回家陪陪爸媽也不錯 寫信問一下 寄了履歷就沒下文了 QnQ 人生好難 4萬台幣如果應徵上不知道何時才能買得起房子... 看樣子只能等花蓮開台積廠了 成為優秀顧機台人員 @n@/

59 

QQ 那老兄講了一堆重要東西 1. Large Context Window (e.g.,狗家1M Token Length)->記憶體需求 2. agents (LLM agents/LLM 機器人) 3. text-to-action (應該指的是LLM OS)

40 

現在大家都很聰明 都是從別財報往回推 老黃Q2 預估營收是28.4B 我自己想到的方式大概有幾種 1. AI上游各各玩家資本支出 下面資本支出如果轉成單季 那下一季AI支出估算如下 Meta 整年40B-> 一季算10B MS 財報這季支出-> 13.9B

82 

下好離手 QnQ 各位勇敢的韭菜多蛙 在財報前 來猜一下好了 目前檯面上的AI Capital 金錢流動支出 用來觀察這季即將開獎的SMCI/NVDA等等 Meta 整年40B-> 一季算10B MS 財報這季支出-> 13.9B AMZN 去年六個月 30.5 -> 一季算15B

19 

偶知道你想臭AI 但如果你在AI這領域 你會發現到現在科技基礎是指數成長 從scale-up大模型到多模態只有一年!然後去年還有context-length 停留在8K 現在直接暴漲到1M 這玩意是可以塞下一整個百科全書到LLM GPT-4v到GPT-4o語音版 半年 接者講小模型 以前1B~2B LLM根本是垃圾 現在已經能追到接近GPT-3.5模型效能 甚至在下游任務 可以更強項

30 

就參照#1b-vMcos HBM利潤和銷售大概都可以透過美光和海力士財報反推 目前謠傳美光和海力士產量比~1:9 一張H100價錢裏面有多少HBM和CoWOS ( )去年都算過了 剩下就是照比例去反推 每張H100 台積Cowos拿$723 其餘製成拿$155 而HBM成本約$240x5 姑且假設之後B100系列 都是這樣 不負責任簡單算法就是1.5~2:1(HBM:Cowos) 也就是你把美光+海力士財報

 X 

H100打遊戲就是張渣卡 不如送我 我免強吃愧一下 用珍藏已久的GTX-1080 來交換 保證打遊戲不delay! ※ 引述《jis0077 (一個人的輕旅行)》之銘言： : 輝達H100顯卡「訂價139萬」...上架就秒殺！　鄉民震驚

個人居住爽度 最適合台灣居住的地方是 洛杉磯的Glendale 沒有唯一! 治安不差 妹真的正 也很好談戀愛 LA算是少數妹歡迎亞洲男地方 真心不騙QQ 一堆酒吧晚上九點過後 調酒打折 夜生活豐富 走路可達鼎泰豐 85度c 晚上還可以去Burbank打球 一堆球宅很好哈拉交朋友 開車10~15min可達台灣人區Alhambra 吃永和豆漿 也可以去Pasadenar/Arcadina

34 

週末來加值信仰\@n@/ 這是蓋茲幾天前的見解 (註一) 專訪問蓋茲 你認為AI是Bubble嗎 類似網路泡沫嗎 蓋茲基本回答就是 絕對不是 他的回答可以內化好幾塊 基本上指出包含到軟體後端的整合和優化等後續工作 甚至稍微過度臆測延伸 這都意味系統都有可能重新推倒設計(e.g.AI PC/Phone/雲端基建)

30 

借用上篇jerrychuang那個推文 HBM這個產業就是有好幾年光景 只要三星還沒加入 那市場就是兩個玩家 能決定美光的上限就是產能 以及接下來AI手機和AI筆電是否 真為數十B市場 目前普遍來說AI手機和AI筆電 到2026 預計會超過50%以上市場 在2024年底大概才可以看到是不是有AI手機和AI筆電 DRAM需求 畢竟on-device模型 吃的記憶體也不小 這也意味美光還有DRAM給手機和筆電市場

25 

我如果重生回到大一 如果是念成大資工的話 有兩種路線 1.攻略路線1 把妹把到大四 成績找涼課修 晚上去夜市吃吃喝喝和打籃球 騎機車去山上看日出 到處玩耍 大三找專題教授 大四推甄 碩士去台交找mtk保證班 然後工作當社畜 結婚 買房 上批踢踢刷存在感 沒了

47 

韭菜心得是 玩個股其實很花時間 像a08這種天賦異稟的 能看過千種個股真的強 大部分韭菜如我們都是買個股跟工作相關 生活相關 自己熟悉的領域 比方說我買美股除了看財報產業外 我還會去看公司網站職缺數量(HC) Blind找工作討論串 搭配朋友最近工作狀態(比方說我一直知道i皇奧瑞岡那邊離職率超高) 公司內部士氣等等 勉勉強強能湊出一個公司的產業概況 然後就是邊加碼邊跟隨產業走

 7 

有解 玩股就是不要羨慕別人 QnQ 重壓你心中相信的 雖然我都在嘲笑i皇和特.. 看看Michael Burry 從2005蹲倒2008一堆人笑他 但他最後大賺QnQ 雖然大家都在笑8zz 但8zz好像是U Michigan統計系耶 那是統計系前幾大名校耶 再看看老巴 從不買科技股 他就不會羨慕買NV的我們 所以 重倉 相信你的選擇!!!! 然後刪APP 像我已經把永豐app刪掉了!!

22 

這個韓國已經在檢討了 很多新聞正在全面檢討理工潰敗事情 與論已經要求多多學習台灣 裡面最不可思議事情是 韓國理工潰敗最大問題是來 韓國最聰明的人只想當醫生 當我周遭韓國聽到台灣醫生賺的沒理工多 全部驚呆了 而且不用去台積電聯發科 就連瑞昱聯詠這些都能贏醫生時

10 

SK海力士我有買 去年年底到今年五月 有一段根本跟台股走勢一樣 其中01/17 台韓新聞都出現地緣政治警告訊息 (那時機點北韓跟中國都在軍演) 然後台股/SK海力士 外資都狂賣(台股當天歷史第三大賣 ) 台韓兩股市都崩盤 玩過台美韓股之後 心得就是買美股就好..SK海力士去年底買績效慘輸美股前三持倉 買韓股一堆限制 錢又很難轉入 對外國人很不友好

是啊 全世界都是這樣了 UC-Berkeley 這個曾經所有民運思想中心 都砍人文歷史去加碼資工相關 順帶一提 文組會是這波GPT-LLM影響最大 所以哈佛直接教文組去當GPT詠唱師了

 4 

剛好 最近韓國新聞正在全面檢討理工潰敗事情 與論已經要求多多學習台灣 裡面最不可思議事情是 韓國理工潰敗最大問題是來 韓國最聰明的人只想當醫生 當我周遭韓國聽到台灣醫生賺的沒理工多 全部驚呆了 而且不用去台積電聯發科 就連瑞昱聯詠這些都能贏醫生時 所有韓國阿宅投來羨慕眼神 @v@

31 

藉這篇賺p幣 很多推文都講得挺對的 借用這連結做總結 先講股票部分 大網路時代 與其關注Dot-com bubble 可以看一下它的發展大蓋橫跨1997~2010 一開始就是網路基建 到後期擴展到 像是saleforce/google/facebook/amazon/ 等各種應用層面

 6 

提供我知道的幾個資訊 有點過時就是 我PhD同期去SD高通 據他說法果家 很喜歡收高通做晶片相關 當初他面SD果家就是像聊天 就進去了 另外H1B很難抽 我周遭一堆抽到快崩潰了 QnQ (原po現在的狀況就像是抽到SSR卡 然後準備扔掉..) 針對H1B 印象中好像抽到去公司做個一陣子 激活之後辭職可以保留一陣子? 如果是這樣感覺去做個半年(必須超過10/01) 讓之後有H1B當後路?

11 

AI PC/AI Phone都屬於on-device題材 詳情翻閱之前文章 那這玩意跟之前安裝老黃的GPU筆電有啥不同 我個人認知重點在inferece省電這塊 如果有嘗試拿筆電有NV顯卡跑AI玩意 就會發現那東西是吃電怪獸 自己親身經驗跑一個CV inference算法 全開CUDA 拔掉插座後 筆電瞬間關機 因為該算法會強制讓筆電跑200~250w這功率 這玩意是電池無法承受

30 

再次說一遍 千股NVDA 防身防失業防變成電池防小人防渣男 QQ 半導體有所謂的摩爾定律 AI也有 就是所謂的Scaling Law 他基本上給了一個大方向 AI是有三個元素組成 算力 算法 資料 Scaling Law基本定錨模型大小算力和資料相關性 沿者這條路的終點就是AGI 看看AI教父最新的訪談

73 

人類離變成電池之日越來越近了QQ 這邊是一個openai的demo整理 稍微細拆一下上面的demo一些隱藏意義 誠如之前所說的2023 Text-Based GPT4出現後 業界就直接看到戰場要往多模態拚殺 多模態意思就是餵給這些LLM模型從文字理解世界

23 

我也很懷疑特斯拉要怎樣畫出這個robotaxi大餅 身邊搞自駕的現在都是瞄準L2+ 輔助駕駛 只適用長途開車的場景 而自駕計程車有法規 許多安全上問題 更重要的是現階段AI發展路線都只停留在生產工具 還無法做到真正取代人類 自主性自己做決策 而車禍這種安全考量下 你的reliabilty 安全邊際必須無限高才行 現在能真運行的自駕計程車(Waymo/Cruise) 都是在侷限區域

我有紐澤西和加州房 美國房子就是坑! 首先你得花個1.8M (以今年為例)才能買 入門小黑屋 然後你接下來一輩子會陸陸續續噴個10~20萬美金 才能把小黑屋改造成 你喜歡的 然後每年加州房屋稅是買價1.3% 大約會兩三萬美金 就算你不改裝 你還每15年 要噴個兩萬修屋頂 如果下大雨 你家的crawl space又要噴錢修積水 每五年要花四五千塊 除白蟻 每一年要噴一千美金修下水道堵瑟 然後把100A總電流提升到200A

25 

對於老黃GTC到底想幹啥 可以參照底下演講 這演講其實點出很多很重要的關鍵概念 尤其是19:15那邊 你可以把語速調回0.75倍變為正常速度 19:15其實那邊就是layout AI Foundry那個pdf RAG延伸版概念 (註1) 老黃的優點就是他擅長拿別人的好主意整合到自己商業模式 從以前蘇媽HBM到台積代工

28 

HBM是最好看的懂AI題材 之前就在安利了 所有要自己搞晶片的一定會要HBM i皇Falcon Shores 老黃旗下所有HPC產品 蘇媽MI300/MI400 Google TPU Amazon Trainnium2 AVGO 這邊都是 之前看到HBM3有接近10B~20B市場 目前處於老大老二老三都在吃肉 現在手上三大HBM屯股都在漲 QQ

31 

GTC就要開始了 禮拜一早上是最後賭盤下注的時間 忘記哪邊統計過GTC以來 只有一次股票沒漲過 平均股價在GTC期間會漲5% 如果有興趣一些接下來AI落地走向 可以參考此talk 裡面滿多資訊 最主要的takeaway就是老黃已經有商業部門在面向企業部門販賣AI as a Service

58 

股版太多好人了 於是分享接下來自己操作 讓這邊繼續保持良好韭菜交流 但盈虧自負QQ 這邊是AI雲端基建藍圖 可以自己找喜歡標的物 慢慢玩長線 我們現在應該在wave 1 自己投資策略從幾年前 三大重倉持股(AMD/NVDA/TSLA) 在去年九月砍TSLA 加轉NVDA 同時我大概這兩年應該不會再碰TSLA了 去年2H時開始找HBM投資標的

73 

週末有點時間 之前寫的老黃故事 這幾年AI模型突飛猛進的一個關鍵點就是 泛化的能力 簡言之 2018以前 AI模型 都是透過數據 去學習資料上的標註資料 來做人類事先規範好的目的 而機器透過這些標注數據 去達到人類要求的事情 當模型遇到一個沒看過的數據 或者場景變得不同 模型就會失效 甚至無法處理

講一些自身經驗好了 自從AI領域在生成式題材大火後 全世界就進入到AI軍備競賽 所有的AI基礎研究都是以週甚至日為單位在迭代 舉個例子 當年Robert G. Gallager 在1960提出類神經網路的LDPC code到2004年才大放異彩 無限接近shannon bound 光這個演進就花了40年 對照這幾年的AI科技樹發展 根本就是指數在成長

11 

關於AI雲基建保底有兩年光景的願景 大家有興趣可以研讀一下這份報告 比較有趣的點就是基建裡的Optical Circuit Switch + Co-Packaged Optics 利劍指向狗家雲端基礎設施 順便跪求推薦台股供應鏈 QQ 原文提到了

51 

這兩年就是AI雲端基建年 玩家就是NVDA/AMD 至於那個i皇歐 不好說QQ 如果用internet大時代來講 等基建完畢之後 就會有Software As Service (SaaS) 這類類似saleforce興起 目前看到的玩家就是Databrick 建議可以等這家上市ipo 買爆他 基建完之後 就會慢慢走向AI as Service (AIaaS) 軟體業 我有點懷疑老黃想吃AIaaS這塊應用市場 在AI界 刷演算法的除了G/MS/OpenAI/Meta等

19 

很久以前買房出清過一次nvda 目前手上最低的存股價錢是50上下 最高是早上的6xx 還記得當初覺得等到NVDA 1000時候 我就要換去可以躺平的工作了過準退休生活 老黃這次會不會崩 我不知道 但是目前就是光是Training的市場需求還沒填完 每個國家 這一年都在發展自己的演算法 像是法國這陣子刷了不少大模型 阿聯酋那邊也是 OpenAI推的Sora也是需要大型運算 我還記得以前在迪士尼時候 迪士尼皮克斯實驗室

不知道為捨抹會講到邊緣運算啦QQ 不過老黃這波佈局就是替兩三年後落地場景客製化晶片 一般落地場景Inference(AI推理)的工程順序如下 拿一個PreTrain萬用大模型 用特殊資料FineTune 然後Deploy (Inference) 以LLaMA 7B模型為例 假設我今天要做一個醫療問診小幫手的AI 當我用一堆醫療資料 FineTune這個LLaMA 65B模型後達到我需求 (到此為此都會在Cuda生態圈做)

24 

借用這個標題吧 很久以前 我忘記是在哪篇看到的老美的如何推薦推介買老黃股票的原因 其中有一個點是 NVDA是殺手 擅長幹掉無數公司(e.g. 3dfx,ati) 然後這週末個小道消息 老黃瞄準30B市場打算做客製化晶片佈局....也就是要跟AVGO搶市場了 這也是可能為以後瞄準Inference的可能市場一個佈局了 --

 9 

現在還來得及 快上HBM的車 且HBM利潤很高 此篇底下有人分享哪家卷商可以買韓股 QQ 主要是高速頻寬記憶體是現在AI架構裡面很重要的一塊 自從多模塊大模型開始後

週末閒聊 Morgan Stanley的頂級股票分析師 也是Global Investment的主席Mike Wilson 兩天前被下台了 此老兄是空軍的最大支持者 壓垮最後一根稻草 可能是此老兄去年11月説2024大概股市只有2%成長動能 然後上週....恩嗯嗯QQ 連我多軍都有點怕 雖說此老兄從2018就是空軍元帥 繼續觀察其他華西街其他機構消息 --

33 

i皇之前有個想要對標MI300設計Supercomputer chip XPU(HPC) 代號是Falcon Shores 現在已經基本確認今年端出來的就是個GPU設計 如同一年前新聞提到的 i皇在HPC落後 AMD大概有三年 ( ) 在2023年3月 i皇可能沒意識到HPC淺在市場會有多大 i皇當初藍圖是2026 或者更晚才會推出自家HPC方案 i皇說大部分企業不需要用到HPC這種架構

18 

不太一樣啊 首先自駕的車子吃電池先天上就決定算力有個上限在 而自駕容錯率又低 落地場景難度相對高 現在生成式AI算力無限往上疊 在雲端上跑沒有電池綁手綁腳限制 而且可以搞出一堆花樣來 才不是啥鬼泡沫玩意QQ 有小道傳言說 祖柏克現在搞AI是覺這玩意可以幫助他的原宇宙 因為他覺得他元宇宙NPC都可以叫AI來當 Meta最近很狂 都喊出AGI口號了

HBM就是金礦 尤其現在部分研究有走向拉長Input Sequence和Embedding Vector Length 我好幾次train模型 記憶體都不夠用 還得搞gradient accumulation這種手法 在Multimodal開啟後 資料數據都是幾10T的Train 記憶體很容易被操爆 且部分研究顯示 多模態數據拉到60T以上後 胡言亂語症狀都會減低 然後HBM3e領先就是海力士 海力士不可能只有20% HBM現在就三大玩家 而韓廠就吃掉90%

 1 

有啊 當年有個成大電機的何國源就嗆過老黃 然後...QQ 那個Linus也嗆老黃 QQ 還比中指 然後最後當年Intel也嗆過老黃 老黃就回了一句 我們家法務部門也不是吃素的 來吧 然後Intel就付了15億美金....請求和解 ※ 引述《vinsmokesanj (廢文奇賞甲上上)》之銘言：

35 

有沒有人在玩韓股啊 自從HBM明顯是AI半導體金礦後 就開始瘋狂囤SK Hynix 參照 去年12月底 新聞有顯示一堆外資撤出中國 大量資金流入韓國瘋狂買SK和三星 然而南北韓情況交惡下後 最近這三週 韓股跟台股一樣 瘋狂韓幣貶值 同時股價狂跌

路人肥宅路過 以一個50萬美金買不起矽谷的房子 在我周遭我還真沒看過 50萬美金一年扣稅下來至少有30多萬美金 租房+食衣住行大概就差不多一個月一萬美金 那一年至少可以存接近15~20萬美金 兩年後就有足夠首付 灣區入門SFH 1.5M都買得起 更別說你弟大約72~73年次 50萬美金已經是Google L5 Band 頂部族群 以72~73年次 能拿到在L5頂 還真的絕對算是少數人 如果你弟還買不起房..那你叫其他非FAANG

Intel走到這步 真的自己該檢討一下吧 我還記得我當年走訊號處理 在唸碩士時候 教授給我了一個UWB計畫 還說這是未來主流 是Intel主導balbalabal 那時候整個台灣都被Intel拖去做UWB吧 後來故事大家都知道了 接者碩士畢業後去了2454 那時候成立了一個WiMax部門 也是Intel主導 編織了一個4G未來美夢

 3 

這是最近幾天TSLA那邊AI晶片訊息 現在看來就是NVDA+AMD會繼續有機會在AI晶片市場拉一波 最近另外一個比較紅的新聞是 Mistral AI小公司開發的LLM模型吸引不少人 而Misral AI是用CoreWeave租借算力 開發出來的大模型 這些小公司能靠租算力媲美大公司發展的模型

20 

剛看到WSJ分享一個有趣故事 WSJ因為我沒有買他們 所以有人有可以在幫忙分享 據Reddit的摘錄 說當前天加拿大商人Robert Herjavec 私人飛機抵達多倫多時 邊境海關人員馬上上前問Robert "Where is he!!" 然後Robert回 "Who?"

會有門不當戶不對都是因為有fu糗..fu糗這玩意有時候講講話聊聊天就大概看出來 工作面試通常都會有一些behavior questions就是在找尋人格特質的red flag 不論有多優秀 有些公司(e.g.Netflix,Amazon)只要看到那red flag就是拜拜 下次再說 而以我自己一個小小M1為例 原po那幾話已經是遠超過red flag了 更別說結婚是一輩子事情而不像工作hire錯誤的人還有修正方法 更別說醫生的小孩

85度C 也開始走煎餃模式 增加在美國品牌多樣性 在洛杉磯開了九初流心脆皮煎餃 不過在Yelp上 目前3.6 跟洛杉磯的八方雲集比起 目前3.9

現在謠言已經喊到加入微軟有1000萬美金簽約金 LLM大鼎薪時代超越NBA板凳球員時代來臨了!! 網路上有Ilya相關文章 據傳這世界線的Skynet因此被延後了