Re: [請益] 大家怎麼看這一波AI浪潮

goodman5566 07/17 10:00你可以買INTEL阿

jinhouse123 07/17 10:00你先去研究下訂單的，拿這些NV產品做什麼應用吧。。

strlen 07/17 10:00看了這篇 才曉得無知的恐怖

goodman5566 07/17 10:00ALL IN買在起漲點 ，財富自由

zerro7 07/17 10:01眾人皆醉我獨醒 你可以all in其他公司 沒人攔你

k543k5 07/17 10:01NV是因為設備吧 你有軟體沒有足夠的運算能力還是廢

k543k5 07/17 10:01物啊

k543k5 07/17 10:02你拿軟體跟硬體比 真的有問題欸

stocktonty 07/17 10:03原來就跟初音一樣

materu 07/17 10:04你可以選百度

deepelves 07/17 10:05那你買intel和AMD吧

zuvio 07/17 10:07google搜尋龐大資料是靠硬體還是演算法

zuvio 07/17 10:08如果靠硬體取勝，yahoo最後怎麼輸google

iorittn 07/17 10:08現在算AI就是老黃的卡才夠力啊

iorittn 07/17 10:09你同演算法用ATI只有不到8成的算力

zuvio 07/17 10:09現在只有chatgpt算ai，google還寫不出來

mnxzq 07/17 10:09openai創立初期 nv送了幾塊顯卡給他們==

deepelves 07/17 10:09就說了AI靠蒜粒取勝，硬體不夠力沒辦法

PTTpeter 07/17 10:09AI晶片、AI晶片，沒有晶片，你有演算法有屌用?

mnxzq 07/17 10:09你是不是沒搞懂gpu和伺服器？

chresh 07/17 10:09對，你說的都對，你趕快買

jayppt 07/17 10:10哇哇哇哇哇哇 都7月了還有這種文章

iorittn 07/17 10:10Ati 8成還是高估的

zuvio 07/17 10:10是看最強的AI是誰，硬體是替代品誰都可以

deepelves 07/17 10:10不然美國政府何必限制NV出口中國

deepelves 07/17 10:10如果是靠軟體取勝

jayppt 07/17 10:10好啦 認真講2個事情 1.伺服器不是都一樣的 AI需要的

deepelves 07/17 10:11黃氏定律跟摩爾定律並列重要，不要不信邪

jayppt 07/17 10:11運算量 能最有效做運算的就是GPU 也就是NV AMD的卡

mnxzq 07/17 10:11硬體誰都可以代替 台積電也是誰都可以代替的啦

JuiFu617 07/17 10:11因為要軟體cuda編譯啊

zuvio 07/17 10:11像區塊鏈跟google是一定要NV才能做嗎？

zuvio 07/17 10:11當然不用，硬體這種東西誰做都可以

jayppt 07/17 10:112. AMD vs Nvidia 目前軟體配套 開發原件大家都是

JuiFu617 07/17 10:11賣鏟子還附贈全套使用說明

jayppt 07/17 10:12用Nvidia的 這和微軟OS開發軟體vs 買IBM OS差別一

JuiFu617 07/17 10:12人家還教你如何發揮鏟子效益最大化

jayppt 07/17 10:12樣 你IBM可以喊破喉嚨我電腦也很好 整體大環境大家

jayppt 07/17 10:13不在你上頭開發 AMD現在在這裡

JuiFu617 07/17 10:13你買了別家鏟子不會用，挖的到礦嗎？白做工又費時

mnxzq 07/17 10:13這文一出 緯創就V了

fatb 07/17 10:13不知道為什麼很多人 => 只有你

zuvio 07/17 10:13軟體演算法才是核心，硬體用什麼都可以

JuiFu617 07/17 10:13等到別人都挖到礦，你只能在家拿著鏟子哭

jayppt 07/17 10:14硬體目前也就只有2家合格 其中只有1家軟體配套合格

jayppt 07/17 10:14但 事情其實可以變動的很快 AMD卡效能/價格比 便宜

jayppt 07/17 10:15太多了 而且AMD確實信誓蛋蛋說要做好軟體配套

saygogo 07/17 10:15卻的GPT不是用NVIDIA？你的資訊有沒有怪怪的

bearching 07/17 10:16照你的邏輯說，就是一個是「說不定」，一個是現在

bearching 07/17 10:16稱霸，這個不漲誰要漲？ 等新的強者出來當然就漲新

bearching 07/17 10:16的那個

s942816 07/17 10:16照你的邏輯買pc就好了

snoopy79042807/17 10:17所以有買撼訊嗎 沒有嘛

bearching 07/17 10:18隨便一個伺服器都可以，這概念跟隨便一個電腦都可

bearching 07/17 10:18以跑大型程式一樣，當然可以，一個跑一個小時一個

bearching 07/17 10:18跑整天

kirhan2002 07/17 10:20去作功課再來談好嗎 nv並不是只有硬體

CrowChes 07/17 10:20這篇文章很好 謝謝

qss05 07/17 10:20你還是先搞清楚為什麼要用NV吧…但你說的也沒錯，

qss05 07/17 10:20只是不是現在，現成最讚的就是NV，聽說現在小規模

qss05 07/17 10:20最划算的是MAC，你也可以考慮買瓶蓋股

laject 07/17 10:24樓上正確，最猛的是Mac的新晶片，內存當顯存

RainyCity 07/17 10:24你是電你是光你是唯一的神話

ptt94879452007/17 10:25妳真的很棒

jayppt 07/17 10:25mac 能直接拿來訓練ai模型嗎 好奇 這很有趣

zuvio 07/17 10:26是看最強的AI公司喜歡用誰的硬體

zuvio 07/17 10:26不是有最強的硬體，AI公司一定就想用

jayppt 07/17 10:27m2晶片 我知道可以比擬4070 那用它做opencl訓練ai？

zuvio 07/17 10:27AI就是比google搜尋引擎更高階的演算法

saygogo 07/17 10:27我總覺得,蘋果正在謀劃什麼東西,他媽M2強成這樣,不

saygogo 07/17 10:27可能不搶AI這一大塊肉

jayppt 07/17 10:27第一次聽到這個想法 我要買aapl了嗎XD

zuvio 07/17 10:28可以看成會幫你彙整搜尋資料的搜尋引擎

jayppt 07/17 10:28amd就是用opencl練ai 蘋果m2堪比輝達4070 那 直接

jayppt 07/17 10:28買mac練ai？！ omg

jayppt 07/17 10:29有種腦洞打開了的感覺

stlinman 07/17 10:30大家都會做輪子，為什麼有人造車就跑得特別快?

ckp4131025 07/17 10:30M2性能是真的很強，問題在生態系

AndyMAX 07/17 10:30身兼瓶蓋跟伺服器的公公吃得到肉嗎 不過前提蘋果想

AndyMAX 07/17 10:30搞伺服器

deepelves 07/17 10:314070蒜粒很強嗎==?請去看A100和H100

zuvio 07/17 10:31所以微軟bing才可以融合chatgpt一起用

Enzofulgura 07/17 10:31聽君一席話 如聽一席話

stlinman 07/17 10:31m2晶片 CP值高的AI晶片!

zuvio 07/17 10:31但微軟有一定買NV的硬體來做伺服器嗎

zuvio 07/17 10:31並沒有吧

ckp4131025 07/17 10:32A100一個不知道可以買幾顆M2, M2就消費級的

mnxzq 07/17 10:33你這樣跳針 緯創也不會跌啦

saygogo 07/17 10:34202X年蘋果發表會上,庫客：我在此宣布 AI已迎來的

saygogo 07/17 10:34真正的蘋果時刻

deepelves 07/17 10:34公公有動阿，怒漲0.5元，腳麻了

stlinman 07/17 10:34演算法的競爭力很大一部分來自算力或運算成本(低功

lu19900217 07/17 10:34了解一下CUDA投入的時間點，你不用NV不然用誰的

stlinman 07/17 10:36耗)，目前就NV的競爭力最強。他耕耘AI這塊就久，馬

mnxzq 07/17 10:36nvlink了解下好吧 這東西就是排擠其他廠用的

stlinman 07/17 10:36太效應下初期一定是贏者全拿。

AndyMAX 07/17 10:39蘋果重新定義Ai 瓶蓋噴

k798976869 07/17 10:40谷歌有在台灣印度做TPU惹

leon1757tw 07/17 10:41你有錢有時間有電 AI要用什麼算都行

assa9647 07/17 10:41講的那麼多 單呢

zuvio 07/17 10:41怎麼沒有人覺得siri也算ai

samuelyen 07/17 10:42不靠CUDA的話，GPU加速也有openCL之類的方案，只是

samuelyen 07/17 10:42易用性跟支援度還是比不上CUDA

lu19900217 07/17 10:42NV是草創玩家軟硬體支援最全面，而且投入超過十年，

lu19900217 07/17 10:42其他間你要投入多少資源才趕得上NV這十年的累積?

lu19900217 07/17 10:42這個累積不只NV技術堆積，還有已經養起來的用戶喔

zuvio 07/17 10:43siri帶入chatgpt的ai演算法就變超強AI

jayppt 07/17 10:43我算過了啊 一個A100大概等於不到10張普通顯卡效能

zuvio 07/17 10:44AI重點是軟體演算法，不是硬體

vi000246 07/17 10:44看來你不是內行的 不用出來抬槓了

jayppt 07/17 10:44但一個A100要台幣90萬耶

stlinman 07/17 10:45演算法不用靠硬體去算唷? 靠硬體不用計較運算成本跟

gn00670191 07/17 10:45看這篇文章跟推文浪費了五分鐘

stlinman 07/17 10:45跟算力唷!

mnxzq 07/17 10:45真的一直跳針浪費別人時間

nantai25 07/17 10:46你說啥都是多餘的，股價會證明給你看

YJM1106 07/17 10:46追求到極致的時候 成本差5%就能統一市場

hn013579 07/17 10:46拜託你空

jayppt 07/17 10:48我收回剛價格的推文 a100價格很亂 看不懂

thegame0930507/17 10:50這波就是2000年前夕的翻版

benson01 07/17 10:52建議你去看看AI訓練需要多少硬體資源，再來說硬體

benson01 07/17 10:52不重要吧

ksmeng 07/17 10:56天啊

hn85255413 07/17 10:59AZUR/AWS的GPU instance硬體都是NV好嗎？哪來的cha

hn85255413 07/17 10:59tgpt不用NV訓練

xczh 07/17 10:59推原po獨立思考，但需要補充點產業資訊

strlen 07/17 11:00你各位別再鞭了 股市就是需要這種燃料才會噴好唄

strlen 07/17 11:00就讓他一直跳針硬體不重要沒關係啦 你可以歐硬空NV

sunny401 07/17 11:00軟體是要靠硬體加速的，多和做ic的朋友聊聊

zuvio 07/17 11:01bing也加入chatgpt，有用到NV訓練？

strlen 07/17 11:01沒有 沒人用 趕快空 空完記得PO單 我們支持你

jackwang01 07/17 11:01認真的嗎==

strlen 07/17 11:02NV下月財報肯定大爆死 顯卡庫存高 AI卡沒人用 快空

zuvio 07/17 11:02我不是說沒用到硬體，而是各種硬體都能

benson01 07/17 11:03事實上ChatGPT用到超多GPU

zjnovember 07/17 11:04呃，好喔

jayppt 07/17 11:04nvidia顯卡部分真的很爛 爛透 4開頭的還不如3080ti

zuvio 07/17 11:05AI不是只有NV能做，有搞伺服器的都能

benson01 07/17 11:05你看到的只有前端，在後端訓練就是只能用特定的硬

benson01 07/17 11:05體，一般的CPU會跑到天荒地老

benson01 07/17 11:05你需要多看資料

JuiFu617 07/17 11:05a100這些是特化顯卡，簡稱算卡，專門用來訓練ai的

zuvio 07/17 11:06AI跟區塊鏈跟搜尋引擎都一樣是演算法

lu19900217 07/17 11:06NV的護城河有多寬，要了解AI的論文有多少是基於NV的

lu19900217 07/17 11:06軟硬體去做的，這如同MS在學校就開始養用戶一樣

sonnyc 07/17 11:07用別的硬體訓練到天荒地老 生意還要不要做了

benson01 07/17 11:09假設用一般CPU訓練要幾個禮拜，用GPU只要幾分鐘，

benson01 07/17 11:09請問你要用哪一個？

WHD1445 07/17 11:09可悲文組

jayppt 07/17 11:11特化卡沒到那麼猛的 最強的64浮點運算 特化卡也不到

jayppt 07/17 11:1110倍效能 真實訓練resnet machiine learning 特化

jayppt 07/17 11:12a100大概就nvdia高端30開頭卡的2倍效能多一些 但耗

jayppt 07/17 11:12能減半就是

JuiFu617 07/17 11:13特化卡專門為ai服務還可以用nvlink來實現更高效的

JuiFu617 07/17 11:13併聯計算

sonnyc 07/17 11:13重點nvlink可以串一大串運算卡協同作戰 一般顯卡沒

sonnyc 07/17 11:13辦法

JuiFu617 07/17 11:14現在就是用算卡來串連大力出奇蹟啊

uller 07/17 11:14你這樣很好啊 這樣我就可以安心繼續報著

k85564 07/17 11:15重點是怎麼把數張gpu連接起來

BruceChen22707/17 11:15誰市佔高誰就是老大

k85564 07/17 11:15你說的那些晶片跟nv根本沒關系

k85564 07/17 11:17德儀根本做不同東西 也扯在一起

JuiFu617 07/17 11:17量變產生質變，人家都示範過的路了

k85564 07/17 11:17先前收mellanox

Williamette 07/17 11:18求你別買NV

jayppt 07/17 11:19橫向串聯 其實挖礦時代市售卡就有了 不是特化卡專有

k85564 07/17 11:19這篇連軟硬體都搞不懂吧..

jayppt 07/17 11:20知道為何用gpu嗎 不用cpu？因為machine learning的

ji3g4tj06fu607/17 11:20笑死，你看Google這幾年釋出的平台只能用在哪家硬

ji3g4tj06fu607/17 11:20體上？

jayppt 07/17 11:21運算 一開始就是橫向的運算啊

ronite 07/17 11:23沒關係你可以別買，或者去放空

rqm 07/17 11:24不懂的人還是很多 表示還有很大漲的空間

jayppt 07/17 11:25一張卡一秒例如讀1000張圖片 10張卡1秒1萬張這樣

jayppt 07/17 11:25反正 釐清一個事情就好 ai訓練 machine learning

jayppt 07/17 11:25橫向串聯 全部都不是什麼特化卡專有的東西 就醬bye

kamio 07/17 11:27做AI不買NV的卡一定是抖M

crowley 07/17 11:28你可以先去看一下機器學習的yt再來討論

a79111010 07/17 11:31反正老黃都先賺 以後就是ASIC的事

weiflower52007/17 11:34….好可憐 所有AI絕對是建立在NV的硬體上

iammi21 07/17 11:35空很多嗎？

sonnyc 07/17 11:35gpu串聯現在nvlink+nvswitch速度還是屌打其他人的

bala73 07/17 11:43這波爆發式起漲點在哪 可以回去看一下 是不是某刀

bala73 07/17 11:43客Q1財報開出來嚇死分析師

ravager 07/17 11:52你說得都對，那你還不快去投資非NV陣營的硬體供應商

just206 07/17 11:54讚，見解獨道

DrTech 07/17 11:57但實際上AI根本就是軟體… 。 請教一下Intel 的CPU

DrTech 07/17 11:57有哪個可以訓練，大型語言模型的？

Brioni 07/17 11:58現在是開AI賭場，大家一起玩一把

chenteddy 07/17 11:59你說的都對 CUDA就是個被吹噓的東西

chenteddy 07/17 11:59趕快去買 intel

rahit 07/17 12:06這篇看起來一堆連AI到底是什麼都不懂的在嘴人

rahit 07/17 12:06笑死

Anutmiao 07/17 12:14只懂一點點就開始嘴的才是最無知

Presentation07/17 12:14AI 相關的演算法20幾年前就有了，為什麼做不到？因

Presentation07/17 12:14為硬體跟不上啊

chilldewy 07/17 12:14https://youtu.be/EdTPykGAe0Q 自己看吧

aa6300158 07/17 12:16AI根本就是硬體，硬體不夠強，要訓練個頭。

Presentation07/17 12:18現在AI最強的不是演算法，是大量資料的處理能力，

Presentation07/17 12:18這個你靠演算法改來改去還不如硬體的一次升級

shorty5566 07/17 12:21這篇菜味超重 笑死 我看你連TI跟INTC在做啥都不知

ashrum 07/17 12:29我的簡單認知，CPU講人話，GPU講電腦話，AI要講電

ashrum 07/17 12:29腦話的運算中樞才省電省時

k85564 07/17 12:29先搞清楚類比（TI)跟數位 可以看看最新的那部電影

k85564 07/17 12:29有介紹

heinzblack 07/17 12:30https://i.imgur.com/4dUE2Lq.png

knetlalala 07/17 12:31你不知道，不代表其他人也不知道

k85564 07/17 12:31樓上可以想像成cpu是教， gpu是小學生，ai其實就是

k85564 07/17 12:31處理簡單的事情 ，只是要一次處理上兆個次，所以沒

k85564 07/17 12:31有孰優孰劣，只是應用不同而已

shorty5566 07/17 12:31AI的本質是高速運算 不要出來給別人笑了

shikemurajy 07/17 12:33你去念個研究所，做AI相關題目

shikemurajy 07/17 12:34你就知道為什麼了

shikemurajy 07/17 12:34除非NV有很明顯缺點，不然近五年很難被超越

ashrum 07/17 12:35如果只是要高速運算，那量子電腦才是唯一解，問題

ashrum 07/17 12:35它就不是，AI軟體設計“在GPU”體系下有突破也是原

ashrum 07/17 12:35因

shorty5566 07/17 12:37量子電腦在一般場景根本用不了 還要特定演算法

allen0080 07/17 12:37如果大家的理解都像這樣就好了,我還有便宜NV可以買

orz811017 07/17 12:37類神經網路大概199x就有了，你有沒有想過為什麼要

orz811017 07/17 12:37到201x年才開始大紅大紫

orz811017 07/17 12:37為什麼連Google都要發展自己的TPU而不是用CPU

scott112 07/17 12:37那你還不趕快下空單

shorty5566 07/17 12:38簡單來說NV的模組就是最泛用性的也最好用的

wade00123 07/17 12:38CUDA架構下的效率就是比較好

wade00123 07/17 12:38才會搞到蘇媽直到今天都還沒大單

shorty5566 07/17 12:40拿蘋果來說就是軟硬整合技術力最強 這樣就很好懂

jayppt 07/17 12:40問題就在這 這裡不是台積電vs三星 硬體實力差太多

shorty5566 07/17 12:40所以可以說nv目前是ai界的蘋果

jayppt 07/17 12:41如果 如果啦 護城河是軟體架構的話 那就會怕夠不夠

jayppt 07/17 12:41寬

nimab 07/17 12:41這篇文一堆不懂AI只會炒股的人 好好笑

shorty5566 07/17 12:42拿ti出來說嘴真的太搞笑了 完全搞不清楚狀況

nimab 07/17 12:42只會跟風買 技術卻一點了解都沒有 悲哀啊

dick0209 07/17 12:45蘋果當初也用了三星跟台積電的晶片，誰說硬體沒差的

jayppt 07/17 12:47誰提啥泛用？真的很奇怪 奇怪

jayppt 07/17 12:47cuda之所以強就是只做相關運算啊

hungyichan 07/17 12:47你被割韭菜只是剛好而已

puffycat 07/17 12:47什麼迷失！開源上都是CUDA的code！這事NV累積十幾

puffycat 07/17 12:47年的結果！另外兩家CPU大頭在當年才不管這市場！現

puffycat 07/17 12:47在搞得一家獨大！

orz811017 07/17 12:48現在就是沒錢的小廠乖乖買的NV買公版，大廠如Amazo

orz811017 07/17 12:48n Google燒錢做ASIC客製化，什麼硬體不重要，最後

orz811017 07/17 12:48都是從上層軟體一路戰到底層硬體，不然為啥iPhone

orz811017 07/17 12:48海放Android，不就apple軟硬整合好

rewisyoung 07/17 12:48知道CUDA是什麼嗎？ 不知道難怪沒料

jayppt 07/17 12:49amd用的opencl才是泛用 能用在AI訓練到FPGA都能用

rewisyoung 07/17 12:51A100一個30萬 H100一個120啦

fan5566 07/17 12:52笑死 演算法都多久了

puffycat 07/17 12:55在ChatGPT之前要推他廠的AI方案，第一個被打槍的是

puffycat 07/17 12:55客戶的原有CUDA code怎麼辦？原廠說客戶可以自己轉

puffycat 07/17 12:55！客戶就謝謝再聯絡！繼續買NV的卡！

shawn0205 07/17 12:59https://i.imgur.com/VVy1XfY.jpg

brad850402 07/17 13:39無知不可怕 無知還大聲比較可怕

ninggo 07/17 13:43你可以解釋一樣是沙子為什麼一定要台積電嗎

ray333 07/17 13:51明明車子都可以開，為啥妹只上benz bmw?

john65240 07/17 14:51文組發言總是讓人笑

ckp4131025 07/17 15:32Cuda vs Opencl就是iOS vs Android還有人不懂嗎

ekgs 07/17 17:09標準外行

energyy1104 07/17 19:20你的AI是用冥想運算的嗎