PTT推薦

[問卦] AI為什麼要做在顯卡上?

看板Gossiping標題[問卦] AI為什麼要做在顯卡上?作者
BBQ2591
(我叫愛秋)
時間推噓 9 推:9 噓:0 →:33

欸欸 我就覺得奇怪啊

那個做顯示卡的
是和AI有個毛關係啊
顯示卡不就只是
按照CPU的指令
在那個pixel位置
打出CPU告訴它的色階

稍微搜了一下
發現原來是因為
早期顯卡為了減少CPU負載
不需要CPU一直
做枯燥的顯示工作

於是
顯卡自己搞了一個GPU
來專門處理圖形
把CPU架空

這個GPU後來就成了AI雛型
直接在顯卡上處理大量資料

但照理來說處理AI的GPU
未必一定要在顯卡上啊
它也可以搭在記憶體
搭在硬碟上或南北橋
或做成獨立的模組
插在匯流排都可以

為什麼一定要放在顯示卡上
的卦?

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.26.211.69 (臺灣)
PTT 網址

Smallsh 03/27 02:53因為他有錢搞生態

su4vu6 03/27 02:53因為CPU沒人會想一直換阿==

Smallsh 03/27 02:54你有錢也可以把AI處理器搞在肛塞上

angelo98 03/27 02:56你可以設計在風扇上面阿

heavensun 03/27 02:56AI是外掛模組 CPU是綁作業系統

a79111010 03/27 02:59CPU怎麼會沒人想一直換 只是剛好老黃

karta018 03/27 02:59同捆包啊

a79111010 03/27 02:59搞顯卡啊

qwe78971 03/27 02:59沒說一定要在顯卡上 我覺得你只是想發

qwe78971 03/27 02:59廢文 所以我不展開說明 然後CPU執行是

qwe78971 03/27 03:00單一的 不是要架空是不同工作 查資料要

qwe78971 03/27 03:00看完整 文組就是這樣==

cult2 03/27 03:00gpu圖型向量和記憶體都在顯卡上了,順便運

a79111010 03/27 03:00老黃要是有搞CPU還不給你搞到上面去

cult2 03/27 03:00算一下省IO時間

su4vu6 03/27 03:01換CPU很麻煩ㄟ== 顯卡方便多ㄌ

cult2 03/27 03:02所謂的ai就是圖型向量matrix展開收斂"訓練"

cult2 03/27 03:02的過程及結果啊

IhateOGC 03/27 03:03我都用xbox跑ai

WunoW 03/27 03:04笑死推文都答非所問只顧說自己想說的

su4vu6 03/27 03:07論壇不要這麼計較== 本來就沒啥互動性

vbhero 03/27 03:10人家CUDA發展起來,所以AI綁定顯卡

vbhero 03/27 03:11其他廠家發展Ai專用硬體,還是會卡在沒有

vbhero 03/27 03:11CUDA的先進協定

vbhero 03/27 03:13短時間內都是老黃賺走,你都想到可以改做

vbhero 03/27 03:13專用晶片,老黃肯定準備已久,等著擠牙膏

a94037501 03/27 03:23他們家顯卡剛好跑比較快

js850604 03/27 03:47牙膏廠不爭氣被老黃搶先啊

potential208 03/27 03:49搶工作來做就可以提高價格啊

nenohelios 03/27 05:16AI的模型訓練大部分是小型且多的運算

nenohelios 03/27 05:16,譬如說兩數相乘再跟其他兩數相乘的

nenohelios 03/27 05:17結果相加。GPU擁有大量且可應付簡單運

nenohelios 03/27 05:17算的計算單位,用來訓練AI模型可以以

nenohelios 03/27 05:17量取勝。

krousxchen 03/27 06:35記得有人說CUDA沒多好,只是占先機

k798976869 03/27 07:24故意的 迫害遊戲玩家

k798976869 03/27 07:24捆綁銷售一堆用不到的ai功能

k798976869 03/27 07:26明明就用TPU就好 GPU留給玩遊戲的

henrylin8086 03/27 08:20AI就是很大量但是不複雜的張量運算

henrylin8086 03/27 08:20,而顯卡的shader也是為了運算大量

henrylin8086 03/27 08:20的點與面的向量運算而設計的。兩者

henrylin8086 03/27 08:20有一定程度上重疊的需求。