Re: [討論] AI晶片
AI 人工智慧 30年前就有了
以前有部電影 說的就是AI
聰明的霍金也警惕人們
因為AI有可能有仿生的狀況
導致人類走向毀滅
所以我想知道的是
AI晶片是否有自我發展的空間
※ 引述《sheepmanager (AI專家)》之銘言:
: 這我來回答吧
: AI晶片一般是指用來加速深度學習模型推理的晶片
: 如果是訓練通常還是利用Gpu 因為生態系比較成熟
: 那麼深度學習推理時間會耗在哪裡呢
: 通常就是convolution 或是Gemm
: 當然convolution 可以透過線性代數幾次的轉換
: 變成gemm 這也是一門學問
: 所以矩陣相乘等於是最重要的運算了
: 你只要能加速這麼簡單的東西
: 就能號稱你在做AI晶片了
: 不斷的堆硬體上去 性能就出來了
: 甚至有些公司走火入魔
: 連非矩陣運算的指令都做了
: 因為深度學習的模型越來越大
: 所以並行去運算矩陣相乘就是很重要的事了
: 你的硬體並行時 耗電跟降頻做得夠好的話
: 就能有點能見度了 現在中國的新創沒有一家做到的
: 所以就有一些人腦袋動到光計算上面
: 訊號轉成光能計算 算完再轉回電
: 但這非常的不穩定 基本上也是不可能回收成本
: 好了 你說這麼簡單的話 那也很容易啊
: 然而 深度學習在運行過程中 還有一個很大的耗損
: 就是算子與算子之間的資料傳輸
: 用硬體加速過後 每個算子的時間大幅縮短
: 但是彼此之間的memory copy仍然耗損嚴重
: 於是cache或是local memory變的異常重要
: 算子與算子之間的fusion做得好
: 搭配上速度夠快又大的memory基本上也很厲害了
: 中國那一堆新創耗電降頻不行
: 現在就往這方向拼命做
: 那麼AI晶片前景怎麼樣呢
: 老實說 前景是死路一條
: CPU GPU 大公司都在從自家指令來優化模型
: 或是直接配上特殊資料格式 如tf32 fp8
: 華為的c4比起來就是個花拳繡腿 還推行不起來
: 我現在底下50多人就在做未來的方向
: 從模型優化演算法 記憶體策略 框架
: 到底層assembly加速 完整的一套方案
: 如果你有關注一些新的paper
: 優化到最後 對比常用硬體 AI晶片根本沒有優勢
: 就像挖礦沒有收益時的礦機一樣
: 純電子垃圾
: ※ 引述《QQmickey》之銘言
: : 雖然從新聞上看到 三星已經出了 不知道是不是唬爛的
: : 自己也是理工背景 但是想問科技版的大大們
: : 這是真的嗎?
: : 我所學的 覺得不太可能
: : 雖然很多事很難講 已知用火
: : 諾貝爾物理獎也一堆錯的
: : 難道是神學
--
美國真的猛 以前皆把黃人騙去蓋鐵路 挖金山 後來不
好管理容易有民族英雄暴動 後來洗腦養成一堆阿宅工
程師 主動變成黃奴 黃種人被吃死死
到底在供三小==
所謂的AI晶片就是種accelator在那邊說啥仿生自我發
展導致人類走向毀滅 說到底你根本連現在常說的AI是
什麼都不懂 講這種一看就是只會看新聞跟風的發言就
是欠噓
這裡是科技版不是文組幻想版耶
你可以回你原文去編輯
現在連科技板都有連ai都不動的智x?
看你回覆 嗯 看來跟你認真就輸了 你就算真的是理組
講出來的話在這邊看來就是標準的文組幻想式發言是
要討論啥
文組的?
想太多了,起碼現在科技還不會發生
問題在於AI為什麼要毀滅人類,你要先搞清楚目前的
演算法仍然是由人類設計的,如果短期內真的有想毀
滅人類AI出來,那問題是設計那個AI演算法的人類而
不是AI
科幻跟科技是有差別的
從上一篇就寫得亂七八糟 還敢說別人看不懂
以後AI晶片會跟你說 The answer is 42.
19
這我來回答吧 AI晶片一般是指用來加速深度學習模型推理的晶片 如果是訓練通常還是利用Gpu 因為生態系比較成熟 那麼深度學習推理時間會耗在哪裡呢 通常就是convolution 或是Gemm11
現在業界單純說AI晶片是太籠統的說法了, 為了獲得最高效能與最高CP值, 業界把AI晶片細分成以下幾類, 1. Training 訓練: 這是目前業界最難做的部分,11
首Po 雖然從新聞上看到 三星已經出了 不知道是不是唬爛的 自己也是理工背景 但是想問科技版的大大們 這是真的嗎? 我所學的 覺得不太可能 雖然很多事很難講 已知用火5
多嘴插句話,除了Training跟Infer差異外,其實真的要細分還有從硬體、軟體的優化, 從最上層到底層跟硬體的結合才能夠把edge computing提升到產品落地階段。 像是閣下說的自然語言這塊把Transformer從軟體層面做降維優化、新一代更輕量的CNN模型 ,還有既有的半精度FP8這種跟指令集優化,另外這幾年學界比較有研究的從Complier上做 優化通用矩陣乘法。
爆
[討論] 現役能達到AI等級的運球Allen Iverson 的運球一直是吸引很多人看nba的原因 招牌的Crossover 連老喬都會被晃 現役以華麗運球著稱的球員也不少 有誰可以與AI匹敵? 大家來討論看看爆
Re: [閒聊] 繪師是怕畫不過AI還是怕AI會創作?AI繪圖不是一段時間了嗎? 但這次的問題不是AI吧 是你要讓AI畫出同樣畫風的圖,你就必須先上傳該繪師的圖 這就是第一步 盜圖 然後產生同樣畫風,又並非繪師產物的東西後爆
Re: [閒聊] 只剩AI創作的世界為啥感覺好像許多人對繪師抱有惡意,恨不得所有繪師每天無償產圖喂給AI。 嘛其實我覺得這篇就講的很好了,你一有什麼新想法就會馬上被學走,對方還能表現比你 更好,無論對任何創作者來說都會是最大的恐懼。 那恐懼的最後會變成什麼...........就是無能為力跟擺爛。72
[Vtub] 絆愛公司(Kizuna AI inc)聲明[譯] [有關 Kizuna AI 的聲明和請求] 目前,於某些網路媒體和影片內容中,未經我們許可 使用Kizuna AI 的名稱和視覺影像。 並使用可能會破壞 Kizuna AI 世界觀的表達方式,56
Re: [新聞] 日本推出AI仿畫繪圖工具「Mimic」,遭繪你看一下自己打的字, 不會覺得有點怪怪的嗎? 作品被拿去"學習", 跟"剽竊"怎麼能一概而論? 難道現在圖放在網路上就不會有其他繪師來學習了嗎? 難道該繪師當初不是看著別人的畫學上來的嗎? 我覺得現在關鍵在於繪師不想要自己的畫被AI拿去學習40
[閒聊] AI演算到最後真的會得到毀滅人類的選項最近買了巴哈1080P 把當年留著要等高清看的VIVY給看一看 雖然有點忘記部分劇情 不過點下去就回憶起來了 不管是VIVY 全民公敵24
Re: [閒聊] AI打星海爭霸,後來如何?我覺得這部分當然應該是訓練給的APM相關參數有問題 也就是說給AI的APM上限還是太高,導致AI可以靠操作硬幹 我個人的推測是AI對局那個兩百年數據量,不太可能沒有用到不朽 那如果數據裡面有不朽結果還是敢用追獵硬推,而且確實也給他推成功了 那簡單來說就是這種微操無敵的兵種對AI來說太強