Re: [問卦] 為何台灣是AI晶片重要生產地,但是AI軟體模型都沒
※ 引述《b10213044 (重新連線)》之銘言:
: 台灣不是AI晶片的重要生產地嗎?
: 但是為何軟體都沒起色
: 看人看人家歐美,大量的AI軟體公司 模型雨後春筍般冒出
: 台灣呢?
: 能叫得上號的AI軟體公司 只知道有AI LAB 但是產品也只有雅婷逐字稿
: 收費還很高
: chatgpt 3.5免錢
: stable diffusion 也免錢
: midjourney最便宜也只要8USD
: 台灣現在每個企業都在喊要AI,結果啥都沒有
: 連個台灣自己要用的模型都生不出來
: 還號稱科技之島
一般而言,所謂的AI Chip指得是特化過往CPU功能的晶片,過往CPU集成的晶片會強調指令控制跟緩存的功能,但DL/AI模型其實更強調運算元(ALU)所以像NPU、GPU就是特化計算元其他的功能就縮到最小,所謂AI專用晶片本質上就是這樣的一種類CPU特化架構的晶片。因為對於當前所有的DL模型原子化到最小計算就是在做矩陣加減乘除跟線性變換。
不過目前整個設計還是follow國外廠商的需求,所以台灣更像是代工上游廠商。當然啦!怎麼集成這麼大量運算元到一個小板子上也是很重要的know how 。
然後AI軟體上層會更強調資料中心,收集資料、資料清理、標籤處理最後一步才是訓練模型,維護資
料中心往往就是一個前期需要巨大投入但是收益有限的單位,像谷歌、OpenAI、百度等網路巨頭他們2003年就在建構自己的資料中心,還包含數據管理、Mapreduce、資料清理、怎麼建立一
個平行化資料匯出匯入。
有了第一步才是做標籤數據,初期谷歌他們也是靠大量人力在維護數據標籤,也帶動標記人員的管理,像不同人對同一份文本/圖片可能存在複雜多元的標記同時也存在標記錯誤,那要怎樣提高人員標記的品質,一直到後來像矽谷就誕生很多為了承包這些大公司模型的專業標記公司,標記公司為了節省人力也孕育出一套弱標籤系統透過半機器輔助在很多研究上也證明可以提升模型泛化能力。
而像谷歌這些大公司也在努力想怎樣才能有效利用收集到無標的數據,2021年開始就醞釀了自監督的方法(讓模型自己比對相似的無標數據來學習)才誕生出現在的LLM。
這些都是台灣還在做代工的時候像歐美、中國就開始預見到人工智慧浪潮就開始投資的,阿肥我記得2016年那個時候就一直在疾呼資料中心的重要性,像中國那個時候就舉國之力用幾兆在投資做這些基礎建設了,台灣就錯過那個黃金時期,現在也只能以代工晶片安慰自己。
--
台灣老闆比較保守?
台灣就沒這類網路公司 是要建啥
不要說台灣沒有 歐洲也很少
就看看那選舉投票計票方式,台灣本質就是
落後國家....
落後個頭啦,就是選擇制度而已也能掰
內需市場不夠大
其實軟體產業才是最適合跨國拿下外需市場的,可惜台灣就錯過了,曾經其實台灣有很好 的軟體產業需要的基底,但就沒跟上韓中那波轉型。
※ 編輯: sxy67230 (1.162.91.42 臺灣), 01/24/2024 20:13:51你好像很懂 推一下
推
可是台灣就不是玩軟體的 看遊行
看看遊戲產業
2016蔡英文當選 這就是...
19
Re: [討論] AI晶片這我來回答吧 AI晶片一般是指用來加速深度學習模型推理的晶片 如果是訓練通常還是利用Gpu 因為生態系比較成熟 那麼深度學習推理時間會耗在哪裡呢 通常就是convolution 或是Gemm24
[情報] 晶片大神 Jim Keller 加入一家 AI 晶片新晶片大神 Jim Keller 加入一家 AI 晶片新創公司 1 月 6 日 AI 晶片新創公司 Tenstorrent 發新聞稿,宣布任命業界資深人士 Jim Keller 為公司總裁兼首席技術長,以及董事會成員。Jim Keller(見首圖)將帶領 Tenstorrent 解決軟體 2.0 所需要的硬體解決方案,使用機器學習的方法來解決以前由傳統軟體解決的問題。 Tenstorrent 創立於 2016 年,旨在透過新方法和體系結構,推動人工智慧和機器學習發展,滿足對軟體 2.0 時代快速增長的計算需求。 目前公司官網已公布一款高性能 AI 處理器 Grayskull,基於 GlobalFoundry 的 12 奈米製程,包含 120 個客製內核,且僅 65W 即可提供 368TOPS 的 8 位計算。Tenstorrent 稱新架構方法將透過適應模型的確切輸入並緊密整合計算和網路,使處理器能隨著 AI 模型持續增長而擴展。Grayskull 可透過業界首個可動態消除不必要計算的條件執行架構,將深度學習性能提升到新程度。11
Re: [討論] AI晶片現在業界單純說AI晶片是太籠統的說法了, 為了獲得最高效能與最高CP值, 業界把AI晶片細分成以下幾類, 1. Training 訓練: 這是目前業界最難做的部分,X
[情報] 中國團隊推出首顆以TDD方案 AI 設計 CPU中科院計算所的處理器晶片全國重點實驗室及其合作單位, 用AI技術設計出了世界上首個無人工干預、全自動生成的CPU晶片——啟蒙1號。 這顆完全由AI設計的32位RISC-V CPU,相比GPT-4目前所能設計的電路規模大4000倍, 並可運行 Linux 作業系統,且性能堪比Intel 486。
爆
[爆卦] 王義川:節目談監控我就退通告爆
[問卦] D卡大學生怒:國中小被支那語統戰95
[問卦] 過去台灣是不是空轉了8年98
[問卦] 孫安佐他父母真的有錢嗎?92
[問卦] 雲豹能源聽到史上最貴電費 在想什麼爆
[問卦] 我被這個東西咬到了,會死嗎?76
[問卦] 真的有秒殺蟑螂的方法嗎31
[問卦] 被武統會變二等公民嗎?54
[爆卦] 台灣國會暴力事件 世界最多 TAIWAN NO.140
[問卦] Google為什麼只想找學歷好的人?59
[問卦] 狄鶯當你媽媽,要嗎???49
[問卦] 小時候敢做,現在不會做的事情?46
[地震] 地震47
[問卦] 古今中外,哪個邪教最恐怖?12
[問卦] 法律有哪條規定 西裝是正式服裝?42
[問卦] 鄧麗君終生反共 至今仍被對岸紀念?反觀35
[問卦] 超哥比照片中的這些人還有實力吧?32
[問卦] 台灣全球富裕排行第14,各位有感嗎?33
[問卦] 日本的行人也太舒服了吧26
[問卦] 有沒有當完青鳥就確診的掛61
[爆卦] 拜登:以色列願停戰59
[問卦] 影響人生最大的卡通的八卦?21
[問卦] 貧乳妹在女上位時 男方雙手要幹嘛?23
[問卦] 新注音 vsㄅ半 vs 無蝦米?37
[問卦] 國軍為什麼沒教怎麼組步槍?22
[問卦] 有什麼東西看起來省錢實際上反而花錢的?18
[問卦] 個戶賣光電又不太賺,誰賺?15
[問卦] 不生小孩的話,老了誰照顧= =....?18
[問卦] 為什麼中老年人愛亂停車的比例高?21
[問卦] 等等走雪隧去宜蘭走左邊還是右邊車道?