Re: [問卦] 為什麼AI 這2-3年進步這麼神速？

近期AI成果一個很重要的因素是從 ‘‘有限’’解放到‘’無限‘’
有了一定程度的‘‘無限’’作為能力 能做到的事顯然就變得強很多

我們可以稍微回顧一下深度學習AI的發展

2012年Nvidia的GPU被用到圖片分類問題上 其實1970年代就已經有相關技術
但是很吃算力 與其讓電腦慢慢學習特徵 不如人工研究怎麼抓特徵
然後用其他AI方法可以執行更快 準確性更好

這個吃算力但是能自己學習特徵的方法不被看好
過了幾十年的寒冬終於龜出專武GPU
值得開始一連串工程優化來提升這派系方法的能力

這個時候各種監督式學習方法開始蓬勃發展
就是人類給答案 AI直接學推論這些答案
但是這仍然屬於‘’有限‘’領域
雖然現在不用再靠人類定義大量特徵來解決問題
可以用搜集到的資料讓AI自己抓特徵
但是能解決的問題畢竟是要人先訂好答案

2014-2018年 深度強化式學習與對抗式學習 藉著這波深度學習的力量出現了
從‘’有限‘’進步到部分‘‘無限’’
最知名的分別就是圍棋AI與圖片生成AI

圍棋從學人類大師棋譜的監督式學習 逐漸完全靠自我對戰進步
只靠訂好的遊戲規則學習到底要怎麼下才會贏 自己探索套路
透過大量的對戰不斷學習進步(像是經歷了人類數千數萬年不斷對弈）
最終完全不靠人類的圍棋經驗 反而能遠勝人類
這就從有限進步到了無限 具備無限成長潛力

生成對抗學習則是在監督式學習的基礎上
讓AI知道哪些是希望要的 哪些是不要的 這樣的規則
然後AI不斷嘗試提案出各種內容 目標是通過規則的檢定
產生出被認證可以的結果 這些是間接‘’創作‘’出來的內容
AI畫一張圖 不是只有一種結果 AI能畫一堆 通過檢定就行
這就比監督式學習沒有創造力的‘‘有限’’ 推廣到了部分“無限”

顯然這些新技術能處理的問題本身有高度價值 也能拿到經費
大量學界與業界精英全都進來練蠱 自然發展飛快

再更進一步 把上面各種技術全部用上 配上更新更強的算力
透過大量語料庫讓AI學會講話看起來人模人樣
在局部有限下講話能力夠強 再讓AI講話還能上下文‘’串的起來‘’
從有限的講話結果串成無限的內容
而且這些內容是根據人類的偏好串起來的
講得都是人愛聽的（隨便唬爛顯然不會太受喜愛）
ChatGPT誕生

有了與人直接溝通的自然語言介面 整合其他內容又更加方便
能解決的問題又更多更有價值 就是現在的結果了

--