Re: [問卦] chatGDP下棋下的贏AlphaGo= =

八卦就是,
台灣沒有新聞報導,
但是圍棋界這星期有個很重要的新聞,
就是一般的人類棋手只要掌握了AI的思考盲點,
也能輕易地打敗AlphaGo等級AI, 15場勝14場.

這也證明目前AI的確還是缺乏創造跟洞察能力.
因為你對人類高手使用同樣的招數,
可能一次都贏不了(因為招式其實有點蠢).
AI贏人類在於既定(訓練的範疇)範圍內利用強大的計算力,
把人類打的無力回天.
超出那個範圍太多,它的能力就急速下滑.

雖然Kellin Pelrine(他只是業餘棋手)打敗的是KataGo,
不是AlphaGo,
但是KataGo在相同機器資源下,
能力被認為超過最終AlphGo版本AlphaGo Zero 40.

以下是相關消息:
https://reurl.cc/zAeLL0
Man beats machine at Go thanks to AI opponent's fatal flaw

https://reurl.cc/rLg22Z
(簡體網頁,不喜誤入)
人類發起絕地反擊，頂級圍棋AI輸了！

佩爾林使用的戰術是緩慢用棋子圍成大“圈”，以包圍對手的若干棋子，同時用棋盤上的
其他角的落子動作分散人工智能的注意力。佩爾林說，直到差不多完成包圍的時候，這個圍棋程序都沒有註意到自己的弱點。

他還說：“人類很容易就會發現這個弱點。”

加利福尼亞大學伯克利分校的計算機教授斯圖爾特·拉塞爾說，在最先進的一些圍棋計算機當中發現弱點，說明支撐當今最先進人工智能的深度學習系統存在根本性缺陷。

他還說，這些系統只能“理解”它們過去接觸過的特定棋勢，無法以人類認為很容易的方
式舉一反三。

拉塞爾說：“這再次表明，如果我們認為機器具有超出人類的智力水平，那還是太草率了。”

https://reurl.cc/4QaOOv
A human has beat an AI in possibly the most complex board game ever

※ 引述《moneybuy ()》之銘言：
: chatGDP跟AlphaGo比賽下圍棋
: 哪個會贏
: AlphaGo贏了世界冠軍李世石幾次但也不敵AI新星chatGDP吧
: 有沒有八卦

--

那是用AI分析AI的可能盲點. 他對上KataGo時並沒有使用電腦. 而且那個弱點對付正常人類棋手一點用都沒有. 這就是目前的AI還是計算力超級強大的特定領域專家系統. 超出範圍太多,就算是同個領域,他也就不專家了.

沒這麼簡單. Training是個高深的學問. 如果這些資料當中有本質上的衝突, 把它們直接攪和在一起可能出現垃圾般的結果. 這也就是為啥麼KataGo的開發者已經知道這個狀況好幾個星期了, 卻還是沒有辦法fine tune一下.

這個跟Bug不一樣.Bug是系統可以做得好, 但是有一些小錯誤導致壞結果. 這個比較像是系統缺陷, 搞不好是ML/DL模型上的根本問題. 不然KataGo開發者早就修好啦. 就是這樣才值得寫成論文發表, 人類如何利用無法對付人類的笨策略來徹底擊敗頂級AI.

Adversarial Policies Beat Superhuman Go AIs 這代表要用AI來替代人類重要領域決策時, 很有可能會遭到致命性的結果.

這裡有對弈過程.