PTT推薦

[問卦] 可解釋和可信任AI是假議題嗎???

看板Gossiping標題[問卦] 可解釋和可信任AI是假議題嗎???作者
Qoo2222
(Qoo2222)
時間推噓 8 推:9 噓:1 →:5

可解釋和可信任AI已經提了很多年
各大AI論壇都會拿這個當主題
ChatGPT後 這特性又重新被重視

2023年主流的AI 幾乎都是以DL為核心
DL的特性就是沒人知道中間到底發生什麼事

針對因果關係 還有Granger causality test可以驗證
(雖然限制也不少就是)

但是可解釋性 通常就是作文比賽
反正就是想辦法解釋 只要能說服人就算成功
是人文問題 不是科學問題

至於可信任 就更玄了
Deep Learning 本身就很難
(一個99%準確的model 可能改個pixel就將總統辨識成狗)
更不用說很多都是隨機結果的stochastic model
可重複性不是Deep Learning的強項

比較常見就是人為去修改輸出
例如影像辨識避開黑猩猩 就不會出現非裔同胞被辨識成其他靈長類動物
或是拒絕回答一些政治不正確的問題
但這只是頭痛醫頭的作法 無法有系統地執行

可解釋和可信任AI是假議題嗎???

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.162.53.83 (臺灣)
PTT 網址

userpeter 05/16 14:42在八卦板問這個,你認真?

※ 編輯: Qoo2222 (1.162.53.83 臺灣), 05/16/2023 14:43:53

DarkIllusion 05/16 14:44信任 公平 大獎開不停

StylishTrade 05/16 14:45不用解釋阿 你的大腦可以解釋嗎

snow3804 05/16 14:45說中文好嗎

DarkIllusion 05/16 14:46畫出顯著圖能算是可解釋ㄇ?

billchen123 05/16 14:47圖片辨識是要可解釋什麼?舉例太爛

franktpmvu 05/16 14:48這兩個議題是人 或者說資料的問題 不

franktpmvu 05/16 14:48是ai的問題

zaqimon 05/16 14:48人類之間都不可信任了 不然怎麼一堆詐騙

zaqimon 05/16 14:49乾脆訓練AI詐騙說不定還比較快

Hsicen 05/16 14:54人的問題

ruokcnn 05/16 14:54改一個pixel就壞掉代表模型太弱了

ruokcnn 05/16 14:55現在模型robustness沒你想像中弱

soulivee 05/16 15:06是假議題~人比AI更無法解釋更難以信任

soulivee 05/16 15:07寧願給AI自主成長也不要給人在那邊亂搞