[問卦] 可解釋和可信任AI是假議題嗎???
可解釋和可信任AI已經提了很多年
各大AI論壇都會拿這個當主題
ChatGPT後 這特性又重新被重視
2023年主流的AI 幾乎都是以DL為核心
DL的特性就是沒人知道中間到底發生什麼事
針對因果關係 還有Granger causality test可以驗證
(雖然限制也不少就是)
但是可解釋性 通常就是作文比賽
反正就是想辦法解釋 只要能說服人就算成功
是人文問題 不是科學問題
至於可信任 就更玄了
Deep Learning 本身就很難
(一個99%準確的model 可能改個pixel就將總統辨識成狗)
更不用說很多都是隨機結果的stochastic model
可重複性不是Deep Learning的強項
比較常見就是人為去修改輸出
例如影像辨識避開黑猩猩 就不會出現非裔同胞被辨識成其他靈長類動物
或是拒絕回答一些政治不正確的問題
但這只是頭痛醫頭的作法 無法有系統地執行
可解釋和可信任AI是假議題嗎???
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.162.53.83 (臺灣)
※ PTT 網址
推
※ 編輯: Qoo2222 (1.162.53.83 臺灣), 05/16/2023 14:43:53
在八卦板問這個，你認真？
推
信任 公平 大獎開不停
推
不用解釋阿 你的大腦可以解釋嗎
→
說中文好嗎
推
畫出顯著圖能算是可解釋ㄇ?
推
圖片辨識是要可解釋什麼？舉例太爛
推
這兩個議題是人 或者說資料的問題 不
→
是ai的問題
推
人類之間都不可信任了 不然怎麼一堆詐騙
→
乾脆訓練AI詐騙說不定還比較快
推
人的問題
噓
改一個pixel就壞掉代表模型太弱了
→
現在模型robustness沒你想像中弱
推
是假議題~人比AI更無法解釋更難以信任
→
寧願給AI自主成長也不要給人在那邊亂搞
37
Re: [請益] 想從零開始轉行當AI軟體工程師這篇應該算是AI勸世文 如果你之前沒有任何工程背景，想要直接轉入AI的話，那真的是建議放棄。 AI發展至今，其實要入手真的非常容易，某種程度上只要知道如何呼叫API (Python為介面)就可以完成很多事情。 我經歷過幾個用deep learning的實際例子，都是要解決既定的工程問題，23
[問卦] Youtube自動字幕的印度口音辨識度超高？4這樣啦 小弟最近在看印度仔的yt程式教學和開箱影片， 發現使用youtube內建的英文自動字幕，辨識度幾乎95%以上。 反觀小弟用google語音助理，念一段英文根本不知道在辨識什麼的 另外，如果是一些口速比較快的英文母語者的新聞節目，辨識度也沒印度仔高21
Re: [請益] 我該找前端工作 或專心學習ai?小弟我自學AI大約三年 雖然本身有碩士學歷 但是基本上跟machine learning完全無關 所以應該還是可以分享一些東西 1.是否要念碩士?19
Re: [討論] AI未來會是工具，還是取代繪師？路過的剛好有在做AI相關的工程師來回看看這標題 就借這篇文回一下 因為蠻認同內文觀點的 先說我自己雖然主要領域是CV 但不是生圖這塊的XD 文中有錯也麻煩指證一下 也一樣先講結論12
Re: [閒聊] 美術系怎麼看待這次Ai繪圖事件?前陣子剛好因為工作需求做了一些AI研究 我之前的工作設計到語音辨識領域，就個人實際測試經驗來說 現階段AI的確在很多部分無法取代人類 現階段無法取代的原因不少，個人覺得主要是兩點 1.演算法有限制11
[問題] 如果要用Deep learning訓練Boss該怎麼做比較實際？ 想像中： 1. 先讓AI跟rule-based AI對戰N場 2. 再讓AI跟高手玩家對戰N場 3. 自己跟自己打N場8
Re: [新聞] ChatGPT答對「美醫生資格考」90％題目！考不到才奇怪吧 醫療本來就是背科跟統計學 加一些推理 筆試的時候電腦比人類強很正常吧 現實又不是隨時都能轉成文字給AI辨識 圖形辨認差到不行![Re: [新聞] ChatGPT答對「美醫生資格考」90％題目！](https://i.imgur.com/GnFw8fpb.jpg "Re: [新聞] ChatGPT答對「美醫生資格考」90％題目！")
Re: [Vtub] 馬來西亞V夏冬夜疑似抄襲白上吹雪SOSxSSS這篇應該只是好玩啦，畢竟以圖搜圖是找出她覺得最接近的結果， 而不是辨識是不是抄襲。 但之前Fusion Model爆夯的時候我有想到過AI製圖的相關劣勢，那就是： AI畫出來的圖，是不是只要被一定程度的粉絲認定是學/抄某角色， 那眾人就很容易相信該圖是AI仿畫出來的結果進而導致炎上？![Re: [Vtub] 馬來西亞V夏冬夜疑似抄襲白上吹雪](https://i.imgur.com/VFmibkgb.jpg "Re: [Vtub] 馬來西亞V夏冬夜疑似抄襲白上吹雪")
爆
[問卦] 誰來蹭冠軍讓你最反感？![[問卦] 誰來蹭冠軍讓你最反感？](https://i.imgur.com/28RabAnb.gif "[問卦] 誰來蹭冠軍讓你最反感？")
爆
[問卦] 日本體育報 頭版![[問卦] 日本體育報 頭版](https://i.imgur.com/DG8fkCPb.jpeg "[問卦] 日本體育報 頭版")
80
[爆卦] 中華男籃對紐西蘭首局僅拿6分![[爆卦] 中華男籃對紐西蘭首局僅拿6分](https://i.imgur.com/tnXitwRb.jpeg "[爆卦] 中華男籃對紐西蘭首局僅拿6分")
51
[問卦] 給你1億台幣但一輩子不能回台灣你ok嗎？64
[問卦] 幹 122張發票都沒中![[問卦] 幹 122張發票都沒中](https://i.imgur.com/1XCqKYYb.jpeg "[問卦] 幹 122張發票都沒中")
爆
[問卦] 財政部雲端發票弊案就這樣定調了？![[問卦] 財政部雲端發票弊案就這樣定調了？](https://i.imgur.com/AVA2Ucob.jpeg "[問卦] 財政部雲端發票弊案就這樣定調了？")
92
[問卦] 高中生衝合歡山遭輾斃 家屬悲喊：要國賠![[問卦] 高中生衝合歡山遭輾斃 家屬悲喊：要國賠](https://i.imgur.com/sUQcYtqb.jpeg "[問卦] 高中生衝合歡山遭輾斃 家屬悲喊：要國賠")
爆
Re: [問卦] 政黑板在生氣什麼？![Re: [問卦] 政黑板在生氣什麼？](https://i.imgur.com/scSdOCbb.jpeg "Re: [問卦] 政黑板在生氣什麼？")
60
[地震] 地震![[地震] 地震](https://i.imgur.com/8thn47mb.png "[地震] 地震")
92
[問卦] 今天發票對獎欸，大家五期待否…爆
[爆卦] 求高調！我們是學生與民眾！正在勞動部![[爆卦] 求高調！我們是學生與民眾！正在勞動部](https://scontent.ftpe7-3.fna.fbcdn.net/v/t15.5256-10/466857769_1326487275175477_3080006969816680695_n.jpg?stp=dst-jpg_s1000x1200&_nc_cat=111&ccb=1-7&_nc_sid=c26028&_nc_ohc=3ZyNta8z38cQ7kNvgGspxEM&_nc_zt=23&_nc_ht=scontent.ftpe7-3.fna&_nc_gid=A8NBVKHA6OECmrzisdOkfCn&oh=00_AYABSoTFp36Q8-TJGm4fKYZj3EPAB2FBqvBhUjk4pDxCSA&oe=67499F7B "[爆卦] 求高調！我們是學生與民眾！正在勞動部")
67
[問卦] 蝦皮從台灣出貨要7~10個工作天??![[問卦] 蝦皮從台灣出貨要7~10個工作天??](https://i.imgur.com/X7jAFC9b.jpg "[問卦] 蝦皮從台灣出貨要7~10個工作天??")
45
[問卦] CT可以改成Chinese Taiwan嗎？![[問卦] CT可以改成Chinese Taiwan嗎？](https://i.imgur.com/7scFEIpb.jpeg "[問卦] CT可以改成Chinese Taiwan嗎？")
40
[問卦] 中國有14億人居然打不進12強![[問卦] 中國有14億人居然打不進12強](https://i.imgur.com/ucrp6ndb.jpeg "[問卦] 中國有14億人居然打不進12強")
29
[問卦] 編程用到遞迴是不是很多人不能接受35
[問卦] 明天鏡週刊新連載 大家覺得有什麼新劇本![[問卦] 明天鏡週刊新連載 大家覺得有什麼新劇本](https://i.imgur.com/4nFFAyeb.jpeg "[問卦] 明天鏡週刊新連載 大家覺得有什麼新劇本")
33
[問卦] 跑去日本人YT留言謝謝日本的啥心態？![[問卦] 跑去日本人YT留言謝謝日本的啥心態？](https://i.imgur.com/q2enMYDb.jpeg "[問卦] 跑去日本人YT留言謝謝日本的啥心態？")
34
[問卦] 蝦皮店到店最近也開太兇？☺![[問卦] 蝦皮店到店最近也開太兇？☺](https://i.imgur.com/GV6rxWVb.jpeg "[問卦] 蝦皮店到店最近也開太兇？☺")
28
[問卦] 發票大獎真的會有人中嗎？![[問卦] 發票大獎真的會有人中嗎？](https://i.imgur.com/Kl6JKplb.jpeg "[問卦] 發票大獎真的會有人中嗎？")
29
Re: [新聞] 「窄縫超車」遭輾斃…13秒駭人畫面曝！2![Re: [新聞] 「窄縫超車」遭輾斃…13秒駭人畫面曝！2](https://i.imgur.com/mreQ4Ozb.jpeg "Re: [新聞] 「窄縫超車」遭輾斃…13秒駭人畫面曝！2")
17
[爆卦] 我們是學生、民眾在勞動部抗議![[爆卦] 我們是學生、民眾在勞動部抗議](https://i.imgur.com/gdCjJA4b.jpg "[爆卦] 我們是學生、民眾在勞動部抗議")
27
[問卦] 三個月後接著打WBC資格賽?![[問卦] 三個月後接著打WBC資格賽?](https://i.imgur.com/oAMc3v1b.png "[問卦] 三個月後接著打WBC資格賽?")
25
[問卦] 沒人發現前陣子林口買房的現在都在被笑！24
[問卦] 中華CT.台灣、叫什麼很重要？73
Re: [新聞] 郭國文喊「辜董加碼獎金到1億」 深夜被19
[問卦] 我中獎了！！！！![[問卦] 我中獎了！！！！](https://i.imgur.com/4XK9yUCb.jpeg "[問卦] 我中獎了！！！！")
20
[問卦] 郭泓志怎麼不當教練 跑去演藝圈爆
[問卦] 辜仲諒嘴台灣打擊三流怎麼沒人出征![[問卦] 辜仲諒嘴台灣打擊三流怎麼沒人出征](https://i.imgur.com/hGGYLWxb.jpeg "[問卦] 辜仲諒嘴台灣打擊三流怎麼沒人出征")
3X
[問卦] 請正名為「台灣隊」好嗎？![[問卦] 請正名為「台灣隊」好嗎？](https://i.imgur.com/3A2vheTb.jpeg "[問卦] 請正名為「台灣隊」好嗎？")
23
[問卦] 中國土豪也砸錢，為什麼中國足球還是爛？
![[問卦] 中華CT.台灣、叫什麼很重要？](https://i.imgur.com/LPaPnF5b.jpg111.71.213.171 "[問卦] 中華CT.台灣、叫什麼很重要？")