Re: [問卦] 人工智慧犯錯，通常要告誰呢？

之前研討會好像有討論到，除了使用者以外，公司一定有責任把關所以一定是咎責對象之一，而工程師爭議
比較大，AI不是我們寫規則判斷，而是訓練出來，所以中間有錯很難歸咎是哪個人寫的哪條程式碼，裡面就是黑盒子，所以真的要咎責範圍太大：1. 訓練模型的工程師、2. 資料收

集的工程師、3. 再加上開發模型的作者（通常模型也不是自己開發，而是拿別人/別間單位已經開發的模型、4. 甚至很多使用別人（別家公司）「預訓練」的模組 等等

牽扯太多到可能又無法清楚咎
責，這也是近期AI無法快速應用到醫學、法學、或是生活中的障礙之一。

所以這幾年有很多研究在往xAI, explainableAI走，希望不是完全的看不懂的黑盒子end-to-end，而是中間有些decision making，或是可視化的attention weights，來檢視AI的決策依據是什麼，總之，歸根究底就是現在AI是深度學習-高維向量在底層運作，這種方法

導致的黑盒子現象，要能解釋到可以溯源咎責，只要我們還是用深度學習應該是無解。

※ 引述《saufu08》之銘言
: 是這樣啦！常常都會說未來人工智慧會取代人類現在很多工作。
: 那如果開自動駕駛車，搭載最新人工智慧，如果不小心出車禍了，責任在汽車對吧？
: 如果是取代藥師開藥，或是取代醫師看病、開刀，出錯了，責任也都在電腦對吧？
: 有沒有人工智慧犯錯，通常都要找誰來告求償的八卦啊？
----
Sent from BePTT on my iPhone 6s

--