Re: [新聞] AI藏種族歧視因子 清大跨國團隊揭醫學倫

: https://imgur.com/HMAndDX
: 清大資工系助理教授郭柏志（左）與麻省理工學院、哈佛大學、史丹佛大學、多倫多大學: 等學校跨國合作，分析超過20萬名病患的胸部、頸椎、手部X光及胸部電腦斷層掃描，發: 現人工智慧有「歧視」問題，相關研究成果登上國際頂尖期刊「刺胳針數位健康」（
: Lancet Digital Health）。（清華大學提供）中央社記者郭宣彣傳真 111年6月9日
: 清大資工系助理教授郭柏志與麻省理工學院等校研究發現，採AI深度學習演算法判讀X光: 片及電腦斷層掃描時，會分辨人種，進而影響醫療判斷準確率，被視為人工智慧的種族歧: 視。

來喔 論文原文在這邊
https://www.sciencedirect.com/science/article/pii/S2589750022000632

首先 這個看的是X光 所以跟膚色無關
黑人的比例 6%~72%
裡面也有亞洲人的資料
真的邊緣的才被剔除 (例如印地安人)

有講到可以輕易地從掃描圖像反推出種族
論文有很努力要避免此特性 但是都失敗
包含有意義資訊的影像就能推估出種族

論文似乎沒講到黑人準確率較低
(如有錯請強者更正)

--

去識別是AI的重要目標 大家都不希望看個X光就可以猜出你的祖宗八代

希望沒找錯篇或是理解錯誤 但論文的重點跟新聞差很多 可能新聞以吸睛回目標吧 論文並沒有特別講到歧視 只是強調資料運用要特別小心

如果碰到比較隱私的資料 第一個要件就是去識別 否則也不用談後續的應用了 例如電信公司要運用內部的資料來分析人流 "理論上"就得去識別