Fw: [新聞] AI藏種族歧視因子 清大跨國團隊揭醫
※ [本文轉錄自 NTHU_Talk 看板 #1YgN4XF3 ]
作者: ryanw ( ) 看板: NTHU_Talk
標題: Re: [新聞] AI藏種族歧視因子 清大跨國團隊揭醫
時間: Wed Jun 15 13:41:48 2022
嗨大家好,我是郭老師的學生也是這個研究團隊的成員之一,這幾天看到不管臉書ptt上都看
到很多人對我們的這個研究有些誤解,所以想藉此來澄清一下,很多人說這只是data的問題,大家有在做ml的應該都知道data很重要,但在現實生活中很難有真正完美balance的dataset,大部分的dataset都是有些缺陷的,正是因為有這些缺陷所以ml領域的很多人才會一直不
斷改良去加強ml model的能力,我們使用的dataset是由MIT所收集的MIMIC-CXR dataset,其
中種族是有病人self-report的,疾病是由醫生去看過X光片後做診斷後得來的,這些過程中都包含了人的因素在其中,有了人的因素就免不了這些data可能存在bias,而目前公開的X光
片資料集的收集大部分都是這個流程,所以我們要做的是找方法讓model在學習時能忽視這些
bias,而不是就說dataset有問題然後就啥都不做。
還有一點我們在paper中使用的字都是bias,我們主要想表達的是”偏差”,並非強調歧視這個意思。
再來就是想簡短的跟大家說明一下這個研究的內容,首先ai 可以分種族完全是個意外發現,
有了這個發現後就聯想到前些日子一篇paper是講述關於shortcut learning( reference放下
面),因為ai在分種族的能力非常的強,我們擔心種族會被ai當成shortcuts來使用,簡單來說就是ai把種族當成判斷疾病的重要依據而不是拿病理特徵來判斷疾病,而有這樣的想法就是因為另一組團隊發現種族間no finding 的false positive rate (aka 有病說成沒病)有bias,所以我們想要讓ai沒辦法從影像中抓到種族的特徵,迫使ai去學習病理的特徵來去縮小
bias。
主要是我的帳號還沒達到八卦版天數要求,所以只能在這裡回,有興趣的可以幫我轉到八卦版讓大家看。
Reference:
發現ai 可以分種族的paper: https://bit.ly/3mKYsLc
MIMIC-CXR: https://arxiv.org/abs/1901.07042
Shortcut learning: https://go.nature.com/3tCXdBo
種族間診斷結果有差異的paper: https://go.nature.com/3HwPnPK
----
Sent from BePTT on my iPhone 13
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.186.21 (臺灣)
※ 文章網址: https://www.ptt.cc/NTHU_Talk/M.1655271713.A.3C3
嗯嗯 跟我想的一樣^_^
講解的很清楚
是說所以某種程度這算不算AI在運用刻板
印象,例如許多黑人運動能力好造成的刻
板印象,後來選運動員乾脆只挑黑人而不
是去測試運動能力
請問你們的positive是指得病嗎?如
果是,那FP應該是沒病說成有病?
好像很厲害 推一下
這些淺薄的東西八卦版不屑知道
原來如此 聽起來簡單的原理 做起來卻很難
前ㄧ陣子看cheap大的納粹影片, 如何
分辨猶太人, 不知道未來會不會有狂人
用AI來種族清洗
嗯嗯跟我想的一樣
46
Fw: [討論] 獨立遊戲Little Devil Inside涉歧視道歉作者: kylefan (柚子) 看板: C_Chat 標題: [討論] 獨立遊戲Little Devil Inside涉歧視道歉 時間: Mon Jun 15 20:29:16 202022
Re: [問題] 求推薦RPG類成人遊戲→ twKuhaku: 看預覽圖...真的太熟了,我不行XDDD 06/15 16:14 推 ePaper: 感覺第二部好多了 06/15 16:23 → Weky: 預覽圖勸退+1 06/15 16:52 → mothertime: 我覺得還好,我好像有加願望清單 06/15 18:22 推 tommy123310: 你們烤肉的時候484焦掉也只說熟了? 06/15 19:0714
Fw: [情報] Remove per Country Cap 法案捲土重來作者: TWLeopardCat (石虎小隊) 看板: Immigration 標題: [情報] Remove per Country Cap 法案捲土重來 時間: Mon Jun 14 10:17:55 2021 S.386/HR1044/HR3648 穢土轉生117會期作戰正式開始 各位好9
[情報] Nike X off-white The 50出來啦網址: Nike X Off-white The 505
Fw: [FGO] 我只示範一次 2.6異聞帶快速通關密技作者: swbthj (swbthj) 看板: C_Chat 標題: [FGO] 我只示範一次 2.6異聞帶快速通關密技 時間: Tue Jun 15 17:52:24 2021 想想2.6敵方的性別分布 其實很容易發現為什麼被派過去的是村正了
爆
[爆卦] 沈伯洋: 三人以上詐欺加重刑度過度處罰爆
[問卦] 青鳥仔:我不是法學背景 但直覺告訴我違憲爆
Re: [問卦] 刺槍無用論?85
[問卦] 重機不能上國道的根本原因是什麼?71
[問卦] 美國警察年薪也太多了吧?76
[爆卦] 副站長已經完成報案51
Re: [問卦] 范琪斐有料嗎??51
[問卦] 孫安佐為什麼不去找工作?58
[問卦] 為什麼數位發展部不搞AI47
[問卦] 女網友:黃仁勳讓我知道男人越老越有魅力45
[問卦] 澳研究:邊緣人易色情成癮 小心A片看太多67
[爆卦] 竹科工程師搞出全台最強公立國中!43
[問卦] 沒人發現台灣公務員根本沒有淘汰制度嗎!38
Re: [問卦] 范琪斐有料嗎??24
[問卦] 中國男子足球為什麼會爛成這樣?25
[問卦] 副站長:有網軍會來亂,不開放留言22
Re: [問卦] 潮州副站長拒絕沒人陪同的身障搭火車對嗎25
[問卦] 真的有人會自己一個人出國玩???69
Re: [新聞] 綠委沈伯洋喊控管幾十萬民眾 郭正亮痛批61
[問卦] 李多慧林襄到味全龍後就過氣了?10
Re: [爆卦] 青鳥掛看板要槍殺黃國昌15
Re: [新聞] 5月新生兒1萬1168人今年新高 人口仍連546
[問卦] 大家都怎麼處理鼻子過敏50
[問卦] 如果要打巷戰要怎麼應付中共的機器狗啊?6
[問卦] 真的有人出國旅遊還會拖到11點才退房?19
[問卦] 爸媽幫買房的有多爽20
[問卦] 刺槍無用論?13
[問卦] 潮州站長為什麼到現在都沒出來表示?16
[問卦] 孫安佐跟阿扣是不是在打大麻合法仔的臉?16
[問卦] 粽子還可以用什麼葉子包?