Re: [閒聊] Google Lens證實哈洽馬欄杆檔色圖有用

※ 引述《cocytus39 (阿洛)》之銘言：
: 早上逛Reddit 看到
: 有人用google lens去驗證哈洽馬的監獄欄杆馬賽克法
: 究竟能不能對付google的ai
: https://i.imgur.com/5sqZfCZ.jpg

欄杆其實已經遮擋非常多東西了

其實早在好幾年前就已經有所謂的 adversarial attack 出來了

就是能夠在不影響人判斷圖片的同時 大幅度干擾背後的 Neural Networks 做判斷

一個很簡單的方法就是直接加一個反向的gradient 就算是非常輕微的都可以讓NN阿嘿顏

https://imgur.com/tOEli4t

這個人看起來沒什麼差 可是 NN 就爛了

甚至也有什麼改變一個 pixel 就可以讓 NN 壞掉之類的 基本上已經做到爛掉的

https://imgur.com/1mV51jl

當然圖片越大需要改變的 pixels 就越多

不過通常這種是white box啦 就是你已經知道NN長怎樣之類的

一般情形就像是某個服務的系統 你不知道他背後的model長怎樣 這就是black box

就會比較困難一點 通常可能做一些samples去estimate

攻擊比較簡單 防禦的話就比較困難

當然這種東西也不僅限於 NN 基本上只要是 ML 都可以攻擊

像是什麼 k-NN 也可以攻擊啦 我隔壁實驗室也是台灣人就在做這個防禦的東西

這種東西很多 基本上已經做到爛了

有興趣挑戰祖克柏的話也可以去研究看看

--