Re: [閒聊] AI模型破壞器Nightshade 正式推出

※ 引述《windowhihi (こいしprpr)》之銘言：
: https://i.imgur.com/hPysBFF.png

: https://t.co/knwLJSRrRh
: 用Nightshade處理過的圖,只要被別人拿去餵AI,
: 圖就會把AI裏面的模型破壞掉
: 圖上會有痕跡但聽說不太能看出來

這邊要說明一下，所謂的喂AI指得是在訓練模式下，阿肥稍微看了paper主要是透過微小的相素變化產生的被下毒的圖片影響基石模型中正常圖片的高維空間分佈，所以就可以讓生成模型你跟他說要產生哈士奇圖他給你緬因貓，因為模型產生的高維空間分佈已經被下毒的圖破壞了。

不過這只限於訓練階段，一但fixed住的模型就影響有限，論文的假設就是以後所有的創作者都用這種方法加密圖片來避免自己的圖被餵進去訓練，不過還是有一些辦法像是阿肥想到可以透過動量蒸餾的方式來處理掉有毒相素點，做模型產品前還是會對數據做一些檢測分析可以設計一些污染指標來監控。

所以道高一尺魔高一丈，對抗式生成就是大家互相比拼就有機會建構更好的生態鏈。

--

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.93.229 (臺灣) ※ 編輯: sxy67230 (101.10.93.229 臺灣), 01/22/2024 10:04:51