[閒聊] AI模型破壞器Nightshade 正式推出
https://i.imgur.com/hPysBFF.png
https://t.co/knwLJSRrRh
用Nightshade處理過的圖,只要被別人拿去餵AI,
圖就會把AI裏面的模型破壞掉
圖上會有痕跡但聽說不太能看出來
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 65.181.90.41 (香港)
※ PTT 網址
※ 編輯: windowhihi (65.181.90.41 香港), 01/22/2024 09:36:33
推
什麼時候要出AI模型破壞破壞器
→
AI模型破壞器修復 永動機
推
沒用 這個隨便過一層jpeg encode就沒了
→
下一個 反AI破壞器
推
中子干擾器 反中子干擾器
推
AI的自由與正義要出來了
推
之前glaze吹到飛天 結果超影響圖片而且一下就被繞過了
→
現在的這個連範例都沒有
→
原文說你即使手機翻拍螢幕那個干擾效果都在 只是沒範
→
#1a5Hsnqm (AI_Art) 回顧一下glaze
推
有心人士只要丟進繪圖軟體跑一下去雜訊就破解了，只需
→
幾秒鐘
推
跟馬賽克破壞器差不多
推
這種只能騙騙麻瓜
推
簡單來說 這就像加密技術
→
將色碼進行轉換來防止被偷圖?
→
我看起來感覺跟隱寫術差不多?有大老能說明一下嗎
推
不是 看起來是利用模型訓練抓特徵的方式加入誤導
→
讓訓練出錯達成破壞目的 不過就像上面說的用上千張
→
誤導過後的去抓出特徵後過濾掉就好
推
多一道前處理罷了
推
文組手舞足蹈
→
阿我當作某種雜訊處理掉不就沒事了==
→
有沒有聽過adversarial training 這根本沒用
推
等等就有人訓練AI模型破壞器的破壞器
噓
超沒用 做個Normalization 就能濾掉的東西
推
等AI模型破壞破壞器
推
整個網站連範例圖都沒有
推
你繪師等著被抄就好抵抗個屁
推
？ 供啥
推
查了一下這個就做glaze的團隊做的...
→
那他們的看不太出來可能跟一般人想像有落差
→
夜帷
→
以後ai就得多弄個雜訊處理而己
4
這邊要說明一下，所謂的喂AI指得是在訓練模式下，阿肥稍微看了paper主要是透過微小 的相素變化產生的被下毒的圖片影響基石模型中正常圖片的高維空間分佈，所以就可以讓 生成模型你跟他說要產生哈士奇圖他給你緬因貓，因為模型產生的高維空間分佈已經被下 毒的圖破壞了。 不過這只限於訓練階段，一但fixed住的模型就影響有限，論文的假設就是以後所有的創5
某方面來說我覺得這個可以說是最有效的武器 因為他所造成的機會成本是在科技時代最重要的資源--時間 未來畫師不需要每一張圖都過Nightshade，只要選幾張過就好 對於模型訓練者來說就會迫使他們必須要開發新的模型來偵測這些被Nightshade跑過的圖 而且隨著版本更新各種Nightshade的變體出現會使的偵測更加困難，或至少變的繁瑣
68
[討論] 猫鯨的圖遭剽竊去生成“原創”AI模型繪師貓鯨老師昨晚的推文 有人讓他看到，自己的圖被剽竊拿去餵AI生成”原創”繪圖模型 貓鯨老師說看到後感覺很痛心，拜託停止這種行為 並在下方的推文表示已向網站提出檢舉及下架該模型的請求，希望網站能做事![[討論] 猫鯨的圖遭剽竊去生成“原創”AI模型](https://i.imgur.com/GBtHUvZb.jpg "[討論] 猫鯨的圖遭剽竊去生成“原創”AI模型")
71
Re: [閒聊] AI畫圖是不是大數據拼圖？只要是深度學習AI，原理都是把圖轉換成矩陣，通過神經網路作back propogation學習特 徵，在整個模型的運算過程中只有矩陣，不存在任何圖像拼接的過程 你認為圖很像，是因為那個tag底下的圖大多有類似特徵，模型通過矩陣學習到這個特徵 當然，也有一些generator的算法是會拿部分來源當輸出，不通過矩陣運算的，怎麼選也 是讓模型自己學，類似概念可以參考pointer network或residual network之類的算法![Re: [閒聊] AI畫圖是不是大數據拼圖？](https://i.imgur.com/RWgqfIbb.jpeg "Re: [閒聊] AI畫圖是不是大數據拼圖？")
42
Re: [笑死] 漫畫家反AI 卻被發現違法販售色情同人誌其實是兩回事，建議自己去看一下該記者會團體的主張。 日本著作權法明文規定AI機械學習不受著作權管轄， 今天就算你100%確定有人用自己的圖做了個模型來用也是沒辦法反抗。 芳文社一紙公告可以讓創作者刪文，也有權利提告； 而創作者宣告不準拿自己的圖去餵AI，卻沒有任何實際效力，也告不了。![Re: [笑死] 漫畫家反AI 卻被發現違法販售色情同人誌](https://i.imgur.com/UAbI3ERb.jpeg "Re: [笑死] 漫畫家反AI 卻被發現違法販售色情同人誌")
39
Re: [討論] 更新戰況 猫鯨的圖被盜去生成AI模型更新進度 網站下架貓鯨老師被人盜圖去擅自做的AI模型了 老師的推文表示成功讓網站進行下架了，真心感謝各位的協助與關心 並表示會試著諮詢律師這方面的相關知識![Re: [討論] 更新戰況 猫鯨的圖被盜去生成AI模型](https://i.imgur.com/0tj2nU7b.jpg "Re: [討論] 更新戰況 猫鯨的圖被盜去生成AI模型")
36
[Vtub] 麵包狗:請不要用AI畫圖加上粉絲繪TAG內容如標題所示 至於為何現在才講？ 那可能跟這位有關吧![[Vtub] 麵包狗:請不要用AI畫圖加上粉絲繪TAG](https://i.imgur.com/ZiJuyqFb.jpeg "[Vtub] 麵包狗:請不要用AI畫圖加上粉絲繪TAG")
29
Re: [Vtub] 死神和Kiwawa針對ai 畫圖發推了直接上圖 Calli的很簡單 原PO翻的基本上沒錯 要準確一點翻的話 "我的Art tag僅提供原創作品使用" "因此 我想要求大家不要在AI圖上使用Art tag"![Re: [Vtub] 死神和Kiwawa針對ai 畫圖發推了](https://i.imgur.com/mtuFqiOb.jpg "Re: [Vtub] 死神和Kiwawa針對ai 畫圖發推了")
22
[閒聊] 現在AI模仿的了這種圖嗎?如標題 https: //pbs.twimg.com/media/FdhevkUaIAAlAkA.jpg https ://pbs.twimg.com/media/FdptcOEagAEEuJ3.jpg @OneneChan 這種過度光汙染(?)背景又填滿還全部白色調的圖![[閒聊] 現在AI模仿的了這種圖嗎?](https://pbs.twimg.com/media/FeEYSu9aMAAAYK-.jpg "[閒聊] 現在AI模仿的了這種圖嗎?")
11
Re: [閒聊] AI生成的小模寫實寫真其實這根本不是新東西啊 像之前GAN時代-這個人不存在 就已經達到真人圖生成了 而且現在AI照片放大與修復![Re: [閒聊] AI生成的小模寫實寫真](https://img.technews.tw/wp-content/uploads/2019/02/25112435/43132321-e1551065090324.jpg "Re: [閒聊] AI生成的小模寫實寫真")
4
Re: [支那] 對付AI委託的辦法之前啊 有繪師發表聲明 禁止將他的作品拿去餵AI 就有人笑他食古不化啊 被AI 技術嚇到啊 也有人罵 人可以學別人的圖 憑什麼AI 不行 還有人說![Re: [支那] 對付AI委託的辦法](https://img.youtube.com/vi/6bHOLJbWF4c/mqdefault.jpg "Re: [支那] 對付AI委託的辦法")
3
Re: [閒聊] 推特：防止AI學習繪師作品的方法污染 tag 也沒有用, stable diffusion 的 tag 是用 CLIP ViT-L/14 圖轉文出來的 訓練過程的圖片並不需要帶 tag == 換句話說就是生圖的時候用 Danbooru 上面的 tag 去下不一定有用 因為圖轉文模型對圖片的「理解」並不是那些 tag
爆
Re: [閒聊] 川普當選會減緩DEI浪潮的狂奔嗎?![Re: [閒聊] 川普當選會減緩DEI浪潮的狂奔嗎?](https://i.imgur.com/y3aRPesb.jpeg "Re: [閒聊] 川普當選會減緩DEI浪潮的狂奔嗎?")
爆
[閒聊] 中國網友發現麥塊64為禁字後被ban![[閒聊] 中國網友發現麥塊64為禁字後被ban](https://pbs.twimg.com/media/GfZiINSa4AAnhdD.jpg "[閒聊] 中國網友發現麥塊64為禁字後被ban")
71
[閒聊] 有沒有電子盆栽型的手遊推薦51
[討論] 170cm 500萬円不算高的條件吧!?![[討論] 170cm 500萬円不算高的條件吧!?](https://i.meee.com.tw/WaRPvTB.png "[討論] 170cm 500萬円不算高的條件吧!?")
25
[閒聊] 死亡筆記:最大受害者家屬是夜神家老媽?![[閒聊] 死亡筆記:最大受害者家屬是夜神家老媽?](https://i.imgur.com/iypIJHLb.jpeg "[閒聊] 死亡筆記:最大受害者家屬是夜神家老媽?")
43
[提名] 洛琪希·米格路迪亞![[提名] 洛琪希·米格路迪亞](https://i.imgur.com/jyHgNgbb.jpeg "[提名] 洛琪希·米格路迪亞")
23
[閒聊] 說到“常識改變”會想到什麼?21
[蔚藍] 那樣的人竟然是風紀委員嗎![[蔚藍] 那樣的人竟然是風紀委員嗎](https://i.imgur.com/TlZugpAb.jpeg "[蔚藍] 那樣的人竟然是風紀委員嗎")
35
[閒聊] mygo 09 曾經的美好時光去哪![[閒聊] mygo 09 曾經的美好時光去哪](https://i.imgur.com/P35CNfib.jpg "[閒聊] mygo 09 曾經的美好時光去哪")
17
Re: [閒聊] 川普當選會減緩DEI浪潮的狂奔嗎?17
Re: [閒聊] 月曜日のたわわ![Re: [閒聊] 月曜日のたわわ](https://pbs.twimg.com/media/GfcG5u4a0AAFFvZ.png "Re: [閒聊] 月曜日のたわわ")
15
[討論] 不死不運 236 不死不運！![[討論] 不死不運 236 不死不運！](https://i.imgur.com/VwT4upib.jpeg "[討論] 不死不運 236 不死不運！")
29
Re: [PTCGP] 1529人參賽出輪32強牌組![Re: [PTCGP] 1529人參賽出輪32強牌組](https://i.imgur.com/KLrlBS9b.jpeg "Re: [PTCGP] 1529人參賽出輪32強牌組")
12
[MyGO] 爽世媽要選女婿會怎麼挑13
[Vtub] 12/22同接鬥蟲![[Vtub] 12/22同接鬥蟲](https://i.meee.com.tw/7V6WsQh.jpg "[Vtub] 12/22同接鬥蟲")
12
[蔚藍] 徵人啟事![[蔚藍] 徵人啟事](https://i.imgur.com/xxeZbPEb.jpeg "[蔚藍] 徵人啟事")
11
[原神] 胡桃要死了還是要列位仙人行列14
[閒聊] 其他大作的譯者為啥沒朱出名![[閒聊] 其他大作的譯者為啥沒朱出名](https://i.imgur.com/dTHRIUhb.jpg "[閒聊] 其他大作的譯者為啥沒朱出名")
6
[問題] #グラブルフェス2024 是什麼IP啊![[問題] #グラブルフェス2024 是什麼IP啊](https://pbs.twimg.com/media/GfXkYjYagAAfAw-.jpg:large "[問題] #グラブルフェス2024 是什麼IP啊")
9
[GBF]十二神將 全員到齊![[GBF]十二神將 全員到齊](https://i.imgur.com/u4TbTZ5b.jpeg "[GBF]十二神將 全員到齊")
11
[黑白妹] 哀..我只是個無能的哥哥![[黑白妹] 哀..我只是個無能的哥哥](https://i.imgur.com/5RwubKIb.jpeg "[黑白妹] 哀..我只是個無能的哥哥")
8
Re: [情報] 米津玄師2025巡迴 實名登記抽選制7
[絕區] 後知後覺，星見雅是萬雌王…![[絕區] 後知後覺，星見雅是萬雌王…](https://i.imgur.com/EgStzgob.jpeg "[絕區] 後知後覺，星見雅是萬雌王…")
5
[閒聊] MyGo是不是讓邦邦古參粉失去自豪本錢![[閒聊] MyGo是不是讓邦邦古參粉失去自豪本錢](https://i.imgur.com/WWujE6Qb.jpg "[閒聊] MyGo是不是讓邦邦古參粉失去自豪本錢")
8
[Vtub] GIGI怎麼那麼黏Fauna？![[Vtub] GIGI怎麼那麼黏Fauna？](https://img.youtube.com/vi/Ef03oRhtqVI/mqdefault.jpg "[Vtub] GIGI怎麼那麼黏Fauna？")
6
[閒聊] 祥子正式進職場會不會被霸凌到哭哭？![[閒聊] 祥子正式進職場會不會被霸凌到哭哭？](https://i.imgur.com/ExOJ6Yib.jpeg "[閒聊] 祥子正式進職場會不會被霸凌到哭哭？")
7
[閒聊] 粉絲自製NS2硬體宣傳影片![[閒聊] 粉絲自製NS2硬體宣傳影片](https://img.youtube.com/vi/D7g9y-_TPSI/mqdefault.jpg "[閒聊] 粉絲自製NS2硬體宣傳影片")
6
Re: [原神] 哇!!胡桃!!![Re: [原神] 哇!!胡桃!!](https://i.imgur.com/ufKTmykb.jpeg "Re: [原神] 哇!!胡桃!!")
6
[原神] 突然想起「神女劈觀」最後兩句歌詞...6
[奶子] 邀請老師的比基尼乃愛![[奶子] 邀請老師的比基尼乃愛](https://pbs.twimg.com/media/GfZ3e_Ha8AAOmgr.jpg "[奶子] 邀請老師的比基尼乃愛")