[閒聊] AI模型破壞器Nightshade 正式推出
https://i.imgur.com/hPysBFF.png
https://t.co/knwLJSRrRh
用Nightshade處理過的圖,只要被別人拿去餵AI,
圖就會把AI裏面的模型破壞掉
圖上會有痕跡但聽說不太能看出來
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 65.181.90.41 (香港)
※ PTT 網址
※ 編輯: windowhihi (65.181.90.41 香港), 01/22/2024 09:36:33
推
什麼時候要出AI模型破壞破壞器
→
AI模型破壞器修復 永動機
推
沒用 這個隨便過一層jpeg encode就沒了
→
下一個 反AI破壞器
推
中子干擾器 反中子干擾器
推
AI的自由與正義要出來了
推
之前glaze吹到飛天 結果超影響圖片而且一下就被繞過了
→
現在的這個連範例都沒有
→
原文說你即使手機翻拍螢幕那個干擾效果都在 只是沒範
→
#1a5Hsnqm (AI_Art) 回顧一下glaze
推
有心人士只要丟進繪圖軟體跑一下去雜訊就破解了，只需
→
幾秒鐘
推
跟馬賽克破壞器差不多
推
這種只能騙騙麻瓜
推
簡單來說 這就像加密技術
→
將色碼進行轉換來防止被偷圖?
→
我看起來感覺跟隱寫術差不多?有大老能說明一下嗎
推
不是 看起來是利用模型訓練抓特徵的方式加入誤導
→
讓訓練出錯達成破壞目的 不過就像上面說的用上千張
→
誤導過後的去抓出特徵後過濾掉就好
推
多一道前處理罷了
推
文組手舞足蹈
→
阿我當作某種雜訊處理掉不就沒事了==
→
有沒有聽過adversarial training 這根本沒用
推
等等就有人訓練AI模型破壞器的破壞器
噓
超沒用 做個Normalization 就能濾掉的東西
推
等AI模型破壞破壞器
推
整個網站連範例圖都沒有
推
你繪師等著被抄就好抵抗個屁
推
？ 供啥
推
查了一下這個就做glaze的團隊做的...
→
那他們的看不太出來可能跟一般人想像有落差
→
夜帷
→
以後ai就得多弄個雜訊處理而己
4
這邊要說明一下，所謂的喂AI指得是在訓練模式下，阿肥稍微看了paper主要是透過微小 的相素變化產生的被下毒的圖片影響基石模型中正常圖片的高維空間分佈，所以就可以讓 生成模型你跟他說要產生哈士奇圖他給你緬因貓，因為模型產生的高維空間分佈已經被下 毒的圖破壞了。 不過這只限於訓練階段，一但fixed住的模型就影響有限，論文的假設就是以後所有的創5
某方面來說我覺得這個可以說是最有效的武器 因為他所造成的機會成本是在科技時代最重要的資源--時間 未來畫師不需要每一張圖都過Nightshade，只要選幾張過就好 對於模型訓練者來說就會迫使他們必須要開發新的模型來偵測這些被Nightshade跑過的圖 而且隨著版本更新各種Nightshade的變體出現會使的偵測更加困難，或至少變的繁瑣
68
[討論] 猫鯨的圖遭剽竊去生成“原創”AI模型繪師貓鯨老師昨晚的推文 有人讓他看到，自己的圖被剽竊拿去餵AI生成”原創”繪圖模型 貓鯨老師說看到後感覺很痛心，拜託停止這種行為 並在下方的推文表示已向網站提出檢舉及下架該模型的請求，希望網站能做事![[討論] 猫鯨的圖遭剽竊去生成“原創”AI模型](https://i.imgur.com/GBtHUvZb.jpg "[討論] 猫鯨的圖遭剽竊去生成“原創”AI模型")
71
Re: [閒聊] AI畫圖是不是大數據拼圖？只要是深度學習AI，原理都是把圖轉換成矩陣，通過神經網路作back propogation學習特 徵，在整個模型的運算過程中只有矩陣，不存在任何圖像拼接的過程 你認為圖很像，是因為那個tag底下的圖大多有類似特徵，模型通過矩陣學習到這個特徵 當然，也有一些generator的算法是會拿部分來源當輸出，不通過矩陣運算的，怎麼選也 是讓模型自己學，類似概念可以參考pointer network或residual network之類的算法![Re: [閒聊] AI畫圖是不是大數據拼圖？](https://i.imgur.com/RWgqfIbb.jpeg "Re: [閒聊] AI畫圖是不是大數據拼圖？")
42
Re: [笑死] 漫畫家反AI 卻被發現違法販售色情同人誌其實是兩回事，建議自己去看一下該記者會團體的主張。 日本著作權法明文規定AI機械學習不受著作權管轄， 今天就算你100%確定有人用自己的圖做了個模型來用也是沒辦法反抗。 芳文社一紙公告可以讓創作者刪文，也有權利提告； 而創作者宣告不準拿自己的圖去餵AI，卻沒有任何實際效力，也告不了。![Re: [笑死] 漫畫家反AI 卻被發現違法販售色情同人誌](https://i.imgur.com/UAbI3ERb.jpeg "Re: [笑死] 漫畫家反AI 卻被發現違法販售色情同人誌")
39
Re: [討論] 更新戰況 猫鯨的圖被盜去生成AI模型更新進度 網站下架貓鯨老師被人盜圖去擅自做的AI模型了 老師的推文表示成功讓網站進行下架了，真心感謝各位的協助與關心 並表示會試著諮詢律師這方面的相關知識![Re: [討論] 更新戰況 猫鯨的圖被盜去生成AI模型](https://i.imgur.com/0tj2nU7b.jpg "Re: [討論] 更新戰況 猫鯨的圖被盜去生成AI模型")
36
[Vtub] 麵包狗:請不要用AI畫圖加上粉絲繪TAG內容如標題所示 至於為何現在才講？ 那可能跟這位有關吧![[Vtub] 麵包狗:請不要用AI畫圖加上粉絲繪TAG](https://i.imgur.com/ZiJuyqFb.jpeg "[Vtub] 麵包狗:請不要用AI畫圖加上粉絲繪TAG")
29
Re: [Vtub] 死神和Kiwawa針對ai 畫圖發推了直接上圖 Calli的很簡單 原PO翻的基本上沒錯 要準確一點翻的話 "我的Art tag僅提供原創作品使用" "因此 我想要求大家不要在AI圖上使用Art tag"![Re: [Vtub] 死神和Kiwawa針對ai 畫圖發推了](https://i.imgur.com/mtuFqiOb.jpg "Re: [Vtub] 死神和Kiwawa針對ai 畫圖發推了")
22
[閒聊] 現在AI模仿的了這種圖嗎?如標題 https: //pbs.twimg.com/media/FdhevkUaIAAlAkA.jpg https ://pbs.twimg.com/media/FdptcOEagAEEuJ3.jpg @OneneChan 這種過度光汙染(?)背景又填滿還全部白色調的圖![[閒聊] 現在AI模仿的了這種圖嗎?](https://pbs.twimg.com/media/FeEYSu9aMAAAYK-.jpg "[閒聊] 現在AI模仿的了這種圖嗎?")
11
Re: [閒聊] AI生成的小模寫實寫真其實這根本不是新東西啊 像之前GAN時代-這個人不存在 就已經達到真人圖生成了 而且現在AI照片放大與修復![Re: [閒聊] AI生成的小模寫實寫真](https://img.technews.tw/wp-content/uploads/2019/02/25112435/43132321-e1551065090324.jpg "Re: [閒聊] AI生成的小模寫實寫真")
4
Re: [支那] 對付AI委託的辦法之前啊 有繪師發表聲明 禁止將他的作品拿去餵AI 就有人笑他食古不化啊 被AI 技術嚇到啊 也有人罵 人可以學別人的圖 憑什麼AI 不行 還有人說![Re: [支那] 對付AI委託的辦法](https://img.youtube.com/vi/6bHOLJbWF4c/mqdefault.jpg "Re: [支那] 對付AI委託的辦法")
3
Re: [閒聊] 推特：防止AI學習繪師作品的方法污染 tag 也沒有用, stable diffusion 的 tag 是用 CLIP ViT-L/14 圖轉文出來的 訓練過程的圖片並不需要帶 tag == 換句話說就是生圖的時候用 Danbooru 上面的 tag 去下不一定有用 因為圖轉文模型對圖片的「理解」並不是那些 tag
66
[閒聊] fate動畫順序53
[討論] 大家打過最高排位的遊戲？49
[閒聊] 披風拖到地上有特別原因嗎![[閒聊] 披風拖到地上有特別原因嗎](https://i.imgur.com/7BMYDkMb.jpg "[閒聊] 披風拖到地上有特別原因嗎")
42
[英國] 金搖桿獎：黑悟空得年度最佳遊戲肯定![[英國] 金搖桿獎：黑悟空得年度最佳遊戲肯定](https://p2.bahamut.com.tw/B/2KU/78/2ed1fae4fa38e9cfe9110a90511s8va5.JPG "[英國] 金搖桿獎：黑悟空得年度最佳遊戲肯定")
43
[24秋] 魔王2099是搞笑作品嗎==![[24秋] 魔王2099是搞笑作品嗎==](https://i.imgur.com/ti3QKs3b.jpeg "[24秋] 魔王2099是搞笑作品嗎==")
74
[閒聊] 很正的單親媽媽真的會很難找對象嗎？![[閒聊] 很正的單親媽媽真的會很難找對象嗎？](https://i.imgur.com/L9EGtdmb.jpeg "[閒聊] 很正的單親媽媽真的會很難找對象嗎？")
40
[閒聊] OPENAI出現前，OPENAI出現後![[閒聊] OPENAI出現前，OPENAI出現後](https://pbs.twimg.com/media/Gc0l8jabsAAAau0.jpg "[閒聊] OPENAI出現前，OPENAI出現後")
37
[妮姬] 朝聖鑄模要開有什麼玄學可以參考?36
[閒聊] 星鐵開大了啊 愛莉![[閒聊] 星鐵開大了啊 愛莉](https://i.imgur.com/WGlwhTzb.jpeg "[閒聊] 星鐵開大了啊 愛莉")
33
Re: [閒聊] 有辦法將綠鬣蜥全部移除掉嗎？36
[閒聊] 台灣異世界轉移![[閒聊] 台灣異世界轉移](https://i.imgur.com/f1WMAICb.jpeg "[閒聊] 台灣異世界轉移")
32
[閒聊] 真三八大爆炸後是怎麼做出起源這麼好玩47
[閒聊] 鐵道3.0劇情應該不會搞砸吧47
[閒聊] 鳴潮跟鐵道今天打對台嗎?28
[閒聊] 敗北女角 溫八賀圖![[閒聊] 敗北女角 溫八賀圖](https://i.imgur.com/q81mTFCb.jpeg "[閒聊] 敗北女角 溫八賀圖")
49
[FGO] 第二部最適合動畫化的是哪一章28
[PTCGP]沒想到 我也有成為歐洲人一天![[PTCGP]沒想到 我也有成為歐洲人一天](https://i.imgur.com/8tQBuy6b.jpeg "[PTCGP]沒想到 我也有成為歐洲人一天")
27
[閒聊] Lawson即將推出 可以喝的美乃滋![[閒聊] Lawson即將推出 可以喝的美乃滋](https://i.imgur.com/lHv8DuYb.jpeg "[閒聊] Lawson即將推出 可以喝的美乃滋")
26
[Vtub] 11/21同接鬥蟲![[Vtub] 11/21同接鬥蟲](https://i.meee.com.tw/VJ4jasN.jpg "[Vtub] 11/21同接鬥蟲")
31
[情報] 經紀公司猛烈回擊 公開與T1談判時間軸![[情報] 經紀公司猛烈回擊 公開與T1談判時間軸](https://i.imgur.com/uqVnXLXb.jpeg "[情報] 經紀公司猛烈回擊 公開與T1談判時間軸")
24
[閒聊] 對泰國的印象？☺![[閒聊] 對泰國的印象？☺](https://i.imgur.com/luRaZ8cb.jpeg "[閒聊] 對泰國的印象？☺")
25
[閒聊] 正要看少女樂團 吶喊吧 需要注意什麼？![[閒聊] 正要看少女樂團 吶喊吧 需要注意什麼？](https://p2.bahamut.com.tw/B/2KU/87/fea9df0f60a00a58a6edf413791rydr5.JPG "[閒聊] 正要看少女樂團 吶喊吧 需要注意什麼？")
24
[閒聊] 寶可夢台灣卡牌暴漲![[閒聊] 寶可夢台灣卡牌暴漲](https://i.imgur.com/OZRUBf1b.jpeg "[閒聊] 寶可夢台灣卡牌暴漲")
23
[妮姬] 太邪惡了!![[妮姬] 太邪惡了!](https://pbs.twimg.com/media/Gc8NS8OXkAAnOOK.jpg "[妮姬] 太邪惡了!")
23
Re: [閒聊] 中華一番 極 168 不可以色色19
[問題] 關羽跟張飛是天生神力嗎？21
[問題] 真三國無雙起源該衝預購還是等猛將傳？![[問題] 真三國無雙起源該衝預購還是等猛將傳？](https://i.imgur.com/abyQe1Vb.png "[問題] 真三國無雙起源該衝預購還是等猛將傳？")
21
[鐵道] 流螢2.7後半復刻![[鐵道] 流螢2.7後半復刻](https://i.imgur.com/FtzuJMbb.jpeg "[鐵道] 流螢2.7後半復刻")
19
Re: [討論] FGO第二部最適合動畫化的是哪一章![Re: [討論] FGO第二部最適合動畫化的是哪一章](https://i.imgur.com/nPSWnTWb.png "Re: [討論] FGO第二部最適合動畫化的是哪一章")
2X
[閒聊] 志棋七七討論電子陽痿![[閒聊] 志棋七七討論電子陽痿](https://img.youtube.com/vi/jKHiRIVFdzQ/mqdefault.jpg "[閒聊] 志棋七七討論電子陽痿")