[情報] 檢測CSAM的兒童安全算法NeuralHash可能被操縱?蘋果回應:非
【情報來源】
cnBeta/cnBeta
原網址:https://www.cnbeta.com/articles/tech/1168037.htm
(原始未刪減的網址)
【情報內容】
檢測CSAM的兒童安全算法NeuralHash可能被操縱?蘋果回應:非同個版本
2021年08月19日 09:39
開發者通過逆向編譯,發現蘋果用於檢測 iCloud 照片中是否存在兒童性虐待材料
(CSAM) 的 NeuralHash 算法存在漏洞,可能會被黑客利用。開發者 Asuhariet Yvgar 表示,他對隱藏代碼的 iOS 14.3 中的 NeuralHash 算法進行了逆向工程,並用 Python 重新構建了它。
https://i.imgur.com/RTF4Ooi.jpg
經過深入調查研究之後,他發現存在一個衝突可能,即兩個不匹配的圖像共享相同的哈希值的問題。安全研究人員對這種可能性發出了警告,因為潛在的碰撞可能使 CSAM 系統被利用。
在給 Motherboard 的一份聲明中,蘋果表示 Yvgar 逆向工程的 NeuralHash 版本與將用於 CSAM 系統的最終實現不同。 蘋果還表示,它已將該算法公開以供安全研究人員驗證,但還有第二個私有服務器端算法可以在超過閾值後驗證 CSAM 匹配,以及人工驗證。
然而,蘋果在一封電子郵件中告訴 Motherboard, 用戶在 GitHub 上分析的那個版本是一個通用版本,而不是用於 iCloud 照片 CSAM 檢測的最終版本。蘋果表示,它還公開了該算法。
蘋果在一份支持文檔中寫道:「NeuralHash 算法 [...] 作為簽名操作系統代碼的一部
分 [並且] 安全研究人員可以驗證它的行為是否符合描述」。蘋果還表示,在用戶通過
30 個匹配閾值後,運行在蘋果服務器上的第二個非公開算法將檢查結果。
------------
MotherBoard 原文:https://tinyurl.com/32kvfjbm
r/Apple 討論串:https://redd.it/p6zc2f
就目前資訊看來,蘋果應該證實了 Github 那個 NerualHash 模型是真的,
只不過他們聲稱該模型不會是最終 iOS 15 釋出時的最終版本,
同時在整個算法中,NerualHash 只是第一階段,
進到 iCloud 之後還會有第二階段的 Hashing 過程。
因此,即使在第一階段產生大量刻意混淆系統的圖片後,
在第二階段系統將會把這些照片偵測出來,避免了誤報的可能,
另外第二階段的算法目前沒有公開(有可能是 PhotoDNA?)。
蘋果同時聲稱如果兩道防線都被突破,
還有最後一道關卡會做人工審核。
--
--
所以上傳的照片大家一起看
打著隱私的旗號就能無限上綱? TG的N號房事件就是完全沒
有監管惹出來的悲劇
謝謝蘋果幫我檢查照片
樓樓上那也不是用這種方式去侵犯大多數人的隱私好嗎,而
且又不是沒發生過稜鏡計畫,誰不知道他們真的掃了資料,
以後不會拿來幹嘛
蘋果現在就在無限上綱 把所有人都當嫌疑犯
然後還在那說啊資料掃一下又不會怎樣,你是有什麼見不得
人的東西嗎
你喜歡被監控別當別人也喜歡
當初一堆人還在笑雲上貴州,現在所有人都去要貴州了
所以說為什麼因為你的「誤判」最後能「人工」來看我的
照片
求人工審核的心理陰影面積
58
Re: [情報] 蘋果新的照片審查機制原文恕刪 因為覺得兒童色情及用戶隱私是相當重要的議題,但使用者對於其技術的誤解容易造成議 題失焦,所以希望透過這篇回文拋磚引玉吸引更多人的討論,也懇請各位大神對於我說錯 的地方不吝指教QQ。 在討論運作方式前,先來看看幾個技術文件提到的大前提XD14
Re: [情報] 蘋果新的照片審查機制嗨又是我XDD,因為蘋果釋出了一份新的說明文件,正好解釋了一些我上一篇 文章中尚待釐清的問題,所以再寫一篇文與板友分享與討論~ 註:以下內容皆是我個人對於文件的解讀,完整的資訊請參考官方文件,且 如有說錯的地方也請不吝指教!12
[情報] 蘋果iPhone擬偵測兒童色情圖像 引發隱私標題: 蘋果iPhone擬偵測兒童色情圖像 引發隱私保護爭議 內文: 詳情請見新聞內文13
Re: [新聞] 蘋果將偵測兒童色情影像 用戶上傳iCloud用檔案 hash 比對圖片實在太不可靠了,改個 1 bit 資料就可以讓 hash 不同 我覺得蘋果不會做這種智障系統,否則這系統根本沒用 所以去翻了一下相關文件 看起來是用蘋果自己開發的新演算法 NeuralHash1
[軟體] 發現首個針對Apple Silicon M1的惡意軟體文章為 cn 轉 tw 安全研究人員發現首個專門針對Apple Silicon M1的惡意軟體 2021年02月17日 22:59 412次閱讀稿源:cnBeta.COM 獨立安全研究人員Patrick Wardle發現了第一個Apple Silicon M1 Mac原生的惡意軟體。 前美國國家安全局研究員派翠克-沃德爾(Patrick Wardle)最近對蘋果M1處理器的安全性大加讚賞,但即便如此,現在也發現了駭客為其重新編譯惡意軟體的證據。 Wardle發現了GoSearch22.app的存在,它是長期存在的Pirrit病毒的M1原生版本。 這個版本似乎是為了顯示廣告和收集用戶瀏覽器的數據。