Re: [問卦] 美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,
※ 引述《teeheehee (軟尾拋拋翔(′・ω・`))》之銘言
: 美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,成功騙過AI偵測機器人
: 自《死亡擱淺》上市到疫情爆發以來,遊戲社群都讚揚小島秀夫的發想宛如先知,
: 如今又有一款他的作品成為了現實發生的事,
: 《潛龍諜影》(Metal Gear)的「紙箱潛行」真的有用,只不過不是對人,而是對 AI 人: 工智慧。
阿肥外商碼農阿肥啦!
其實這在機器學習/深度學習領域當前還是一個資安攻防戰的大問哉,尤其是圖像領域其實從攝影機取得的數據,其實如果熟知數位訊號的話,其實對於機器取得的訊號只是256個數值(對應PC的256色彩度)加上一個通道數量的三維數據,歸一化以後可以把數值256變成0到1之間的浮點數,這樣問題就來了,現實世界人眼其實對浮點數差0.001不到的變化是很難察覺的,人眼對於色彩的變化度其實非常不靈敏,對於光流反而比較敏感,甚至可以自我補全合理化物體運動軌跡,這是當前類比數位訊號很難表達出人眼數據結構的問題。
像這種對抗例攻擊(adversarisal example attack)的問題,當前業界學界主要是用一些傳統濾波器幫忙過濾有毒訊號在餵給AI或是調整決策邊界來避免某些特殊訊號被AI放大影響分類決策信心度,像這種紙箱也不是隨便一種紙箱,駭客通常可以用你的模型API來協助他訓練一個更強的對抗模型生成可以騙過你機器的一張圖片,同時這張圖片還要看不出來他是被竄改過素相彩度的圖片,人眼外觀看起來是紙箱但機器一旦辨識就不太識別的出來的那種,這種就有點資安攻防的概念,道高一尺魔高一丈,一旦研究員發現到被攻擊可能會微調模型或是加上濾波器防堵,駭客也還是用這種方式我在來找你的模型漏洞生成圖片無限下去。
我覺得阿肥長年作為研究者其實有很大程度也是發現到真正的原因是因為圖像數據表達格式的問題跟人眼讀取影像的方式差異很大,像自然語言識別因為輸入是文字塊就不太會出現這樣的麻煩,不過文字因為涉及抽象思考概念這部分當前AI很難理解人類大腦背後的世界模型也是需要研究的地方,所以整個領域都還有成長進步的空間啦!
大過年就不講太複雜的東西了,差不多4醬
--
嗯嗯跟我想得一樣
真的是跟我想的都差不多一樣
LiDAR打下去就沒這問題了。
阿肥好棒
29
Re: [問卦] 杜奕瑾:烏俄戰爭駐批踢踢內應的也沒阿肥外商碼農阿肥啦! 剛好阿肥是這塊領域的研究員,大概工作也有六年是在這塊機器人語意理解領域了。 直白來說,現有的不管你要叫AI或是內行一點要叫ML/DL,這塊領域當前最好的SOTA模型 從數學直觀理解都驗證機器對於模式識別是很強的,但是分析永遠不是ML的強項。 也就是說當前不管是BERT還是GPT 3等等等,他們強項就只是找到序列詞組的關聯性,最18
[分享] 特斯拉FSD beta 來比眼力有沒有比AI好這個youtuber將FSD AI看到的畫面結合實際行車畫面 有幾個亮點, 你去觀察對向車道,或是更遠處都可以發現AI都可以清楚知道車子位置在哪 換句話說,FSD用了鏡頭就可以模擬光達的距離偵測了 這個技術已經被特斯拉提出為專利12
Re: [閒聊] 繪師是怕畫不過AI還是怕AI會創作?怒刪,剛好碩班是研究AI領域,以我的角度來看 其實人工智慧這一塊的發展跟人類特徵學息息相關。人類從自我的習性套用到機器上,透 過流程特徵化後編制pipeline讓機器模仿人類的習性。 先說結論,Machine Learning(ML)不可能只靠「單一」一張畫師的畫就可以訓練成一個有 效的模型;相反地它需要透過大量的數據去臨摹某一種畫風。7
[情報] 美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,成功騙過AI偵測機器人 自《死亡擱淺》上市到疫情爆發以來,遊戲社群都讚揚小島秀夫的發想宛如先知, 如今又有一款他的作品成為了現實發生的事, 《潛龍諜影》(Metal Gear)的「紙箱潛行」真的有用,只不過不是對人,而是對 AI 人工智慧。5
Re: [討論] AI晶片多嘴插句話,除了Training跟Infer差異外,其實真的要細分還有從硬體、軟體的優化, 從最上層到底層跟硬體的結合才能夠把edge computing提升到產品落地階段。 像是閣下說的自然語言這塊把Transformer從軟體層面做降維優化、新一代更輕量的CNN模型 ,還有既有的半精度FP8這種跟指令集優化,另外這幾年學界比較有研究的從Complier上做 優化通用矩陣乘法。5
Re: [問題] 要怎麼讓AI記住一件事情?小弟本身是相關的研究領域的剛好在西恰看到就簡單回答,chatGPT當前是沒有所謂記憶這 件事的,他其實是用到一個Trick就是直接把你前面的對話直接併到當前對話,由於目前有 最大字數上限(印象中是4000還是40000,有錯還請見諒)超過就直接把你前面的對話都丟掉 ,所以你常常會發現他好像講一講就自己忘記了。 GPT系列本身其實就是有點像接龍一樣的語言模型,你問馬可就會去預測一般人類遇到最常- 阿肥外商碼農阿肥啦!認真說,這幾年口說上字幕甚至翻譯,還有有字幕上語音這幾年都獲 得不錯的進展,包含openAI、Google、Amazon、Meta實驗室都有不錯的產出,而且這些都是 依靠當前所謂的多模態零樣本學習的大力進步,很多轉換錯誤或是機器音都減小很多,不 過偶爾還是會有出槌需要人工修正的部分。 所謂的多模態零樣本其實就是換一個思維過往很多工作需要大量標注工跟資料工程前處理來
爆
[問卦] 尹錫悅:愛國市民們 韓國正被親北勢力威脅99
[問卦] 微熱山丘是得罪誰了嗎?83
[問卦] 為什麼以前遊行比現在有用多了?74
[問卦] 為啥台灣一堆店用掃碼點餐?87
Re: [問卦] 陳梅慧的事就這樣過了?61
[問卦] 北檢如果出書 書名叫什麼會大賣?44
[問卦] 如果一直羈押1年3個月最後無罪算冤獄?46
[問卦] 起訴之後,為什麼還要羈押?49
[問卦] 日語N1薪水在台灣月薪可以到多少錢!?爆
Re: [問卦] 為什麼八卦要一直護航貪污犯38
[問卦] 戒嚴有沒有更好聽的說法?36
[問卦] 找一部打麻將很厲害的片33
[問卦] 台灣誰長的最像哥布林王?27
[問卦] 認真問,北檢也有好檢察官吧16
[問卦] 靠!果真蔡壁如背刺柯文哲51
[問卦] 八卦除excel 其他證據都視而不見 怎反駁爆
[問卦] 老二怎麼開始幫老三說話了?32
[問卦] 如果汐止跟新店2選1,你們選哪裡住?30
[問卦] 內政部:廢止戶籍後就不會是中華民國國民28
Re: [新聞] 遭黃捷質疑持中國身分證 陳玉珍對賭:若爆
[爆卦] 劉靜怡:監察院彈劾立委?3X
[問卦] 為什麼八卦要一直護航貪污犯28
[問卦] 沒人號召抵制ZARA首頁寫中國台灣!?25
[問卦] 800元買一個絕版公仔,盤嗎?26
[問卦] 張宇跟王淨誰正26
[問卦] 大家喜歡大明風華這部戲嗎???18
[問卦] 486很紅嗎?20
Re: [新聞] 柯文哲又遭羈押 白委喊話:小草會變成「26
[爆卦] 八炯的紀錄片根本又是再炒作抗中保台22
[問卦] 小米電視賣很好???