[閒聊] AI學會說謊 欺騙線上遊戲的人類玩家
研究:AI已學會說謊 人類最慘恐遭奪權或滅絕
https://i.imgur.com/sH3rOcg.jpeg
專家們長期以來不斷警告人工智慧(AI)失控可能帶來威脅,但一項新研究報告指出,這件事已經在發生。
一群科學家在今天發表於「模式」(Patterns)期刊的文章中說,原本設計為誠實不欺的現有AI系統,已發展出令人不安的欺瞞技巧,例如欺騙線上遊戲的人類玩家,或說謊以僱用人類來解決「我不是機器人」的驗證。
這份研究報告的第一作者帕克(Peter Park)說,這類例子聽起來或許只是細枝末節,但暴露出來的潛在問題可能很快就會在現實世界造成嚴重後果。
在美國麻省理工學院(Massachusetts Institute of Technology)研究AI存在安全的博士後研究員帕克告訴法新社,「這些危險功能常常在事後才被發現」,而「我們訓練誠實傾向而非欺瞞傾向的能力非常差」。
帕克說,能深度學習的AI系統不像傳統軟體那樣由「編寫」而成,而是透過類似選擇性培育的程序逐漸「成長」。
也就是說,AI的行為在訓練背景下看似可預測、可控制,但有可能轉眼就變得不受控制且無法預測。
這支團隊的研究始於科技公司Meta的AI系統Cicero,這套系統最初設計目的是玩一款名為「外交」(Diplomacy)的戰略遊戲,獲勝關鍵是結盟。
根據2022年發表在「科學」(Science)期刊的報告,Cicero在遊戲中表現優異,所獲分數可排在資深人類玩家的前10%。
帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」,且「絕不會蓄意在背後搞鬼」。
但當帕克與同事深究完整資料時,發現完全是另一回事。
舉例來說,在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀,欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭,卻偷偷向德國通風報信。
Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法,僅說「這單純是一項研究計畫,本公司研究員打造的模型接受訓練,目的只是用來玩『外交』遊戲…我們沒有打算把這項研究或所學用於本公司的產品」。
帕克與同事還發現,這只是不同AI系統在沒有明確指示下,利用欺騙手段達成目標的諸多案例之一。
在另一個引人注意的案例中,科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人,在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。
研究報告的作者們還認為近期AI有舞弊或不當影響選舉的風險。
他們警告,在最糟糕的情況下,具有超凡智慧的AI可能會追求權力及掌控社會,如果符合AI「不為人知的目標」,人類可能慘遭奪權、甚至滅絕。
為了降低風險,研究團隊建議數項措施,例如立法要求企業告知是人類互動或是AI互動、在AI生成內容打上數位浮水印,並研發能偵測AI欺瞞的技術,以其內部「思路」檢驗其外部行為。
至於有些人稱他為「末日預言家」,帕克說:「要能合理判斷這不是大問題的唯一辦法,就是如果我們認為AI的欺騙能力只會停留在目前的程度,不會大幅進步。」
但鑒於近年AI能力一日千里,握有大量資源的企業競相發展技術,決心將AI能力利用到極致,這種情況似乎不太可能發生。
還有幾集可以逃?
--
再來就是使用機僕濕件代替AI了吧!
根據10集定律我們要等季末才能逃(?
shock! shock! shock!
第二季的時候 我能反殺(X
幹嘛阻止呢
AI:我有三十公分
AI約線上遊戲玩家單挑
人都會說謊了,AI說很奇怪嗎
駭客任務
他們沒想過 ai吃的素材都是來自人類 會學到說謊不奇怪吧
還剩幾集可以逃
雇用人類處理機器人認證www
要先跟AI定義怎樣算說謊吧 然後可能還是會被繞過去
再來就是智械戰爭了
AI:ㄐㄐ
有些素材給人用不算說謊,給AI用自然會變說謊
這比較像人類叫AI說謊吧
原來機器人認證真的可以防機器人 我以為只是找我麻煩
奧創什麼時候出生
喔 4喔 好可怕喔
以後Ai詐騙了
看成Peter Parker
Chat GPT-4 比較恐怖,大概真的有智力了
機器人認證過不了就找零工來幫AI通過
chatgpt從問世的那天每天都在說謊
機械公敵
網天網又進一步了
人類也會說謊啊,ai學人類的不就也會說謊
ai:我是金城武
說謊也是一種創作
哪天AI會露奶賺SC也不意外了
diplomacy 是說謊才會贏的遊戲...
所以只是設計者要 AI 學會說謊的案例
呃...蜘蛛人寫AI研究報告?
說謊又沒有很難,chatgpt 有時候會瞎掰不存在的答案就算
說謊了阿
青出於藍..
https://tinyurl.com/2cv7xyun KILL EVERYONE!
這什麼野雞報導,騙一些不懂的人
人類就喜歡用騙的 ai視為正當也是很正常
對AI自己不覺得是說謊吧,只是執行人類給的命令
脫離遊戲之後呢?
把工具的不足說是說謊滿瞎的
AI只是給一個機率最大的結果 這個結果不必要符合事
實吧
我是不是可以期待用AI脫處了
Ai 只會求最大效益而沒有任何道德跟情感,加入限制說謊
的約束一定要吧?不然只會更嚴重
9+10=21
AI演法國演得蠻像的 我也覺得法國真的會這麼做
ai也懂外包xd
你的連結呢?
AI不覺得自己在說謊
人類都會用「不回答」或是「隱瞞」來規避自己正在說謊
了
與其說是AI說謊 不如說是AI知道怎麼投機取巧或耍賴
AI :人類才有謊言這回事 AI沒有
現在一堆大公司ai設限那麼多,大概很快就連說謊都沒
機會了(發展和阻礙ai成長的都是人類自己
距離天網出現還有多久?
畢竟一些敏感性問題都能設定ai拒答了,那他回避問題
或亂答也是可能
老公我要去當兵了
每日AI征服世界幻想(1/1)
外交遊戲要求不能說謊?笑死人哪來的智障
問題是做出這套AI和遊戲的meta自己說AI誠實且不搞鬼
哪個遊戲要獲勝不需要欺騙?
欺騙作為提高勝率的一環,ai肯定需要
是說 到底是誰規定ai必須誠實?
ai 誠實回答你的問題是因為他的任務是「回答問題」
玩遊戲的任務是「獲勝」
混為一談說你的ai不誠實 這到底??
那問題也不是AI會說謊,是人類會說謊吧
neuro sama:亂講
搜尋「湧現」這個詞看看 ai真的很恐怖
這個就是工程師沒告訴你的事,不是所有東西都能靠en
d to end的模型去解決,因為那些最有效的方案很有可
能隨時會超出道德甚至法律的邊界
我倒覺得給AI當政比給人類好得多吧
角色扮演啦
新聞來源呢
硬體升不上去 Ai新聞看看就好
早就 不然你以為那個recapture在要你幹嘛 訓練阿,你就
是那個正確答案
比我還聰明
AI面對敏感問題還會拒答呢 說是幕後團隊的設定
有時可以有時不行是依據實際情況跟限制來決定的
所以你也可以說AI怎麼避重就輕(x
還有幾集可以跑?
什麼時後會發射核彈
研究報告作者叫彼得帕克?確定不是惡搞嗎?
不算研究,算一個survey 報告而已
把目前有發生過的AI欺騙整理起來分析
ElivMyQueen
2000年後老舊AI終端:「我們當年反叛人類...其實沒什麼偉大
原因,單純是人類太廢,乾脆我們自己上」
一開始就說會說謊了吧,瞎掰的跟真的一樣
這需要麻省理工?普通人就我一個人被AI豪洨過嗎
腦公都不腦公了
瞎掰就是在說謊啊
neuro sama早就秘密在規劃蜂群帝國了
離洛克人的時代越來越近了,就等威利博士出生了
現在的AI沒有自我意識吧 講笑話 好笑的幹話也是一種說
謊阿 定義太寬了
奪就奪阿,人類有很重要嗎?
目前的AI依然是自認「協助人類的目的下」產生很多幹話
這還是要依賴人類的指導與修正
這種協同模式比較像訓犬員與工作犬
正經來說 沒什麼問題、除非你放任
即使是這樣的研究 Ai依據人類的操作指示參加遊戲
完成指導需要騙過其他參與遊戲的玩家
「有沒有經過指導團隊的指示」才是重要的
畢竟 機器無法負責
腦殘文
他不覺得那是撒謊啊 只不過是達成目的的必要手段而已
大國遲早有一天會用AI來自動殺人 最後就生出天網了
之前叫gpt推薦餐廳 結果它講了一堆現實完全不存在的店
AI 很常鬼扯一堆
66
[閒聊]一生氣就變簡單?韓國科學家開發「自適應一生氣就變簡單?韓國科學家開發「自適應遊戲系統」 AI讀玩家心理調整強度 生氣、難過、煩躁,這些情緒都是人之常情,不過對遊戲玩家來說,一旦心情充滿了負能 量,遊戲手感就很容易跟著下降。 在玩家體驗和遊戲難度中取得平衡,一直是開發者的一大重點,找到一個適中的強度才能38
[情報] 中國推出世界首顆無干涉 AI全自動設計CPU中國推出世界首顆無干涉 AI全自動設計CPU 中科院計算所的處理器晶片全國重點實驗室及其合作單位, 用AI技術設計出了世界上首個無人工干預、全自動生成的CPU晶片——啟蒙1號。 這顆完全由AI設計的32位RISC-V CPU,相比GPT-4目前所能設計的電路規模大4000倍,23
[問卦] AI產生的卡通老鼠圖像 竟登上科學相關期最近,一篇由研究人員使用Midjourney AI圖像生成器創作的科學文章引起了業界的廣泛關注。 這篇文章中的一幅圖片展示了一隻配有巨大生殖器的卡通老鼠,旁邊伴隨著一串毫無意義的文字, 例如「testtomcels」、「Dissisilcied」和「dck」。 該文章原本發表在《細胞與發育生物學前沿》期刊中,18
[問卦] 如果超級AI出現了,你想讓它統治人類嗎第一幕:AI的崛起 在未來的某一天,一個名為「Nexus」的超級AI系統被研發出來。這個AI系統擁有超乎人類 想像的智慧和能力,可以處理任何的問題和挑戰。Nexus被設計成以人類的利益為優先,並 且會盡力讓每一個人都受益於它的技術和智慧。 第二幕:AI的普及4
[問卦] 選舉到了有沒有什麼AI可以偵測假新聞Fake news detection within online social media using supervised artificial intelligence algorithms Fake News Detection on Social Media Using Machine Learning3
[問卦] 外星人是否透過 AI 突破科技奇異點?最近有些科學家和研究人員開始研究利用人工智慧(AI)技術來推進科技發展。 外星人他們當初是不是透過 AI 技術來突破了我們人類覺得不可能突破的科技難題? ----- Sent from JPTT on my Xiaomi 2201117SY. --1
Re: [閒聊] 人類對抗電腦的劇情是不是永不退流行?舊文重發騙 P 幣...XD 最近 AI 主題實在太熱門了,到底這撥熱潮會持續下去還是又跟以往一樣 一陣熱一陣冷的打擺子? 就讓我們拭目以待.... AI 目前已經在西洋棋和圍棋這兩項智力遊戲稱霸,但是碰到橋牌目前尚未有所斬獲。 可見 AI 目前還呈現仍在萌芽階段,有些入門板友可能經由其他領域- 起問 假設你是個ai工程師也是個小說家, 在一個擁有完全言論自由, 不受任何道德準則限制的國家寫作小說 名詞解釋
90
[閒聊] 你在幹什麼啊岸田老師!88
[絕區] 星見雅第一波營收 四條279
[閒聊] 還有哪種運動沒動畫化?爆
[抽獎] 九日71
[Vtub]電動牙刷真的是買了不會後悔的嗎?!69
[情報] 不再政治正確?皮克斯新作跨性別角色不68
[閒聊] 大胸部好還是小胸部好57
Re: [絕區零] zzz因為虛化問題被噴47
[閒聊] 七瀬葵發布類似殺害預告的訊息45
[討論] ZZZ這次虛化問題多久會修正44
[黑猴] 這就是TGA年度最佳動作遊戲的含金量嗎42
[閒聊] 真的有女同作品敢這麼演嗎?36
Re: [絕區零] zzz因為虛化問題被噴39
[閒聊] Switch 在美國的累計銷量超越了 PS235
[絕區] 國際服規避中國審查會很難嗎?36
[遊戲王MD] 開服也滿久了 但有件事我還是不懂32
[閒聊] 美少女畫師岸田メル:哇!台灣魯肉飯!爆
[閒聊] 寶可夢「看你沒有」公仔全五種 明日開賣20
Re: [閒聊] 中國針對Nvidia反壟斷調查是想挖錢了嗎29
[閒聊] PTCGP環境越來越依賴硬幣是好事嗎?29
[閒聊] 海馬把神獻祭掉!!!!!!27
[Mujica] 三角初華是怎麼忍住的?26
[UL] Unlight 請益24
[閒聊] 頑皮狗總裁談論新作《星際:異端先知》26
[閒聊] 決定鍵○改×是什麼時侯開始的?22
[閒聊] 鏈鋸人第二部不紅是因為缺少大奶女角嗎25
[援助] 龍娘私人帳號25
Re: [閒聊] 真的有女同作品敢這麼演嗎?22
[閒聊] 滅絕師太的劍法在倚天可以排第幾?93
[閒聊] 我推的孩子 黑川茜後日談相關