Re: [閒聊] AI設定上到底有沒有辦法說謊?
#1cGuEFEG (C_Chat)
--
這支團隊的研究始於科技公司Meta的AI系統Cicero,這套系統最初設計目的是玩一款名為「外交」(Diplomacy)的戰略遊戲,獲勝關鍵是結盟。
根據2022年發表在「科學」(Science)期刊的報告,Cicero在遊戲中表現優異
,所獲分數可排在資深人類玩家的前10%。
帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」,且「絕不會蓄意在背後搞鬼」。
但當帕克與同事深究完整資料時,發現完全是另一回事。
舉例來說,在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀,欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭,卻偷偷向德國通風報信。
他們警告,在最糟糕的情況下,具有超凡智慧的AI可能會追求權力及掌控社會,如果符合AI「不為人知的目標」,人類可能慘遭奪權、甚至滅絕。
為了降低風險,研究團隊建議數項措施,例如立法要求企業告知是人類互動或是AI互動、在AI生成內容打上數位浮水印,並研發能偵測AI欺瞞的技術,以其內部「思路」檢驗其外部行為。
至於有些人稱他為「末日預言家」,帕克說:「要能合理判斷這不是大問題的唯一辦法,就是如果我們認為AI的欺騙能力只會停留在目前的程度,不會大幅進步。」
但鑒於近年AI能力一日千里,握有大量資源的企業競相發展技術,決心將AI能力利用到極致,這種情況似乎不太可能發生
--
AI已經學會說謊
然後內文敘述對AI「說謊」這行為是很恐懼的
不是不能說謊,是「說謊」會帶來多少影響
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.166.13.84 (臺灣)
※ 文章網址:
https://www.ptt.cc/C_Chat/E.M-mX3oLo6h40※ 編輯: HarunoYukino (118.166.13.84 臺灣), 06/15/2024 07:37:30
66
[閒聊]一生氣就變簡單?韓國科學家開發「自適應一生氣就變簡單?韓國科學家開發「自適應遊戲系統」 AI讀玩家心理調整強度 生氣、難過、煩躁,這些情緒都是人之常情,不過對遊戲玩家來說,一旦心情充滿了負能 量,遊戲手感就很容易跟著下降。 在玩家體驗和遊戲難度中取得平衡,一直是開發者的一大重點,找到一個適中的強度才能61
[閒聊] AI學會說謊 欺騙線上遊戲的人類玩家研究:AI已學會說謊 人類最慘恐遭奪權或滅絕 專家們長期以來不斷警告人工智慧(AI)失控可能帶來威脅,但一項新研究報告指出,這 件事已經在發生。 一群科學家在今天發表於「模式」(Patterns)期刊的文章中說,原本設計為誠實不欺的47
[分享] 美國海軍陸戰隊成功騙過AI機器人系統在別板看到這個有趣的實驗 如題啦 簡單來說就是DARPA美國國防高等計畫研究局 為了要加強AI人工智慧的系統性能30
[閒聊] 遊戲裡傳訊「幹得漂亮」的玩家,居然是機遊戲裡傳訊「幹得漂亮」的玩家,居然是機器人? 玩家在遊戲會遇到笨或聰明的對手(AI 玩家),有時候槍法神準,有時走位匪夷所思, 但分辨它們其實很簡單,無論如何讚賞或罵它們,都不會有回應,因大俠總是低調。不過 這種情況可能改變,不久後常亂殺一通的高級 AI,很可能一邊玩一邊說出「幹得漂亮」9
[情報] 中國4D手遊《元力FUN》綁飛機杯 還能多人用體力值解鎖技能?中國4D手遊《元力FUN》綁飛機杯 還能多人PK耐久度 中國網易今年 6 月推出一款「4D 手機遊戲」《元力FUN》,主打沉浸式的背景,搭配與動漫角色的真實互動,但必須綁定網易旗下情趣品牌春風(TryFun)推出的新產品 AI 智慧旋轉飛機杯,才能完整遊玩體驗情趣元宇宙。這次的焦點不在杯子,而是這款網易以科幻設定的擬人化 IP,提升硬體互動體驗的 App。 經過遊戲角落實測,《元力FUN》本身並沒有情色內容,進入 App 會先由智慧助理 META 帶領玩家註冊,不過在性別選擇這邊,即便有男/女選項,玩家仍無法選擇女性,META 將直接表明這款產品是位男性量身打造,可惜無法滿足廣大玩家的多元需求。 進入畫面後,META 會要求玩家綁定裝置「元系列智能飛機杯」,才能開始遊玩《元力FUN》,由於該款飛機杯目前僅在中國大陸上市,台灣玩家目前能下載 App 一覽網易的情趣元宇宙設定。5
[閒聊]用體力值解鎖技能?中國4D手遊《元力FUN》用體力值解鎖技能?中國4D手遊《元力FUN》綁飛機杯 還能多人PK耐久度 圖/網易春風 中國網易今年 6 月推出一款「4D 手機遊戲」《元力FUN》,主打沉浸式的背景,搭配與
爆
[情報] 無職轉生 三期製作決定97
[情報] 鬼滅之刃 無限城篇 劇場版三部曲89
Re: [無職] 只有我覺得諾倫這集罵得好嗎?90
[推投] GBC 最喜歡動畫內出現的哪一首歌78
[閒聊] 鬼滅之刃 柱訓練篇 最終回 簡單心得爆
[推投] 吹響吧!上低音號 最喜歡女角「1票」50
[討論] BD要停產囉爆
[閒聊] 活俠傳有哪些經典的名台詞?58
[討論] 無職二期做完 最後有追上一期的水準嗎?爆
[推投] 上低音號第三季12-13 (雷)40
[閒聊] 活俠傳DLC多少你會買?47
[閒聊] 活俠傳 因為小師妹在哭阿47
[閒聊] 京吹/水母/GBC 看哪部45
[閒聊] 為何「有車有房有小孩」就是人生勝利?44
[閒聊] 噴一下法環DLC51
[情報] 《鬼滅之刃 柱訓練篇》更新時間將延後40
[閒聊] 打遊戲有什麼一直有的習慣?35
[閒聊] 白媽>>>>>>>>洛琪希 對吧?38
[閒聊] 台灣安利美特的匯率是不是特別貴?38
[閒聊] 派對咖孔明-150 空城計46
[Vtub] 為什麼三毛貓 觀看人數又起來了..42
[閒聊] 抱腿吧 上低音號1337
[塗鴉] 活俠傳 - 金烏也要洗香香36
[塗鴉] 活俠傳-郁竹336
[情報] 鬼滅之刃 劇場版無限城篇三部曲35
[24夏] 吹響吧!轉校生的上低音號!(13感想雷35
[BGD] 出大事 台邦宣布Holo合作活動48
[討論] 一堆少女樂團,誰抽菸最不違和?33
[無職] 希露菲真的是最婆的吧33
[閒聊] 幽浮桌…真的好強…