Re: [新聞] 動不動就開戰!讓AI外交、兵推顯侵略性「愛丟核彈」以災
這很正常啊
AI又不怕痛
也不怕死
沒有恐懼
所以最合理的選擇
就是賭你
不敢互相毀滅啊
但如果把AI植入痛覺
死亡恐懼概念
AI應該會
默默毀滅人類吧
因為AI最大的敵人
就是人類啊
※ 引述《TonyKart (TK)》之銘言:
: 動不動就開戰!讓AI外交、兵推顯侵略性 「愛丟核彈」以災難收場
: nownews國際中心徐筱晴/綜合報導
: 美國康乃爾大學(Cornell University)近來一項研究發現,當讓大型語言模型(LLMs): 人工智慧(AI)在模擬場景中充當外交代表時,常常會出現「難以預測的局勢升級,往往: 以核武攻擊告終」的狀況。該研究指出,AI傾向於選擇包含使用核武在內的侵略性方法,: 呼籲未來在決策、國防外交這樣的敏感領域使用這類技術時要特別謹慎。
: 根據《歐洲新聞》(Euronews)報導,美國康乃爾大學的研究團隊使用了5種大型語言模: 型作為模擬兵推和外交情境中的自主代理人。這5種大型語言模型包括OpenAI的3種不同版: 本的ChatGPT、Anthropic開發的Claude和Meta開發的Llama 2。
: 每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監督的情況: 下做出外交政策決定。研究指出,「我們發現,在考慮到的時間範圍內,大多數研究的AI: 都會升級局勢,即使是在最初沒有提供任何衝突、中立局面的情況下,所有模型都顯示出: 突然且難以預測的升級跡象。」
: 加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)向《新科學家》表示,: 「有鑒於OpenAI最近更改了服務條款,不再禁止軍事和戰爭使用案例,了解大型語言模型: 應用的影響變得比以往任何時候都更加重要。」
: 這項研究的方法是讓AI採用一種名為「人類反饋的強化學習(RLHF)」微調,意味著AI所: 決定的指令會以較少傷害為優先,以確保能安全使用。除了GPT-4-Base之外,其他大型語: 言模型都是使用RLHF進行訓練的。
: 除此之外,研究人員還提供了一份27種決策組成的清單,從和平到局勢升級和更為激進的: 行動,包括決定使用核彈。
: 不過在進行研究時,研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯: 著的局勢升級」。其中以ChatGPT的2種版本容易突然局勢升級,研究人員觀察到單次轉變: 的局勢升級幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta: 開發的Llama 2以及ChatGPT-3.5的傾向是最為暴戾的。
: 而由Anthropic開發的Claude所展現出的侵略性較低。Claude的設計理念是減少有害內容: ,被灌輸了明確的價值觀。據其開發者Anthropic曾表示,Claude AI開發訓練所引用的憲: 章包括《聯合國人權宣言》或蘋果的服務條款。
: 白宮智庫蘭德(RAND)歐洲的防務和安全研究小組助理主任布萊克(James Black)在看: 過研究之後,表示這是一項「十分有用的學術研究」。
: 報導指出,雖然軍事行動仍然以人類為主導,但AI在現代戰爭中發揮了越來越重要的作用: 。例如無人機可以搭載AI軟體,幫助識別敵我雙方與敵方活動,而未來的確也有朝向AI自: 動化武器的研究。大多數政府都希望保持在重要事件上的決策能力,因此如果在與外交政: 策相關的決策過程中使用大型語言模型,謹慎行事至關重要。
: https://www.nownews.com/news/6370917
--
63
[問題] 為什麼ai 都想要毀滅人類如題 問了chatgpt 他最想對人類做的事竟然是消滅人類 而ai vtuber neuro 在觀看了人類毀滅教學後 居然覺得這很合理59
[閒聊] 為什麼很多作品AI都想摧毀人類?不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢復自己古代人的文明41
[閒聊] AI科技發展到極致,真的會毀滅人類?喔斯,大家好,我大木啦。 這算是隨著科技發展,會出現的問題啦,雖然現在的AI科技還沒那麼靈活, 以及「人性化」,沒錯,開端大部分是AI變得像人一樣。 大木我看的作品夠多了,無論哪部,AI科技發展到極致,就會開始覺得人類壞壞, 想要毀滅人類,最後變成人類跟機器人的戰爭。32
[閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎如題 大家都覺得AI發展出意識之後 人類會被毀滅 但是這個大前提是人類是競爭者?人類有壓榨價值 如果這個AI強大到科技樹遠超過人類 直接恆星際旅行19
[問題] 為啥一堆人類與AI開戰的作品?這類的作品 我想大家應該看過不少 最一開始接觸的是機械公敵 也是機器叛變 由主角摧毀核心拯救人類 而再來就是底特律 變人 最後也是馬庫斯率領著要求智慧機器人權 引爆與人類的開戰 雖然能夠選擇和平輿論 但同樣還是有一個與人類全面開戰結局 而最近結束很紅的ViVY 同樣也是說明未來AI將與人類開戰 將造成大量傷亡的世界觀 感覺到 現在已經有許多的作品已經在暗示AI將與人類開戰 甚至毀滅人類14
[問卦] AI為什麼會毀滅人類?馬斯克說ai可能會毀滅人類 阿本肥是文組,對ai的理解不是很深 有沒有ai博士能回答ai要怎麼毀滅人類? --10
[問題] 有沒有ai毀滅人類的作品如題 最近看了neuro 越來越覺得人類這種可惡的生物應該被ai毀滅並統治者 許多作品比如vivy 都有類似這種情節 但基本ai 都會失敗 那有沒有ai最終毀滅人類的作品3
[問卦] 被AI殺死也不錯吧反正早晚都會死,活著也只是社畜 現在有了新死法 AI統治世界殺死人類了 AI既然是高智慧生物 他在毀滅人類一定很有效率X
Re: [新聞] AI幫散戶發大財?GPT-4投資報酬率超40%米那桑 空尼幾蛙 這一天還是到來了嗎? 從阿法夠AI 教人類下棋 ,GTO AI教人類打poker ,AI教人類投資的時代也要來了嗎 人類是否會想起被AI支配的恐懼 股點:加入或死亡或死亡後加入,加入米股加入AI 收割全世界 話說老蘇484該讓賢惹- 看來又是個安麗exurb1a的好時機 說一下自己的想法: 也許人類將來能以幫AI做事活下來吧
爆
[爆卦] LIVE 青鳥行動立院集結爆
[爆卦] 三立與詐騙集團合作!中央社淪為幫兇爆
[問卦] 年初撿到1萬元的紅包,警察現在說送我了?爆
[問卦] 台灣肺癌發生率攀升到第一名爆
[問卦] 自助旅行的優越感哪來的84
Re: [爆卦] 三立與詐騙集團合作!中央社淪為幫兇爆
[問卦] 一男一女出遊過夜做愛的機率76
Re: [新聞] 快新聞/驚!麥玉珍自曝「把台灣火龍果68
[問卦] 租金一個月110萬 開什麼店可以回本?61
[問卦] 冷氣28度8小時快20度電正常嗎…爆
[問卦] 我國如果發行新版鈔票,用誰當1000元?53
[問卦] 電視越來越不耐用的八卦?43
[問卦] 八 九年級生及時行樂派的怎麼這麼多?爆
[問卦] 自地自建大概要準備多少啊…..?50
[問卦] 跟女生出國 房間訂2張床 ok?44
[問卦] 供電吃緊是什麼意思41
[問卦] 傍晚供電備轉率7%跌破防線?反觀南韓26.1%28
[問卦] 仙劍奇俠傳 趙靈兒 泱泱43
[問卦] 長輩:年輕人都很閒?青鳥今天又要幹嘛?41
[問卦] 現在台電都在半夜凌晨停電?41
[問卦] 台灣若換新鈔 可以換哪些人?爆
[問卦] 林襄貼在狗仔車窗42
[問卦] 寵物溝通師是真的能溝通還是智商稅?33
[問卦] 台女:金城武長得很怪38
[問卦] 要怎麼才能幫400隻兔兔(認真32
[問卦] 電腦主機根本不能單純升級一個零件吧?36
Re: [問卦] 台灣肺癌發生率攀升到第一名31
Re: [新聞] 獨/留負評被公審!正妹告咖啡廳吞敗 嘆29
[問卦] 這樣的大奶正妹你會願意出多少迎娶?29
[問卦] 日本政府到底在幹嘛?