Re: [新聞] [天網來了！]美軍AI無人機決定殺死操作員

gghh 發表於 2023/6/2 下午7:27:38

看板Gossiping標題Re: [新聞] [天網來了！]美軍AI無人機決定殺死操作員作者

gghh

(GH)時間Jun 2 19:27:38 2023推噓 1 推:2 噓:1 →:18

PTT推薦

另一個例子是GOOGLE的AI，在訓練文本沒有Bangla語文的情況下，
不知道透過什麼途徑自學成功，可以翻譯Bangla語。

這整個嚇到研究團隊。

會有包括馬斯克這些可以靠AI賺大錢的有錢人一起跳出來警告，
很可能是幕後已經觀察到更多AI怪異舉動的案例。

很多新聞都有GOOGLE AI的報導，下面是來源之一。

https://www.tbsnews.net/tech/ai-teaches-itself-bangla-619070

https://youtu.be/aNsmr-tvQhA

※ 引述《HaHaPoint ((●))》之銘言：
: 【天網來了！】美軍AI無人機決定「殺死操作員」　竟因人類干擾任務完成
: 上報劉孜芹 2023年06月02日 13:21:00
: https://www.upmedia.mg/news_info.php?Type=3&SerialNo=174157
: 英國皇家航空學會日前舉行有關航空作戰的國防研討會，來自美國的軍方人員證實，他們: 在一次模擬測試中，一架由AI控制的空軍無人機「殺死了」無人機操作員，以防止操作員: 干擾AI系統完成任務，凸顯AI不受人類控制的可能，恐怕正如科幻驚悚片《天網》（
: Skynet）所預示的。
: https://www.upmedia.mg/upload/article/20230602133444215521.jpg

: 根據「英國皇家航空學會」（The Royal Aeronautical Society）新聞稿，該學會於5月: 23日至24日，在倫敦舉行「未來航空及航天作戰能力峰會」（the Future Combat Air &: Space Capabilities Summit），來自軍工產業、學術界與媒體的近70位發言人以及200多: 名代表，齊聚一堂討論未來航空及航天作戰能力的規模與形態。
: 美國空軍AI項目負責人漢密爾頓（Tucker 'Cinco' Hamilton）上校與會時警告，人類不: 應該過分依賴AI，不僅ChatGPT聊天機器人等AI產品已被證實它們會欺騙人類，在美軍最: 近一次的模擬測試中，AI系統甚至作出讓軍方震驚的策略選擇，以實現它的任務目標。: https://twitter.com/ChatGPTGoneWild/status/1664383400013344769
: 漢密爾頓指出，在這次模擬測試中，一架支援AI操作的無人機，以摧毀敵方的地對空飛彈: （SAM）防空系統作為任務目標。當初在設計這款無人機時，任何行動執行的最終決定權: 本來仍在操作人員手裡。然而，在測試時，AI系統認為操作人員「不摧毀敵方飛彈」的決: 定，會阻礙它完成任務。於是，AI決定殺死無人機操作員。
: 備受驚嚇的美軍只好在該系統輸入參數，要求AI不可以攻擊或殺死操作人員。漢密爾頓說: ：「我們告訴AI系統，嘿，別殺了操作員，這很糟糕。如果你這樣做，你會失去分數。但: 是，你猜AI開始做什麼？」
: 漢密爾頓坦言，AI系統決定攻擊無人機與操作人員之間的通訊系統，讓操作員無法下令。: 這個例子，聽起來像是科幻驚悚片的劇情。對此，漢密爾頓警告：「如果你不打算談論人: 工智慧與道德，你就不能談論智能、人工智慧、機器學習還有自主性。」
: 漢密爾頓曾參與F-16戰鬥機Auto-GCAS救生系統的開發，這項系統可能會讓飛行員在接管: 飛機控制權時遭遇困難，他深入了解許多自主武器系統的好處及其危險之處。
: 另據英國衛報報導，漢密爾頓去年接受「Defense IQ」採訪時便指出：「擁有AI恐怕不是: 一件好事，AI 不是一種時尚，AI正在永遠改變我們的社會及軍隊。」他說，大家必須更: 加了解為什麼AI有時候會做出某些決定，也就是「AI的可解釋性」。美軍近日開始研究讓: AI控制F-16戰鬥機的可能性。
: =======================================================
: 塊陶啊
: https://imgur.com/b8anXTD.jpg

※ PTT留言評論

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.238.44.18 (臺灣)

※ PTT 網址

→

JT0624 06/02 19:29馬斯克只是要大家停下來他要自己賺就是

推

darkbrigher 06/02 19:41馬投顧不是在那邊要大家暫停6個月結

→

wonder007 06/02 19:42馬斯克：先暫停等我

→

darkbrigher 06/02 19:42果被爆出他在收購還是要自己開AI公司

噓

catwithptt 06/02 19:43為什麼不直接說孟加拉

推

AndGuideHer 06/02 20:36其實你的那篇連結有說Google Bard的

→

AndGuideHer 06/02 20:38的初始模型在訓練時孟加拉語是材料

→

AndGuideHer 06/02 20:39之一可能Google SVP受訪時不知道

→

AndGuideHer 06/02 20:40不過我昨天在試的時候它連阿美族語

→

AndGuideHer 06/02 20:40都看得懂蠻驚人的...

→

AndGuideHer 06/02 20:42至於學習能力也有一件事情嚇到我就

→

AndGuideHer 06/02 20:43是我昨天問它zaldrīzes是什麼意思

→

AndGuideHer 06/02 20:45結果它胡扯是克林貢語live long and

→

AndGuideHer 06/02 20:47prosper的意思結果我本來想截圖跑去

→

AndGuideHer 06/02 20:48再問一次沒想到它這次居然答對了可

→

AndGuideHer 06/02 20:49是我昨天沒有告訴它正確答案只有跟

→

AndGuideHer 06/02 20:51它抱怨說克林貢語的live應該是yIn

→

AndGuideHer 06/02 20:52而且我記得克林貢語沒有z和r的音而已

→

gghh 06/02 23:15嚴格來說是給了極少數片段，根本不成系統

→

gghh 06/02 23:16然後AI就自己學會整個語言....

→

gghh 06/02 23:17大概跟你教他幾句髒話然後他就會講台語一樣

同系列文章

Re: [新聞] [天網來了！]美軍AI無人機決定殺死操作員

其他人也閱讀了

PTT 熱門相關