PTT推薦

[討論] AGI是人類問題萬解嗎?該具備人類思維嗎?

看板C_Chat標題[討論] AGI是人類問題萬解嗎?該具備人類思維嗎?作者
hayuyang
(鳳山蠹)
時間推噓11 推:12 噓:1 →:13

傳統上的想像

很多作品人工智慧是科技奇異點的需求

甚至人工意識 但人工意識種族普遍會加深人類的焦慮

從各種反烏托邦AI作品 駭客任務 甚至質量效應

沙丘跟40k應該也都有AI災難


人類希望存在一個擁有人類思維又擁有超級能力的電腦

但又希望這個電腦不具有人類缺陷


你要不要聽聽自己在講什麼.jpg



好啦 別搞這麼複雜 假設這台AI只是拿來問問題

那你怎麼保證你問的問題是正確的問題?

你假如問出錯誤的問題 AGI完美的解決 那不是一切更糟嗎= =


所有的語言跟形式邏輯都要達到完美的地步 不然一不小心AGI就變黑聖杯了= =


AGI1.能夠不聽命令自律主動介入社會 2.他只是問題的回答者

前者有人類被毀滅的風險 後者有人類加速自己毀滅的風險= =
---



--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.213.26 (臺灣)
PTT 網址

s95201304/21 13:07買過一次固態換了兩次貨,永遠不再用

arrenwu04/21 13:07你這文章裡面的問題其實不是AI的思考能力,而是為什麼AI

arrenwu04/21 13:07可以取得足夠大的權限來毀滅人類

不 就算不取得權限 人類問出錯誤的問題 AI給出完美的答案 也是災難 以核能為例 以前假如問要怎麼快速消滅核能 他告訴你完美的答案 然後你就沒電了

※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:10:07

xbit04/21 13:09發明ai不就是為了懶..毀滅人類也是人類懶的做限制

tonyxfg04/21 13:09二樓,因為你要他做事就是要給權限,不給權限又要員工什

tonyxfg04/21 13:09麼都處理得很完美,這不是矛盾嗎?

arrenwu04/21 13:09有人要員工什麼都處理得很完美嗎??

AI可以是完美的 但人類不是 這就是問題所在

※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:11:02

Pep5iC0589304/21 13:12最近有隻龜要AI讀畫面上的一段話就搞到快崩潰了

arrenwu04/21 13:13他可以告訴我如何快速消滅核能 但不能決定我沒電吧?

沒電是其他因素造成的啊 你當初忘記輸入這個變數了

tonyxfg04/21 13:13要員工什麼都自己處理的老闆多了去了,所以常常新聞上看

tonyxfg04/21 13:13到員工利用老闆的信任大撈油水。想避免這種情況,那老闆

tonyxfg04/21 13:13就必須自己監督批核,不能什麼都放給員工去做

※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:14:49

wei11504/21 13:14把每個人關進獨立的空間 除了自己外全部都NPC 這樣就OK了

wei11504/21 13:14自己永遠是主角 AI就可以保障所有人的幸福

arrenwu04/21 13:15AI可以是完美的 <---- ???????

kururuj04/21 13:21其實就是全能悖論吧

e5a1t2004/21 13:21沒電還真的是當今AI的最大難題

probsk04/21 13:22那何不先問AI這麼做會有什麼後果

sustainer12304/21 13:23AI的本質不就是概率性嗎 不確定的東西能完美?

r8527060704/21 13:24我們有人要求AGI的行為包含主動介入嗎?

xbit04/21 13:25人類目前有發明過完美的東西嗎

r8527060704/21 13:25老實說我看了半天還是沒懂為什麼AGI有方法

r8527060704/21 13:25就得AGI下去做 這之間的關聯

probsk04/21 13:31如果AI很完美 那他的能源計算公式應該也比人類完美

linzero04/21 13:36目前還不知道AI發展到所謂可自主學習比擬人類的會是怎樣

linzero04/21 13:36的情況跟傾向,對人類會有怎樣的看法也不得而知