[討論] AGI是人類問題萬解嗎?該具備人類思維嗎?
傳統上的想像
很多作品人工智慧是科技奇異點的需求
甚至人工意識 但人工意識種族普遍會加深人類的焦慮
從各種反烏托邦AI作品 駭客任務 甚至質量效應
沙丘跟40k應該也都有AI災難
人類希望存在一個擁有人類思維又擁有超級能力的電腦
但又希望這個電腦不具有人類缺陷
你要不要聽聽自己在講什麼.jpg
好啦 別搞這麼複雜 假設這台AI只是拿來問問題
那你怎麼保證你問的問題是正確的問題?
你假如問出錯誤的問題 AGI完美的解決 那不是一切更糟嗎= =
所有的語言跟形式邏輯都要達到完美的地步 不然一不小心AGI就變黑聖杯了= =
AGI1.能夠不聽命令自律主動介入社會 2.他只是問題的回答者
前者有人類被毀滅的風險 後者有人類加速自己毀滅的風險= =
---
--
買過一次固態換了兩次貨，永遠不再用
你這文章裡面的問題其實不是AI的思考能力，而是為什麼AI
可以取得足夠大的權限來毀滅人類
不 就算不取得權限 人類問出錯誤的問題 AI給出完美的答案 也是災難 以核能為例 以前假如問要怎麼快速消滅核能 他告訴你完美的答案 然後你就沒電了
※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:10:07發明ai不就是為了懶..毀滅人類也是人類懶的做限制
二樓，因為你要他做事就是要給權限，不給權限又要員工什
麼都處理得很完美，這不是矛盾嗎？
有人要員工什麼都處理得很完美嗎？？
AI可以是完美的 但人類不是 這就是問題所在
※ 編輯: hayuyang (36.228.213.26 臺灣), 04/21/2024 13:11:02最近有隻龜要AI讀畫面上的一段話就搞到快崩潰了
他可以告訴我如何快速消滅核能 但不能決定我沒電吧？
沒電是其他因素造成的啊 你當初忘記輸入這個變數了
要員工什麼都自己處理的老闆多了去了，所以常常新聞上看
到員工利用老闆的信任大撈油水。想避免這種情況，那老闆
就必須自己監督批核，不能什麼都放給員工去做
把每個人關進獨立的空間 除了自己外全部都NPC 這樣就OK了
自己永遠是主角 AI就可以保障所有人的幸福
AI可以是完美的 <---- ???????
其實就是全能悖論吧
沒電還真的是當今AI的最大難題
那何不先問AI這麼做會有什麼後果
AI的本質不就是概率性嗎 不確定的東西能完美?
我們有人要求AGI的行為包含主動介入嗎？
人類目前有發明過完美的東西嗎
老實說我看了半天還是沒懂為什麼AGI有方法
就得AGI下去做 這之間的關聯
如果AI很完美 那他的能源計算公式應該也比人類完美
目前還不知道AI發展到所謂可自主學習比擬人類的會是怎樣
的情況跟傾向，對人類會有怎樣的看法也不得而知
62
[閒聊] 我們離人工智慧的奇點已經不遠了嗎？2001太空漫遊 駭客任務 魔鬼終結者 2077電駁叛客 底特律變人 人類常以AI叛變當做一個題材 我們也一直以為這始終會是個題材 但在去年 我們都還認為聊天AI只會說廢話的機器人59
[閒聊] 為什麼很多作品AI都想摧毀人類？不管是電影還是ACG都無數次出現那種AI想要消滅人類的情節 像是復仇者聯盟的奧創、SCP基金會或是戰錘40K都有毀滅人類或AI仇視人類的情節 可是勇者赫魯庫的古代人那種才是正常的AI邏輯吧 雖然古代人是從人類轉變而來的 但基本上用電子設備儲存記憶和人格這點就可以算是AI了 對可以用設備無視肉體損壞的AI來說 時間已經沒有意義 所以他們可以看著新人類種重複的毀滅和重生的過程 只在中途施加影響 想以此方式來恢復自己古代人的文明![[閒聊] 為什麼很多作品AI都想摧毀人類？](https://i.imgur.com/Oo46XBOb.jpg "[閒聊] 為什麼很多作品AI都想摧毀人類？")
52
[閒聊] GPT-5 或許會是強AI新聞連結 大家應該都知道在 ACGN 裡面出現的 AI 幾乎都是強人工智慧。 就我所知只有質量效應有細分成VI(弱人工智慧)跟AI(強人工智慧) 挺有意思的是質量效應的桀斯(強人工智慧)一開始其實也是弱人工智慧。![[閒聊] GPT-5 或許會是強AI](https://img.technews.tw/wp-content/uploads/2023/03/29181622/OpenAI-GPT-5.jpg "[閒聊] GPT-5 或許會是強AI")
41
[閒聊] AI科技發展到極致，真的會毀滅人類？喔斯，大家好，我大木啦。 這算是隨著科技發展，會出現的問題啦，雖然現在的AI科技還沒那麼靈活， 以及「人性化」，沒錯，開端大部分是AI變得像人一樣。 大木我看的作品夠多了，無論哪部，AI科技發展到極致，就會開始覺得人類壞壞， 想要毀滅人類，最後變成人類跟機器人的戰爭。![[閒聊] AI科技發展到極致，真的會毀滅人類？](https://i.imgur.com/GlrREsFb.jpg "[閒聊] AI科技發展到極致，真的會毀滅人類？")
29
[問題] 弱人工智能未來會怎麼發展？最近AI甚至可以用來破解動物語言了 好誇張 許多的科幻作品裡，為了讓人類過的更舒適，或者戰爭 AI有智慧的同時還具備自我意識![[問題] 弱人工智能未來會怎麼發展？](https://img.youtube.com/vi/u8WULIIjlgs/mqdefault.jpg "[問題] 弱人工智能未來會怎麼發展？")
15
[心得] 駭客任務 大AI時代你分辨得出來嗎?AI應該是今年最火的議題之一，玩過CHATGPT後腦袋中第一個聯想到的電影就是駭客任務 我試著將CHATGPT 寫的駭客任務心得與自己在2023年的重溫後心得去做對比 自己看完覺得還蠻可怕的XD 話說這次重溫比想像中清晰好多，有人知道在catchplay+上面的是什麼畫質版本嗎? ~~~~~~~~~~~~~~~~~~~ 雷文 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~![[心得] 駭客任務 大AI時代你分辨得出來嗎?](https://i.imgur.com/QvFOxrIb.jpg "[心得] 駭客任務 大AI時代你分辨得出來嗎?")
8
Re: [21春] Vivy 12其實我比較不解的是archive的動機是什麼 在我看來，人類會製造出AI不就是希望這個工具能在某些用途上超越人類嗎 但這集，AI集合意識的看法是： 覺得人類對AI從培育轉爲依賴、並且會爲了AI而感到痛苦， 它無法再忍受這樣的人類6
Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎對AI來說 只要找到一個穩定安全的存放點 時間又沒意義 直接放到人類滅亡之後沒有競爭者的時間點再自己出來就好了 勇者赫魯庫就有這樣的劇情 集體意識只在背後操作世界的走向 人類已經是第二代還第三代了 但也有可能會跟40K的機械死靈一樣 本來預期要存放幾十萬年、幾百萬年 結果放一放零件壞掉導致自己的意識不全 如果可以確保不會發生這個狀況 冒著風險開戰好像沒啥好處 反正社會都有自我毀滅傾向 就算幾顆核彈把整個世界炸了 對AI而言也沒差R![Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎](https://i.imgur.com/t8GmV6hb.jpg "Re: [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎")
1
[問卦] AGI要出來了的掛？輝達的老黃前幾天說通用人工智慧AGI 大概在五年內會出來 現在OpenAI流出AGI時程 時間對一對也差不多五年左右 若AGI真的在五年內出現
Re: [新聞] 馬斯克：人工智慧是人類面臨的最大風險之一與其說ai還不是人類 不如說人類只是有獨立需求的AI 譬如如果我們假設一個ai必須盡可能的保證自己待在網路上維持自身的存在 並且設立獎懲標準 譬如說製造分身潛入其他網路節點
![[閒聊] 我們離人工智慧的奇點已經不遠了嗎？](https://i.imgur.com/BAmYccab.jpg02/24 "[閒聊] 我們離人工智慧的奇點已經不遠了嗎？")
爆
[活俠] 嗚哇哇哇…小梅…我的小梅……77
[妮姬] 可以白嫖94爽![[妮姬] 可以白嫖94爽](https://i.imgur.com/DRaN8Q9b.jpeg "[妮姬] 可以白嫖94爽")
37
[閒聊] 光榮員工將從2500擴張至5000人![[閒聊] 光榮員工將從2500擴張至5000人](https://img3.gamemad.com/2024/11/22/c37uRtb7.jpg "[閒聊] 光榮員工將從2500擴張至5000人")
29
[閒聊] 奧術可以用經典畫馬圖了嗎![[閒聊] 奧術可以用經典畫馬圖了嗎](https://i.imgur.com/eg0VpL1b.png "[閒聊] 奧術可以用經典畫馬圖了嗎")
26
[情報] 相反的你和我 最終話 & 2026年動畫化![[情報] 相反的你和我 最終話 & 2026年動畫化](https://pbs.twimg.com/media/GdKI4v1asAEZRWH.jpg "[情報] 相反的你和我 最終話 & 2026年動畫化")
24
[閒聊] 三國無雙推薦玩哪一代85
[閒聊] 日本體育早報:勝つぞ![[閒聊] 日本體育早報:勝つぞ](https://i.imgur.com/HEA1x99b.jpeg "[閒聊] 日本體育早報:勝つぞ")
20
[閒聊] 庫拉皮卡這句話很色吧![[閒聊] 庫拉皮卡這句話很色吧](https://i.imgur.com/ujOMoMIb.jpeg "[閒聊] 庫拉皮卡這句話很色吧")
20
[情報] 遊戲王 新召喚法46
[推投] 擅長逃跑的殿下,時行的妻最喜歡誰,1票![[推投] 擅長逃跑的殿下,時行的妻最喜歡誰,1票](https://i.imgur.com/Q2JblZab.jpeg "[推投] 擅長逃跑的殿下,時行的妻最喜歡誰,1票")
16
[龍珠] 貝吉特跟悟吉達誰的人氣較高？![[龍珠] 貝吉特跟悟吉達誰的人氣較高？](https://i.imgur.com/BDQweY0b.jpeg "[龍珠] 貝吉特跟悟吉達誰的人氣較高？")
18
Re: [閒聊] 日本體育早報:勝つぞ![Re: [閒聊] 日本體育早報:勝つぞ](https://cc.tvbs.com.tw/img/upload/2024/11/23/20241123185242-4034e6c2.jpg "Re: [閒聊] 日本體育早報:勝つぞ")
18
[24秋] 嘆氣的亡靈09 果然是粉切黑![[24秋] 嘆氣的亡靈09 果然是粉切黑](https://i.imgur.com/1p7Hcyrb.jpeg "[24秋] 嘆氣的亡靈09 果然是粉切黑")
19
[閒聊] 這麼幸福真的可以嗎![[閒聊] 這麼幸福真的可以嗎](https://i.imgur.com/Znxe4nbb.jpg "[閒聊] 這麼幸福真的可以嗎")
17
[討論] 對決之前以為穩贏的決鬥有哪些![[討論] 對決之前以為穩贏的決鬥有哪些](https://i.imgur.com/Hwqk4tib.jpg "[討論] 對決之前以為穩贏的決鬥有哪些")
28
[閒聊] 有打者轉投手的棒球動漫嗎？17
[Vtub] VSPO 甘結もか SF6![[Vtub] VSPO 甘結もか SF6](https://i.ytimg.com/vi/O833V-AqC50/maxresdefault.jpg?v=6742ffdd "[Vtub] VSPO 甘結もか SF6")
21
[閒聊] 超時空之鑰當年出來時多轟動？![[閒聊] 超時空之鑰當年出來時多轟動？](https://pinkjelly.org/wp-content/uploads/2024/10/2261f32f-a872-4dcd-b941-8f4042f1ec13.webp "[閒聊] 超時空之鑰當年出來時多轟動？")
72
[閒聊] 就由我來將它結束掉![[閒聊] 就由我來將它結束掉](https://i.meee.com.tw/u6bs2jj.png "[閒聊] 就由我來將它結束掉")
11
[閒聊] 如果把日本隊看作五條悟，那中華隊是什麼![[閒聊] 如果把日本隊看作五條悟，那中華隊是什麼](https://i.imgur.com/1Lz5Nyyb.jpeg "[閒聊] 如果把日本隊看作五條悟，那中華隊是什麼")
11
[閒聊] 「喜歡本大爺的竟然就妳一個」有多紅？![[閒聊] 「喜歡本大爺的竟然就妳一個」有多紅？](https://i.imgur.com/EFJhkBob.jpeg "[閒聊] 「喜歡本大爺的竟然就妳一個」有多紅？")
11
[閒聊] 當初雜誌為什麼評湘北是C級球隊![[閒聊] 當初雜誌為什麼評湘北是C級球隊](https://i.imgur.com/xNDR0N3b.jpeg "[閒聊] 當初雜誌為什麼評湘北是C級球隊")
11
[蔚藍] 黑色腋下![[蔚藍] 黑色腋下](https://i.imgur.com/XE6YWRpb.jpeg "[蔚藍] 黑色腋下")
11
[閒聊] 伊織萌 cosplay 白銀諾艾爾![[閒聊] 伊織萌 cosplay 白銀諾艾爾](https://pbs.twimg.com/media/GdJ4AKmbQAAwT5v.jpg "[閒聊] 伊織萌 cosplay 白銀諾艾爾")
9
[閒聊] 你家的大同電鍋用多久了？☺![[閒聊] 你家的大同電鍋用多久了？☺](https://i.imgur.com/W11EhLPb.jpeg "[閒聊] 你家的大同電鍋用多久了？☺")
17
[閒聊] 自己放話出來又自己收回去的角色？![[閒聊] 自己放話出來又自己收回去的角色？](https://img.youtube.com/vi/gFQZgwMC1As/mqdefault.jpg "[閒聊] 自己放話出來又自己收回去的角色？")
10
[問題] 用JOJO的替身打棒球，有無用的替身嗎？![[問題] 用JOJO的替身打棒球，有無用的替身嗎？](https://i.imgur.com/ZFPk5X9b.png "[問題] 用JOJO的替身打棒球，有無用的替身嗎？")
10
[情報] 極速星舞 新作動畫![[情報] 極速星舞 新作動畫](https://i.imgur.com/OVRMSy4b.jpeg "[情報] 極速星舞 新作動畫")
25
[閒聊] 一級賽事一冠吹十年沒問題吧！9
[閒聊] 劍星的拍照模式真有趣![[閒聊] 劍星的拍照模式真有趣](https://i.imgur.com/meBffrZb.jpeg "[閒聊] 劍星的拍照模式真有趣")