PTT推薦

[閒聊] Vivy AI沒設計安全機制是不是大錯？

sado5566 發表於 2021/7/16 下午10:43:19
看板C_Chat標題[閒聊] Vivy AI沒設計安全機制是不是大錯？作者
sado5566
 (5566)時間推噓 7 推:7 噓:0 →:10

譬如機械公敵裡用到的機器人三大法則
一、機器人不能傷害人類
二、不違反原則一，聽從人類命令
三、不違反原則一二，保護自己

在這原則下除了最後爆發人類與AI衝突
中間很多事件應該都能避免
譬如巨浮島那些AI應該能避免攻擊人

又或是像來自新世界的愧死機制
讓攻擊人類致死的AI自己發動停止程序
一定程度能緩和AI的攻擊性
當然AI數量暴增多於人類很多倍還是能滅世

又或是刀劍underworld裡面禁忌目錄
正常人都無法突破限制做出不該的行動

覺得AI這種一板一眼電子存在
怎麼會沒有設計一個基本安全機制呢？

vivy裡面就很單純靠單一使命
所以很多使命都是讓人類怎樣怎樣
用歌聲讓人類幸福
當護理師讓人類生存
彈鋼琴幫助人類
營運巨浮島幫助人類
從第一集就覺得這種靠一句話使命的機制超多漏洞可鑽的

如果vivy開第二季
人類會怎樣設計改良AI安全機制？


--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.255.110.151 (臺灣)
※ PTT 網址
→

TeamFrotress07/16 22:45在它們的腳底安裝自爆按鈕

推

Sirctal07/16 22:55你知道那三大原則就是拿來打破的嗎？

→

Sirctal07/16 22:55科幻小說會寫主要是想突顯AI帶有人性

→

Sirctal07/16 22:55會自行衍生或解釋

→

Sirctal07/16 22:56來強調他們是跟人同樣的一個創造物

→

junior100607/16 22:57三大原則是為了打破用的

→

junior100607/16 22:57更不要說vivy裡面姊妹系列本來就是刻意放寬界線的

推

msbdhdfceb07/16 22:59三大法則就是拿來打破的 還直接生出萬用第零法則

我提的例子每個都有破解方法 怎麼你們大家就特別針對三大法則咧 當然知道三大法則能破 重點是vivy裡面只靠一句使命的機制 比起其他作品實在太不可靠 正常發展都遲早出事根本不用安排黑幕

※ 編輯: sado5566 (111.255.110.151 臺灣), 07/16/2021 23:02:49
推

a125g07/16 23:28vivy有致敬機器人系列 像是那個電子腦無法複製

推

Amulet107/16 23:46其實是有點自降格調，這些設定套在vivy世界觀的話

推

jiko556607/17 00:29不能傷害人類這點，就會有其他事件出現

→

jiko556607/17 00:29主角無法反擊部分人類

→

jiko556607/17 00:30失控AI卻能鑽漏洞讓人類死亡

推

coolctm07/17 02:11就是拿來打破的，所以歐菲利雅自殺事件才被視為奇點之一

→

coolctm07/17 02:11，這100年的過程其實就是在說AI越來越趨近於人類

推

hirokofan07/17 07:57有安全機制也沒用啦，最後archive直接操控AI暴動

→

hirokofan07/17 07:58那個時候哪隻AI還有在顧使命了？全部變成殺人機器啦

其他人也閱讀了
PTT 熱門相關
C_Chat最新熱門推薦
🔥🔥🔥