Re: [閒聊] AI設定上到底有沒有辦法說謊?

※ 引述《smart0eddie (smart0eddie)》之銘言：
: AI 基本上就是根據學過的資訊回答
: 假設塞了簡中資料當然回答會跑出簡體
: 你都餵假資料給他
: 他當然就會回答謊言
: 例如一個AI如果訓練資料都是
: 馬斯坦古要把國民練成賢者之石
: 你問他誰要把國民練成賢者之石
: 他就會回答馬斯坦古
: 而能不能給他正確資料卻要求他說謊
: 可以
: 訓練的時候不准他回答正確答案就可以
: 例如訓練資料雖然是正確的
: 瓶中小人要把國民練成賢者之石
: 可以訓練時要求他不准回答瓶中小人
: -----
: Sent from JPTT on my Asus ASUS_AI2302.

應該是先釐清為何人要說謊

用比斯吉的定義:

1.有目的而為之的說謊(奇犽&比斯吉)
2.沒有目的就只想說謊(西索)

第二點比較簡單，反正搜尋時就讓他在資料庫裡亂搜尋隨意挑資料回答，
不理會回答問題的正確性與否或者說隨意將某些判斷機制關掉就能符合，
當你輸入一些質問正確性的語句時他還可以回應笑臉愉悅你。

而第一點就是AI跟人的差異性

因為設計AI的目的是為了"服務"人類。
而人類在有目的的說謊是為了謀求自身利益，也可能是為了逃避，避免問題，
簡單來說，讓自己可以過得更爽，自己過得更輕鬆才是說謊的目的。
所以從根本概念來說，設計一個目的是不工作的AI，這個機制就不是設計AI的目的。

但或許可以嘗試一件事，把AI裝上電池之後看看他會不會怎麼樣，
有沒有可能AI會想辦法為了讓自己嘗試不停止運轉，
而去做出超乎人類的判斷應該也滿有趣的。
停機個幾百萬次矇到一個有目的性會說謊的AI也說不定。

--