Re: [閒聊] AI設定上到底有沒有辦法說謊?

shadow032606/15 00:11就算是沒學過的資料，生成式AI還是可以掰的頭頭是道

chinnez06/15 00:12幹那不就是卡神在做的事嗎XD

shadow032606/15 00:12AI幻覺的問題目前是無解的，但你不能說它在說謊，因為

shadow032606/15 00:12說謊的前提是AI有自我意識

Bugquan06/15 00:13主要還是看怎麼訓練，要是妄想用AI說他支持某某，那麼肯

Bugquan06/15 00:13定也能培養出說他不支持某某

LittleJade06/15 00:13講錯的事≠說謊

linzero06/15 00:22AI是把原始資料經過參數分析整合後導出結果。參數、調教

linzero06/15 00:23可以讓結果有特定的傾向。而這傾向可以讓它說出認為正確

linzero06/15 00:23的結果，或者認為正確的不能說出

linzero06/15 00:24但這正確、不正確，跟一般人認知的謊話不太一樣

smart0eddie06/15 00:44如果要用有沒有意識來決定是不是說謊的話

smart0eddie06/15 00:44那在人類搞清楚意識是什麼之前AI在設定上應該是不能

smart0eddie06/15 00:44說謊的

yuizero06/15 01:48所以 ai是沒有“說謊”這一個論點的。他只是執行你錯誤

yuizero06/15 01:48或是不能執行的言論。但是AI無法自己選擇何時給出錯誤的

yuizero06/15 01:48言論。所以不算說謊

Hosimati06/15 02:13先定義說謊

Hosimati06/15 02:14他給出所謂錯誤的答案，其實也只是照著你的訓練方式得

Hosimati06/15 02:14出來的答案

Hosimati06/15 02:14你給一個人類輸入錯誤的觀念，導致他給出錯誤的答案，

Hosimati06/15 02:15我們一般也不會說他說謊

Hosimati06/15 02:23但是如果今天你灌輸一個小孩正確觀念，卻要求他在知道

Hosimati06/15 02:23答案的情況下宣稱自己不知道答案，那算不算說謊？

Hosimati06/15 02:26如果算的話，你把對象換成ai，訓練完你就加一個程序讓a

Hosimati06/15 02:26i即使生成了答案，也會在你給出的條件下宣稱不知道答案