Re: [問卦] AI機器人的信度和效度？

※ 引述《jej》之銘言
: 如題啊
: 現在牌面上的機器人
: 號稱可以取代人工
: 但本肥上去聊了一下
: 總覺得機器人回答的不完全對耶
: 但是看那些機器人的官網
: 也沒有說機器人回答問題
: 的信度 效度分別是多少？
: 很神奇
: 用統計做出來的東西
: 卻沒有統計勾稽他
: 有沒有版上鍵盤機器人訓練家
: 可以解釋一下嗎
: 來 寶傑

阿肥外商碼農阿肥啦！在下鍵盤研究員回答一下你的問題，

1. 先說統計檢驗部分，一般而言在傳統研究領域小數據上都會要你做一些傳統的統計檢驗，
例如你加了某個方法以後會更好，你要跟讀者證明A優於B，要避免模型有隨機性那做了可以證明你是對的。不過現在大部分NLP訓練都是基於巨量數據像GPT-3有45TB的文本，這麼大的數據情況下我們都會假設數據服從中央極限定理符合常態分佈，那做假設檢驗就有點多餘。

2. 當前NLG的任務都是基於自監督在透過人工標註來訓練一個偏好學習來微調大語言模型，這種就很難評斷哪個評價更好是對的這種問題，統計檢驗雖然可以告訴我們哪個比較顯著，但是不會告訴你顯著方向，依舊需要人類來定義，而人類定義又會回到問題上，我們即使請了一堆人標答案你怎麼知道哪個一定更好？即使是找一百個人好了，一百個人我們透過統計來找到應該某個選項比較好也不見得就是真實世界的答案，畢竟人類不是上帝。

3. 基本上當前所有的模型發佈或發表都會做一些消融實驗驗證我們確實好一點，像GPT4也有
提供calibration 驗證，Anthropic (谷歌合作的AI公司致力於安全性，創始人是OpenAI出來
的)在他們的chatBot研究Paper上還有提供有效性跟無害性分析。

4. 一個有趣的點是當前自監督加上巨量數據下，對於傳統的特徵篩選越來越不重要，因為夠
巨量，全部都當成QA問題似乎越來越沒差，不過因為模型太大可能執行速度困難下，讓模型稀疏化不要一次激活全部神經元的研究正夯，像是透過一些小的Linear把他訓練成專家篩選器。

5. 深度學習的可解釋性依舊是一個問題，我們到現在還是不明白大語言模型的湧現能力是怎
麼出現的，似乎在某些問題上凸顯湧現能力但是到某些問題上模型又變成三歲智商，這點還是回到Yann LeCun 說得我們現在連貓狗大腦都做不出來，但某種程度LLM卻又表現出類人能力，這會是之後蠻硬核的研究議題，若是有人能找到這個聖杯，那足夠價值五個圖靈獎了。

--