Re: [問卦] 呂捷的影片是不是很多內容都在誤導觀念？

※ 引述 《moslaa》 之銘言：
: 標題：Re: [問卦] 呂捷的影片是不是很多內容都在誤導觀念？
: 時間: Tue Oct 8 10:54:39 2024
:
: ※ 引述《khara (逝)》之銘言：
: : 近世中國(含臺灣)被一堆垃圾革命派下三濫所把持，
: : 用些愚蠢的思想洗腦把人民洗到腦殘至極。
:
: : → s454666: https://imgur.com/h7BSoAx 211.72.53.228 10/08 09:01
: 看到這個用AI來反駁的，我剛不禁噴笑出來。
:
: 一.
: 其實我對於自己完全不熟的議題，為了快速了解，我也會用AI，這我承認，
: 但，
: AI很可能會出錯，畢竟AI只是收集網文，然後快速整理出來而已。
: 所以我建議要小心用，用各種角度切入問，至少要確認每次回答都一致。
: (因為我有過問法不同，AI回答居然不同的經驗)
:
: 二.
: 以關羽VS岳飛誰更加武聖為例，我這樣問
:
: https://i.imgur.com/OOJAfzs.png

阿肥外商碼農阿肥啦！

補充一下，這邊本身非歷史專業但是資工專業的，這邊說一下，當前的GPT（LLM）大部分預訓練都來自網路文章，然後LLM對於少量的可信資料其實存在嚴重的幻覺問題（Hallucination)，真正的原因其實從統計學來看就是OOD(out of data)或是less of data很難學習到真正的樣本模式分佈。但是由於大語言模型當初在調教跟本身因果回歸架構（Decode only)上導致模型更傾向在不確定下順著說話者回答，而且模型越大這種信心傾向越重。所以OpenAI才會需要一直不斷疊代微調模型讓模型避免傾向某種問答。

回答像這種岳飛關羽的歷史問題只要越少人問AI跳脫傾向於照說話者思考方式越強，像最近MIT的研究就發現給LLM一段少見的史實資訊讓模型跟人類合作做影片智力問答，結果透過跟AI合作答題的人對於自身錯誤記憶的信心都顯著增加，原因就是在於AI會順著話事者增加錯誤記憶的信心。

所以沒事不要去相信超出自身能力的事情，AI不是萬能的，AI充其量只是幫助擁有知識的人能快速解放工作效率而已。

--