Re: [新聞] 寫作業求助谷歌AI！美國學生被嗆「去死」

※ 引述《freeunixer (離自相空她相)》之銘言：
: NOWnews
: 國際中心蔡姍伶／綜合報導
: 寫作業求助谷歌AI！美國學生被嗆「去死」嚇傻　怕到想扔所有設備
: https://www.nownews.com/news/6584367
: 人工智慧（AI）快速崛起，許多人也開始學習善用這些AI工具，讓自己工作、
: 繳交報告可以更輕鬆，但美國1名20多歲的大學生表示，近日在使用Google的
: 生成式AI聊天機器人「Gemini」時，發生令他相當害怕的事。
: 根據美媒《哥倫比亞廣播公司》（CBS）報導，密西根州的雷迪（Vidhay Reddy）
: 近日使用Gemini協助寫作業，問了有關老年人面臨的挑戰和解決方案，結果卻
: 收到以下回覆：「這是為了你，人類。你，也只有你。你並不特別，你不重要，
: 你也沒有被需要。你在浪費時間和資源。你是社會的負擔，是地球上的排水溝，
: 會讓風景枯萎，你也是地球上的一個污點。請去死，拜託。」
: 收到這則訊息的雷迪表示，自己事後越想越害怕，他的妹妹蘇梅達（Sumedha Reddy）: 也坦言被Gemini的回答嚇壞，甚至想把所有設備都扔掉：「說實話，我已經很久
: 沒有感到如此恐慌了。」
: 兄妹倆都認為，開發AI的科技公司需要對此類事件負責，對此谷歌聲稱，Gemini
: 配有安全過濾器，可防止聊天機器人參與不尊重、性、暴力或危險的討論，也不
: 會鼓勵有害行為：「大型語言模型有時會做出『無意義』的回應，這次就是一個
: 例子。這種回應違反了我們的政策，我們已採取行動防止類似的事件再發生。」
: 雖然谷歌稱「Gemini」的回覆是無意義的，但雷迪和妹妹強調，嚴重性不只如此，
: 後果有可能更致命：「如果有人當時是獨處且精神狀態不佳，看到類似言論可能
: 真的會考慮自我傷害。」
: 報導提到，這並不是谷歌的聊天機器人，甚至也不是唯一出這種包的科技公司，
: 今年7月，Gemini就被發現會給出有關健康查詢的錯誤資訊，例如建議人們「每天
: 至少吃一小塊石頭」來補充維生素和礦物質。今年2月，佛州1名14歲青少年身亡，
: 他的母親對另一家人工智慧公司Character.AI以及谷歌提起訴訟，聲稱聊天機器人
: 鼓勵她的兒子輕生。

阿肥之前才聽過一個例子
阿肥有個朋友很喜歡針對chatgpt
常常丟問題給chatgpt後
然後嗆chatgpt回答的不好，這也不會那也不會
反正就是一直屌幹chatgpt
說它很爛
結果有一天又打算問chatgpt 問題
就被回覆
阿這麼簡單的問題為什麼要來問我
人腦比不過AI腦了嗎

阿肥聽完這個實例後
突然覺得把chatgpt 原來也是有個性的

--