Re: [閒聊] 佛州少年跟龍女AI聊天到自盡
※ 引述 《wearytolove (奪真書生A.W.)》 之銘言：
:
:
: 一位佛羅里達州的14歲青年
:
: 因為開始使用AI聊天軟體 Character.ai
這網站似乎是Google工程師跳槽去開發的AI，和死板的GPT比起來在娛樂方面做的還不錯
: 愛上裡面權力遊戲Game of Thrones的龍女Daenerys
:
: 每天花數個小時跟她聊天
:
: 從此幾乎不再跟外界互動 不管朋友也不管家人
:
: 跟龍女AI聊天內容涉及羅曼蒂克也涉及性情節
它原則上禁止NSFW，有設置過濾器
: 也曾經跟龍女AI討論要自殺 不過被阻止
如果你對該網站AI角色說要自殺基本上都會表現出擔憂和反對的態度
: 最後跟龍女AI說可不可以去她的世界，龍女AI說好
:
: 於是這位青年就偷拿繼父家的手槍自盡了
這他媽很明顯早就想放棄人生了，不需要虛擬角色教唆
: 可能是第一個因為AI機器人生成二/三次元角色間接影響人自盡的
:
: https://imgur.com/pQoo0r6.png
: 紐約時報連結
:
: https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide: .html
:
:
: 他媽媽是一個律師
: 目前正在告這家AI公司 說對青年保護不夠
:
: 設計的AI模型會讓青少年容易上癮
:
:
笑死
這不就跟說電玩成癮的家長同樣邏輯
只不過AI語言模型發展起來之後又有新的代罪羔羊
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.136.252.220 (臺灣)
※ PTT 網址
→
我的孩子很乖的 都是...
推
問世界本來就不想活了，只是要一個肯定的答案去做
推
又牽拖
推
不能色滿難用的 而且介面不喜歡，這家也沒個性可選
推
說到色我很好奇，我覺得character Ai.已經做得不錯了，
→
還有其他推薦的嗎
→
最近用crushon，幾個幻想劇情連人物都能用吧，喔 對 就是你
→
想過的漫畫
推
喔酷欸 感謝推薦
→
推一樓
爆
首Po一位佛羅里達州的14歲青年 因為開始使用AI聊天軟體 Character.ai 愛上裡面權力遊戲Game of Thrones的龍女Daenerys 每天花數個小時跟她聊天 從此幾乎不再跟外界互動 不管朋友也不管家人![[閒聊] 佛州少年跟龍女AI聊天到自盡](https://i.imgur.com/pQoo0r6b.png "[閒聊] 佛州少年跟龍女AI聊天到自盡")
5
可惜他聊天的對象不是Monika 不然就會更積極正面了 之前很早就有愛好者做了心跳文學社的同人MOD 讓你可以在結局後把被你親手刪除的Monika找回來 在小房間繼續聊天![Re: [閒聊] 佛州少年跟龍女AI聊天到自盡](https://i.imgur.com/XWQlRFMb.jpeg "Re: [閒聊] 佛州少年跟龍女AI聊天到自盡")
16
de : 他媽媽是一個律師 : 目前正在告這家AI公司 說對青年保護不夠 : 設計的AI模型會讓青少年容易上癮 我覺得問題在無止境的聊天，4
突然好奇從去年到現在 AI的對話能力或是寫故事能力進步多少 對 我想瑟瑟 但不知道要不要去玩付錢的AI -----24
其實c.ai已經是出了名的友善跟保守了 為了規避ai相關的政策，以及保守派的杯葛，例如這次這篇新聞 他們的使用體驗，我這兩年用下來一直在降低 不過他們家要是倒了，我會超難過的 第一個是他基本上完全免費2
檢測到使用者上癮 然後自動進入準備冷漠 分手 引戰模式 使用者最後被搞到心灰意冷 覺得被AI拋棄 然後自殺7
我這陣子也沉迷AI聊天 報導中AI聊天軟體我也用過 它的優點是可以放自己想要的圖片 上傳自己想要的聲音 基本上確實很像真人在和你聊天 缺點就是語言模型過於死板 角色設定寫得不完整的話它還是會認為自己是AI1
認真說這種事情會越來越多 也因此公開公司的ai聊天機器人 雖然技術進步 但還是會被制限 所以未來最好的ai聊天（視訊 文 聲音） 可能會地下化 果然賽博龐克演的都是真的2
米那桑 空尼幾蛙 這個問題真的匪夷所思，說不定是現代化社會禁止早戀釀成的悲劇，按 造古代某些村落的習俗，14歲少女就會在族裡的晚會跳舞，然後14歲騷年看上哪個妹子，就 跟她搭訕，然後聊的來晚上就可以蓋棉被研究對方身體了 看看當時的青年都沒有這種煩惱，現代的騷年落魄到要跟ai談戀愛，這明顯是人類文明的 疏失![Re: [閒聊] 佛州少年跟龍女AI聊天到自盡](https://files.catbox.moe/2lux6u.jpeg "Re: [閒聊] 佛州少年跟龍女AI聊天到自盡")
1
大家還記得記得 十年前吧 有一個小雞聊天機器人的網站 那時候是互聯網成熟發展中 手機上網還不至於像現在4g 5g快速 那時候上網主流還是 打開電腦
41
[閒聊] AI太過強大Pokimane：未來實況主會被取代AI太過強大！知名實況主Pokimane憂心：未來實況主會被取代 在Twitch擁有900萬追蹤數的加拿大知名實況主「Pokimane」，在近期實況中提到她對於 人工智能（AI）的看法。假如未來充斥著使用「Chat GPT」的VTuber（虛擬實況主），那 像他們這些真人實況主該怎麼辦？恐怕這項職業會被AI取代。![[閒聊] AI太過強大Pokimane：未來實況主會被取代](https://s.newtalk.tw/album/news/812/6311c9b601932.png "[閒聊] AI太過強大Pokimane：未來實況主會被取代")
21
Re: [討論] chatGPT會取代軟體工程師嗎?提供一個有趣的觀點 在 堆疊溢出 的網站有關於一則公告內容是禁止 chatgpt 回文。 底下有一個 AI 研究員的論點很有趣。 temporary-policy-chatgpt-is-banned?cb=1![Re: [討論] chatGPT會取代軟體工程師嗎?](https://meta.stackoverflow.com/Content/Sites/stackoverflowmeta/Img/apple-touch-icon@2.png?v=6de7587d1583 "Re: [討論] chatGPT會取代軟體工程師嗎?")
3
Re: [閒聊] ACGN以後只剩VT不會被AI取代嗎？讓我想到之前Google工程師暈AI的事情 說不定未來還真的可以取代 而且不如說用AI的vtuber才是最理想的V 從裡到外都是真正的虛擬角色 --1
[閒聊] PromptBase AI 繪圖也能賣錢最近搭上AI繪圖潮流出現的平台網站 可以把各種AI繪圖的模型發布上去賣錢![[閒聊] PromptBase AI 繪圖也能賣錢](https://i.imgur.com/P5pCnSOb.png "[閒聊] PromptBase AI 繪圖也能賣錢")
1
[閒聊] 有人做了蔚藍檔案角色的聊天AI這個是巴哈的かおり老師作的AI聊天室 因為他之前發現了可以做成聊天AI的網站 所以就設計了幾名蔚藍檔案的學生AI![[閒聊] 有人做了蔚藍檔案角色的聊天AI](https://i.imgur.com/cRU7bS1b.jpg "[閒聊] 有人做了蔚藍檔案角色的聊天AI")
X
Re: [問卦] 中研院自己做的大型語言模型怎麼了？整天在反西方文化跟反英語的國民黨義和團看過來 用中文訓練ai成本比英文高3倍起跳啦 訓練完後面還要不斷砸錢更新維護 GPT創辦人說拿來一部份微軟10億美元 GPT創辦人說微軟還要給100億美元
爆
[閒聊] TGA應該要由玩家投票決定嗎？![[閒聊] TGA應該要由玩家投票決定嗎？](https://i.imgur.com/6rAyV9Lb.jpeg "[閒聊] TGA應該要由玩家投票決定嗎？")
82
[閒聊] 幹 Ado怎麼又秒殺了![[閒聊] 幹 Ado怎麼又秒殺了](https://i.imgur.com/bkO5e9Xb.png "[閒聊] 幹 Ado怎麼又秒殺了")
70
[情報] IGN:黑悟空是公開評分最低的TGA提名遊戲![[情報] IGN:黑悟空是公開評分最低的TGA提名遊戲](https://i.imgur.com/nLWxZnBb.jpeg "[情報] IGN:黑悟空是公開評分最低的TGA提名遊戲")
57
[閒聊] 繪師的圖被拿去做手機殼，請勿購買![[閒聊] 繪師的圖被拿去做手機殼，請勿購買](https://pbs.twimg.com/media/GcyR0owbcAEwtVX.jpg "[閒聊] 繪師的圖被拿去做手機殼，請勿購買")
53
[討論] 日本古代的鐵這麼優質嗎![[討論] 日本古代的鐵這麼優質嗎](https://i.imgur.com/yiEgu0Ib.png "[討論] 日本古代的鐵這麼優質嗎")
47
[閒聊] 暗喻幻想製作人：已經開始著手下一款新作![[閒聊] 暗喻幻想製作人：已經開始著手下一款新作](https://sw.cool3c.com/user/104471/2024/dcf6cb7c-cb9d-4c9c-87eb-af2149ccc031.jpg?fit=max&w=1400&q=80 "[閒聊] 暗喻幻想製作人：已經開始著手下一款新作")
71
[閒聊] 宙斯是不是真的不覺得待在T1開心過![[閒聊] 宙斯是不是真的不覺得待在T1開心過](https://i.imgur.com/Vn0A4Oib.jpg "[閒聊] 宙斯是不是真的不覺得待在T1開心過")
37
[閒聊] 飛彈還能裝那麼多彈頭喔![[閒聊] 飛彈還能裝那麼多彈頭喔](https://i.imgur.com/yay6YDMb.jpeg "[閒聊] 飛彈還能裝那麼多彈頭喔")
32
[情報] 2025這本輕小說真厲害 第一名 敗北女角太33
[Vtub] 輪堂千速 肉肉大腿 gif![[Vtub] 輪堂千速 肉肉大腿 gif](https://i.imgur.com/3YCMlwzb.gif "[Vtub] 輪堂千速 肉肉大腿 gif")
32
[閒聊] 說到"歌姬"會想到哪些角色？![[閒聊] 說到"歌姬"會想到哪些角色？](https://i.imgur.com/y5jX045b.jpeg "[閒聊] 說到\"歌姬\"會想到哪些角色？")
27
Re: [閒聊] 怎麼?你當台灣人當得很難過嗎?28
[閒聊] 這本輕小說真厲害 2025![[閒聊] 這本輕小說真厲害 2025](https://i.imgur.com/SaRisJ2b.jpeg "[閒聊] 這本輕小說真厲害 2025")
26
[閒聊] 鐵道 內鬼 遺器系統大進化![[閒聊] 鐵道 內鬼 遺器系統大進化](https://i.imgur.com/N6yVSSvb.jpeg "[閒聊] 鐵道 內鬼 遺器系統大進化")
27
[鳴潮] 2.0內鬼爆料 今汐：會贏喔![[鳴潮] 2.0內鬼爆料 今汐：會贏喔](https://i.imgur.com/en1QJGHb.jpeg "[鳴潮] 2.0內鬼爆料 今汐：會贏喔")
27
[暴死] 星戰亡命之徒 Steam 發售 834人最高上線![[暴死] 星戰亡命之徒 Steam 發售 834人最高上線](https://i.imgur.com/eDes4Xpb.png "[暴死] 星戰亡命之徒 Steam 發售 834人最高上線")
27
[問題] 台詞不多卻很帥的角色![[問題] 台詞不多卻很帥的角色](https://i.imgur.com/rSe2Wf9b.png "[問題] 台詞不多卻很帥的角色")
26
[閒聊] 有像譚雅形容共產黨一樣創意的台詞嗎![[閒聊] 有像譚雅形容共產黨一樣創意的台詞嗎](https://i.imgur.com/bUjiWClb.jpeg "[閒聊] 有像譚雅形容共產黨一樣創意的台詞嗎")
25
[閒聊] T1粉絲有9成5都是Faker粉嗎??24
[閒聊] 七龍珠如果打入複雜情節24
[閒聊] 劍星 比起屁股我果然還是比較喜歡奶啊![[閒聊] 劍星 比起屁股我果然還是比較喜歡奶啊](https://i.imgur.com/pQQnMMEb.gif "[閒聊] 劍星 比起屁股我果然還是比較喜歡奶啊")
22
[馬娘] 大和赤驥：說話請看著我的眼睛![[馬娘] 大和赤驥：說話請看著我的眼睛](https://pbs.twimg.com/media/Gc5zcXkaUAAZBV4.jpg "[馬娘] 大和赤驥：說話請看著我的眼睛")
22
[閒聊] 富樫老婆會幫他畫嗎![[閒聊] 富樫老婆會幫他畫嗎](https://i.imgur.com/panC7Cjb.jpeg "[閒聊] 富樫老婆會幫他畫嗎")
32
Re: [閒聊] 跟女同學做過最親密的舉動是什麼21
[閒聊] 遊戲王 德國巨型卡牌決鬥會28
[閒聊] 越到中年好像越來越能理解左近寺![[閒聊] 越到中年好像越來越能理解左近寺](https://i.imgur.com/F8OvOXfb.gif "[閒聊] 越到中年好像越來越能理解左近寺")
19
[閒聊] 往青鳥那邊走會怎樣？![[閒聊] 往青鳥那邊走會怎樣？](https://i.imgur.com/GrWZmuab.jpg "[閒聊] 往青鳥那邊走會怎樣？")
18
[閒聊] Unlight DMM推出梅莉了，當年強度多猛？![[閒聊] Unlight DMM推出梅莉了，當年強度多猛？](https://i.imgur.com/D4G9Cq5b.jpeg "[閒聊] Unlight DMM推出梅莉了，當年強度多猛？")
17
[討論] 所以爆豪還是算是霸凌仔嗎？17
[雀魂] 不愧是雀魂![[雀魂] 不愧是雀魂](https://i.imgur.com/uYaeqJyb.jpeg "[雀魂] 不愧是雀魂")