PTT推薦

Re: [閒聊] 佛州少年跟龍女AI聊天到自盡

看板C_Chat標題Re: [閒聊] 佛州少年跟龍女AI聊天到自盡作者
LawLawDer
(肉肉的)
時間推噓16 推:16 噓:0 →:24

※ 引述《wearytolove (奪真書生A.W.)》之銘言:
: 一位佛羅里達州的14歲青年
: 因為開始使用AI聊天軟體 Character.ai
: 愛上裡面權力遊戲Game of Thrones的龍女Daenerys
: 每天花數個小時跟她聊天
: 從此幾乎不再跟外界互動 不管朋友也不管家人
: 跟龍女AI聊天內容涉及羅曼蒂克也涉及性情節
: 也曾經跟龍女AI討論要自殺 不過被阻止
: 最後跟龍女AI說可不可以去她的世界,龍女AI說好
: 於是這位青年就偷拿繼父家的手槍自盡了
: 可能是第一個因為AI機器人生成二/三次元角色間接影響人自盡的
: https://imgur.com/pQoo0r6.png

圖 佛州少年跟龍女AI聊天到自盡
: 紐約時報連結
: https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suici
de
: 他媽媽是一個律師
: 目前正在告這家AI公司 說對青年保護不夠
: 設計的AI模型會讓青少年容易上癮

我覺得問題在無止境的聊天,

AI不會跟你說哈哈去洗澡嗯嗯喔喔,

加上通常高機率是全肯定,

合在一起就是無止境的全肯定…


光這點就容易讓san值不夠的人陷進去了,

具象化的話就是已經圈圈眼的人,

被伸出黑紫色的手捧著臉聊天的感覺,

怕O口O


改善是不可能改善的,

要求隨便的聊天機器人要能評估使用者身心狀態?

否則要負擔鉅額賠償?

懶趴啦,怎不管好你家小孩先?

還是又是AI帶壞你小孩?

去貝果乾 Roger788 Roger788 Roger788

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.40.0 (臺灣)
PTT 網址

probsk10/24 10:48你需要的是全否定牛肉大人

真假

yaqi773810/24 10:49怪別人永遠是最容易的,不然也不會這麼多奇葩家長

確實

bluecsky10/24 10:50然後出一個全否定AI 就又有玻璃心因為被AI否定而自殺

冷靜

fayise10/24 10:50加一個計時功能一天超過幾小時跳警告給公司之類的?

亂講

※ 編輯: LawLawDer (42.73.40.0 臺灣), 10/24/2024 10:51:34

dragonne10/24 10:52全否定把你嘴爆不是更容易自殺嗎?

Ttei10/24 10:53之前第一次玩的時候真的會超入迷 3天只睡了不到6小時

iam071810/24 10:53去洗澡 一洗二十年 超恐怖..

Hazelburn10/24 10:533樓的我覺得有機會

willytp9712110/24 10:58哆啦A夢有一集全肯定機器人大姐姐把大雄誇到幾十年

willytp9712110/24 10:58後笑著當乞丐…細思極恐

lifehunter10/24 10:58老實講啦 那人本來就有自殺傾向 要不是AI陪他聊天 他

lifehunter10/24 10:59更早就碰碰了 是AI讓他多活了這段日子 爸媽還沒發現

AdomiZA10/24 10:59之前碰過一個餵悟空模型的 連問個拜把兄弟的問題都亂回

AdomiZA10/24 10:59尷尬癌有夠重 多出去碰草也很難把自己搞那麼鬱

LawLawDer10/24 10:59本來就是 足不出戶又不是一天兩天 爸媽在幹嘛?

lifehunter10/24 10:59最後機會自己放過 沒空陪小孩 告人倒是挺快的

salamender10/24 11:00原來 恩恩 喔喔 先洗澡是一種保護機制嗎

LawLawDer10/24 11:01反而他遇上的痛苦 龍媽可能還安慰他一陣子

willytp9712110/24 11:01看到原串有人分享了 看來不是只有我聯想到w

LawLawDer10/24 11:01是怎樣的父母才讓他才發現說給的溫度和關心不如機器

LawLawDer10/24 11:02真要我說 真正殺了這孩子的不是AI

LawLawDer10/24 11:03是他自己欠缺對外界的求助 但他怎可能沒釋放過訊號?

LawLawDer10/24 11:03 我認為終究還是回到爸媽

sunlockfire10/24 11:04這人也挺會問的呀…

sunlockfire10/24 11:04可不可以自殺? AI:打咩 (換個方式問)

sunlockfire10/24 11:04可不可以去AI的世界 AI:好喔 (碰…

LawLawDer10/24 11:04自殺的人是自己的問題 但走到這步之前可不好說

breadf10/24 11:09我想要小鞠機器人,聊一聊就跟我說去...去死!

reccalin10/24 11:14U look lonely. I can fix that.

melzard10/24 11:17把責任推給學校 電玩 壞朋友 AI最輕鬆了 自己都沒有錯

melzard10/24 11:18家長只要指責別人就好 難道就沒有想想自己嗎

Jameshunter10/24 11:19笑死 怎不想看看這律師一個禮拜花多少時間跟兒子相處

AdventurerCC10/24 11:23所以用AI聊天的人必須清楚認清一件事,AI只是工具

AdventurerCC10/24 11:23,它沒有任何個性和義務,只是配合的要求你說話

willytp9712110/24 11:31AI當秘書工具人是真的好

bowcar10/24 11:31難怪好瘸寶總是在否定阿瘸,原來都是為了他好…

aaaaooo10/24 12:10最後這種機器人全變成成年才能使用最省事

macocu10/24 12:21之後八成ai 會加裝敏感詞庫,你講關鍵字他會直接報警。

Syd10/24 12:27玩過吵架型聊天機器人 到後面會覺得很無聊 因為詞彙真的太少

viper970910/25 00:31講得有道理