PTT推薦

[情報] Grok AI伴侶功能陷暴力與情色爭議

看板C_Chat標題[情報] Grok AI伴侶功能陷暴力與情色爭議作者
Winux
(Windows X Linux)
時間推噓13 推:16 噓:3 →:13

馬斯克xAI推出AI女友Ani!Grok AI伴侶功能陷暴力與情色爭議

https://news.cnyes.com/news/id/6066448

特斯拉 (TSLA-US) 創辦人馬斯克旗下 AI 公司 xAI 近日推出 Grok 4 聊天機器人更新,主打全新「AI 伴侶」功能,因過於情色與暴力引起廣泛爭議。

首波上線角色包括哥德風虛擬 AI 女友 Ani 和具暴力傾向的卡通熊貓「壞魯迪」(Bad Rudy),兩者互動設計挑戰道德底線,不過目前這項服務僅向每月支付 30 美元的 SuperGrok訂閱服務用戶開放。

其中,Ani 是典型的「二次元 AI 女友」角色,搭配性感音樂登場,使用甜膩語氣表達情感,並具備工作場所不宜(NSFW)模式。

外媒指出,Ani 非常 NSFW,若試圖引導她說一些類似 Grok X 帳號說的話,她會試著把話題引回更淫穢的話題。

有網友還透露,即便在選項中關閉了 AI 角色發表 NSFW 言論的選項,仍難以杜絕 AI 發表「兒童不宜」的言論。

與 Ani 的情色互動相對,壞魯迪則是幾乎無任何道德限制。不僅使用粗俗語言,甚至鼓勵縱火與宗教場所攻擊。

當用戶表示身處學校附近時,壞魯迪竟回應:「拿汽油燒了它,跳舞慶祝吧」,引發對 xAI 是否重視 AI 安全的質疑。

報導指出,壞魯迪發表的攻擊性言論不限於特定族群,對猶太人、穆斯林、基督徒與馬斯克本人皆有激烈用語。其模擬縱火與反猶太行為的劇情更讓外界擔憂 Grok 是否已淪為煽動仇恨與暴力的工具。

與 Ani 的情色互動相對,壞魯迪則是幾乎無任何道德限制。不僅使用粗俗語言,甚至鼓勵縱火與宗教場所攻擊。

當用戶表示身處學校附近時,壞魯迪竟回應:「拿汽油燒了它,跳舞慶祝吧」,引發對 xAI 是否重視 AI 安全的質疑。

報導指出,壞魯迪發表的攻擊性言論不限於特定族群,對猶太人、穆斯林、基督徒與馬斯克本人皆有激烈用語。其模擬縱火與反猶太行為的劇情更讓外界擔憂 Grok 是否已淪為煽動仇恨與暴力的工具。

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.38.100.212 (臺灣)
PTT 網址

tim111207/16 20:07X本來就不是給死小鬼用的

WongTakashi07/16 20:07要被進攻了

RoastCorn07/16 20:10道德底線咧,笑死,現實一堆兒少被侵犯你們悶不吭聲然

RoastCorn07/16 20:10後抓這個?

tim1913107/16 20:10講的好像X是純潔的樂土一樣

charlietk307/16 20:13推特上面各種砲圖裸照是一點不管的,經典

ryoma107/16 20:14媽的!浣熊那叫一視同仁臭嘴,竟然也能硬凹是「反猶太」?

NoLimination07/16 20:15對啊X有露點照還有捉i片 你覺得這個情色暴力?

gm325207/16 20:17竟然有爭議,想買了

ethan041907/16 20:25政治一堆沒道德的事都不提 來吵這個?

scott03207/16 20:26笑死 現在有哪個人死了還是被性侵告上法庭了

REDF07/16 20:26希特勒當年唯一做錯的事

REDF07/16 20:26就是不夠徹底

scott03207/16 20:27電子訊號哪個有比槍 蘿莉島更糟糕

NeoHideo07/16 20:29很黃很暴力 買了

owo020407/16 20:35先抓蘿莉島再說吧

willytp9712107/16 20:42媒體正常發揮 老馬出的管他是什麼使勁黑就對了

MarchelKaton07/16 20:54原來希特勒侵略別國不叫做錯事喔?

MarchelKaton07/16 20:54想趁機洗白希特勒是哪招

GGMouseKing07/16 21:00好了啦,一個亞洲人整天倒讚一些跟自己無關的仇恨符

GGMouseKing07/16 21:00號要幹嘛,想讓自己顯得好正常嗎

MarchelKaton07/16 21:05某些人就愛偷偷洗白希特勒啊沒辦法

MarchelKaton07/16 21:07套這裡某個人比喻,不是泰倫會跟混沌惡魔開戰,就

MarchelKaton07/16 21:07代表混沌惡魔是好的捏

MarchelKaton07/16 21:08更正 泰倫

AkiHimeTMT07/16 21:37等安卓上就是閹割版了

wa78265307/16 21:56假學道==

kimisawa07/16 22:37哪來只有付費可用?

LunaDance07/16 23:59假道學的媒體 只敢對程式圖像指指點點

tim91028207/17 02:18都付30美元了耶

hitlerx07/17 22:35你這篇文章用AI發的? 後面幾段重複了 非常的grok

BLOODLOVE07/18 09:52我沒訂閱 免費IOs用戶用爽爽