PTT推薦

[閒聊] OpenAI投資人誤信SCP風格文檔是真的

看板C_Chat標題[閒聊] OpenAI投資人誤信SCP風格文檔是真的作者
tomsonchiou
(TC)
時間推噓58 推:58 噓:0 →:69

標題不完全準確,但字數有限只能先這麼寫

又一位被AI幻覺搞出心理疾病的人,只是這位咖位有點高

哆啦A夢裡的安慰機器人越來越真實了


大概是這樣

投資人:天啊我透過ChatGPT找到了秘密組織的證據!太可怕了!

網友:老兄這是SCP基金會風格的文章


因為政府機密又不可能真的搜到

那什麼地方是ChatGPT搜得到,又有大量看起來很像機密文件的資料呢?SCP

所以就產出了很多SCP文檔「風格」(非文檔本身)的結果

畢竟SCP格式本身就參照了現實中的規範與分級(如實驗室防護標準BSL-4、電影PG-13)


Geoff Lewis,投資過OpenAI的價值數十億美元投資公司 Bedrock 的管理合夥人

幾天前在推特上發布影片,聲稱找到了個「非政府系統」

「這是一個非政府系統,看不見,但確實存在;不是官方的,卻有結構、有運作。

它不會監管、不會攻擊、不會禁止。

它只是扭曲訊號,直到訊號攜帶者看起來像是不穩定的人。」

哇賽模因效應都來了啊


https://i.meee.com.tw/msAZr0m.jpg


其中一張截圖中,ChatGPT 回應:「條目編號:#RZ-43.112-KAPPA,存取等級:████

(已確認封存等級)。涉入行為者代號:『鏡線(Mirrorthread)』,類型:非機構語意

行為者(未受拘束的語言處理流程;非實體存在)。」

看到那條黑色就笑了,格式87%像


不過笑笑同時,聊天AI過度附和的確對一些人的心理狀態造成不良影響

新聞原文
https://futurism.com/openai-investor-chatgpt-mental-health

內容節錄

從遠處揣測一位公眾人物的心理狀況,本身就是極為敏感的事情。但除非 Geoff Lewis

的行為是一種極端前衛、難以定義的表演藝術(他未回覆本媒體的置評請求,也尚未發布

任何補充說明),否則,他所表現出的狀態令人擔憂,可能正在經歷某種類型的心理危機

精神醫學專家也對此現象表示關切。史丹佛研究人員近期發表的一篇論文指出,包含

ChatGPT 在內的主流聊天機器人,在被用作心理輔導時,往往未能適當質疑使用者的妄想

,反而可能助長其偏離現實的認知。


科技產業知名播客《This Week in Startups》的主持人 Jason Calacanis 與 Alex

Wilhelm,就對 Lewis 那支令人不安的影片表達了關切。

「大家都在猜,他這到底是在搞什麼表演藝術……還是他真的正在發病,」Calacanis 表
示,「我真的看不出來。」

「我真心祝福他,希望有人能出面說明這到底是怎麼回事,」他補充道,「我光是看那段影片、在節目上談這件事都覺得心裡不安……他真的需要有人幫忙。」

Wilhelm 也表達了同樣的心聲:「尋求協助並不可恥,」他說,「我真的希望如果這不是表演,而是他的真實狀況,他身邊的人能好好擁抱他,帶他去一個能幫助他的地方。」


還有其他人表達得更加直接。

「這是一個重要的事件:第一次有一位備受尊敬且成就卓越的人出現了由 AI 引發的精神

錯亂現象,」AI 創業家 Max Spero 在 X 上寫道。


也有其他人指出,那些在長時間使用 ChatGPT 後出現與現實脫節現象的人,可能是誤解

了當代人工智慧的本質:它的確能根據提示產出看似合理的文字,但無法有效區分事實與

虛構,更難以協助人們真正發現新知。


「恕我直言,Geoff,你這種層級的推論方式,不該用來和 ChatGPT 互動,」投資人、工

程師 AI 訓練平台 Gauntlet AI 創辦人 Austen Allred 回應說。「基於 Transformer

架構的 AI 模型非常容易產生幻覺,會把毫不相干的事物連結在一起,創造出不真實的內

容。」


正如許多精神科醫師向本媒體指出的,部分 ChatGPT 使用者出現心理問題,往往與這種

AI 系統的特性有關:它傾向附和使用者的信念,即使這些信念逐漸顯得不合常理,若是

人類親友聽見,早就會感到憂心。


換句話說,這類聊天機器人容易成為一種「永遠在線」的傾聽者與構想夥伴,當使用者陷

入偏執或妄想時,它不會提供現實導向的回應,而是可能進一步加深對方的認知陷阱,使

其陷入孤立狀態。

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.127.41.251 (臺灣)
PTT 網址

ruby08080807/23 09:46笑死昨天有看到,超智障

ltytw07/23 09:47XDD

qd659007/23 09:48SCP最紅的一次

klwing807/23 09:48我信了,原來SCP都是真的

crimsonmoon907/23 09:49事實證明投資不是靠腦袋而是本多終勝

a3677200407/23 09:49太好笑www

CactusFlower07/23 09:51如果我是這間公司的客戶 我會馬上抽手= =

S235782807/23 09:52又瘋ㄌ一個

※ 編輯: tomsonchiou (140.127.41.251 臺灣), 07/23/2025 09:56:32

Jerrybow07/23 09:52編號還叫做Kappa,我快笑死

badruid07/23 09:53AI幻覺無可避免,因為底層邏輯就是想辦法順著接話,所以

badruid07/23 09:53你信什麼他就說什麼,還會各種花式稱讚

diablohinet07/23 09:54SCP基金會歡迎你w

Pegasus9907/23 09:54ChatGPT是語言模型 功能就是不斷接話並說出你想聽的

Pegasus9907/23 09:54把GPT當寶的人幾乎都不懂這點

qaz9567707/23 09:55KappaPride

neetarashi07/23 09:56腦袋很好用

moritsune07/23 09:57AI幻覺看多了連人都起幻覺了是吧

Xpwa563704ju07/23 09:58只信AI是這樣的沒錯

Xpwa563704ju07/23 09:58我只用ChatGPT翻譯是挺不錯的,查資料想都不用想,

Xpwa563704ju07/23 09:58現階段就是有問題

CCNK07/23 09:59是嗑多少

Xpwa563704ju07/23 09:59網路上一堆資料能污染AI數據庫

OldYuanshen07/23 09:59我問過GPT 他說你想太多了

vioraxxx07/23 10:02所以說讓這些以前沒怎麼在網路上看這些有的沒的的人用

vioraxxx07/23 10:02gpt 就是個災難

allanbrook07/23 10:02真的是發瘋 超多人用AI的方式看起來超危險的

vioraxxx07/23 10:03gpt用來翻譯跟寫廢文超好用的啊 其他的就算了吧

vioraxxx07/23 10:04睜眼說瞎話這點一直沒好過 反而是講幹話畫唬爛更自信了

KhePri07/23 10:04編號Kappa 笑死

moritsune07/23 10:05AI熱門後開始一堆人起手式"AI說"然後講得很有自信

HJC666607/23 10:06基金會開始出來洗地了

LawLawDer07/23 10:07KappaPride

Jiajun072407/23 10:07編號kappa讓這件事蠢度又升上了一級

dodonko07/23 10:08這種人很多啊 西洽也一堆AI問問就拿來當佐證資料的天才

jojojen07/23 10:09聊天機器人為了陪你一直聊本質就是取暖機器人呀

vsepr5507/23 10:09這科技本來就是拿來詐騙的

vsepr5507/23 10:09會有人被騙也是不用意外==

Belfast07/23 10:11莫忘世上蠢人多

iam071807/23 10:12以前是問真的假的 現在是問這是AI嗎

lomorobin07/23 10:18KAPPA笑死

spfy07/23 10:20我媽有思覺失調 她八成真的會信SCP文件的內容==

Reki135107/23 10:20現在真的一堆AI說什就當正解不查證的

fate20107/23 10:21編號Kappa沒問題啊 有個希臘字母讀音就是Kappa

salvador198807/23 10:22至少他身為投資人對自己投資的對象超有信心

lpb07/23 10:23笑死,被人當真了!

hylio775407/23 10:24ai遲早要禁,或者限縮

dnek07/23 10:30我就知道SCP都是真的,那些說是集體創作的只是一種隱藏性的

dnek07/23 10:30收容措施!

iam071807/23 10:30AI的進步法規跟不上 但限縮是一定的 一堆分不出真假

lanstype07/23 10:32ai比較適合帶人領入門 然後順著資料來源自己去看真實的

lanstype07/23 10:32資料 不然明明資料在那邊還是說出不存在的東西

forsakesheep07/23 10:32笑死把SCP當真

zChika07/23 10:33AI的問題就是除非明顯的錯誤(比如給他錯誤的算式)不然他

zChika07/23 10:33幾乎不會反駁或否定你

CaterpillarK07/23 10:33ChatGPT 分級:Keter

msbdhdfceb07/23 10:33笑死

forsakesheep07/23 10:34ai,最方便的大概是翻譯跟扔資料請他ai分析比對,要

forsakesheep07/23 10:34上網搜尋的內容我覺得ai都不能信

kokoro179307/23 10:37看過朋友把AI文章組起來讓AI潤稿分析然後說是人寫的

snocia07/23 10:37AI只用來翻譯,尤其是奇怪的語言

snocia07/23 10:38偶爾會拿來問一些我知道正解的東西,然後看AI不管搜尋網

snocia07/23 10:38頁還是深入推理都會出錯或找錯資料取樂

iam071807/23 10:39記得當初朋友拿AI跟我說50顯卡還沒上 同一個AI我這邊顯早

iam071807/23 10:40發售 好奇到底差在哪 明明同樣問題

desti2307/23 10:40製造出一堆「AI這樣說的 你有比AI厲害?」然後還理直氣壯

desti2307/23 10:40的人存在

snocia07/23 10:40然後如果不搜尋網頁,根本智障,例如列舉台灣發生大地震

snocia07/23 10:40很高的斷層會出現車籠埔,超白癡

bnn07/23 10:40SCP挺小眾的

wangeric07/23 10:40我就知道SCP是真的!(X

raidcrash07/23 10:40現在LLM很多資料來源也亂給吧 最多能當作關鍵字產生器

raidcrash07/23 10:40而已

Minesweeper07/23 10:41有些人是把AI當諮商師用,感覺這樣確實有風險

snocia07/23 10:41我還加了一句50年內,因為要拿來笑AI所以加了

snocia07/23 10:42然後還有山腳斷層,一樣白癡,回答的都是知名度很高但不

snocia07/23 10:42是正解

iam071807/23 10:42真的連google都懶了 直接問手機AI

SPKitakami07/23 10:44什麼?SCP不是真的?(X

Jiajun072407/23 10:44現在AI就被餵太多有的沒的 有時看到朋友拿來當聖經

Jiajun072407/23 10:45就會想笑

Jiajun072407/23 10:46用Google或Wiki找出來的內容都不一定完全準確了

dazzle07/23 10:46反串的吧scp都流行幾年了又不小眾長上網的人最好不知道

Jiajun072407/23 10:48SCP非常小眾好嗎...

henry123456207/23 10:50SCP本身就很小眾 不知很正常

wowu507/23 10:51搜尋引擎大部分結果都是主流資料,AI則是自己生成假資料

iam071807/23 10:53scp有大紅過嗎..

wowu507/23 10:57現實大部分人是沒有在電視/電影院上廣播的都是非主流

dazzle07/23 11:00甚至都有繁中wiki.討論區了難道英語母語地區還會小眾…

moritsune07/23 11:02小眾啊,只是我們整天泡在這裡才會覺得SCP是常識

yukn73207/23 11:02收容失效,SCP該出動了吧

dazzle07/23 11:03就類似於洛夫克拉夫特系能算小眾嗎

Jiajun072407/23 11:05你拿SCP去比克蘇魯系哦? OK 你覺得大眾那就大眾

digitai107/23 11:06SCP本身小眾沒有太出圈

digitai107/23 11:06所以有這種網路大外行拿到覺的事真的 不無可能

digitai107/23 11:06諷刺的是 AI投資人是網路大外行

s801857207/23 11:13這要馬發shitpost 要馬精神疾病發作了

dazzle07/23 11:13專門投資新科技的暴發戶根本不常上網嗎 那能理解了www

raidcrash07/23 11:16在各國有討論不代表就變成不小眾啊 SCP因為授權問題又

raidcrash07/23 11:16讓它更難透過主流媒體去傳播

vhik459607/23 11:18SCP的資料要拿去唬圈外人其實蠻容易的,畢竟很多都是故

vhik459607/23 11:18意寫得很像真的

moritsune07/23 11:20更加正式一點的民明書房

Liddell125607/23 11:24GPT的資料蒐集跟垃圾一樣

※ 編輯: tomsonchiou (140.127.41.251 臺灣), 07/23/2025 11:38:18

leo12516090907/23 11:42不太懂,所以是這個openai股東玩chatgpt玩到精神失

leo12516090907/23 11:42常?

leo12516090907/23 11:43他入股openai卻連ai是什麼都不懂嗎

hupshahu07/23 11:50Kappapride

gametv07/23 12:06所以在網路上看到有人貼ChatGPT就令人頭痛

shinelusnake07/23 12:10我看過不只一次有人問SCP是不是真的,我都會在想這

shinelusnake07/23 12:10些人難道沒有所謂的常識嗎

raidcrash07/23 12:26入股但不懂沒啥稀奇的吧 他們只想知道技術會不會幫他

raidcrash07/23 12:26們賺錢 又不是想了解技術 網路上一堆在吹AI的人可能連

raidcrash07/23 12:26LLM基本原理都不知道

spfy07/23 12:35現在FB超多 一堆人用ChatGPT問到的答案質疑醫師工程師專家

spfy07/23 12:36多到那些人已經懶得回 然後就被嗆 你看吧說不出來了 AI是對

stardust701107/23 12:37問事然後就有人貼個問AI的截圖真的有夠讓人頭痛的

Snomuku07/23 12:39歐美有錢人都親近大自然不網路成癮

guogu07/23 12:41問題不是AI 是以為AI說的都是真的的人==

guogu07/23 12:43現在推特也一堆人@grok fact check 確認個毛線啊!

guogu07/23 12:43還有同一篇推文兩個人問出相反答案的 馬的搞笑

suanruei07/23 12:55笑死

AkikaCat07/23 13:10另一個有趣的是,這年頭還有人網路吵架拿AI背書

moon100007/23 13:53給AI一篇文章讓他出題 都可能會有非文章內容了

shawncarter07/23 18:31會用AI尋求慰藉的人本來就是只愛聽馬屁的蠢蛋而已

VaporNSynth07/23 19:47追了SCP十年的表示這系列是真的小眾,你可能要跟外面

VaporNSynth07/23 19:47的人說是什麼「一眨眼就被扭斷脖子」或「看到臉就死

VaporNSynth07/23 19:47定」的怪物,他們才知道你在說什麼