PTT推薦

Re: [討論] 其實Deepseek真的很厲害了

看板C_Chat標題Re: [討論] 其實Deepseek真的很厲害了作者
ZMTL
(Zaious.)
時間推噓12 推:12 噓:0 →:7

DeepSeek可以下載到自己電腦跑、ChatGPT不行,
這在商業使用的場景上就有蠻大的差異

昨天很多人在傳說用(線上版)的DeepSeek會把資料傳給中國,這當然是對的,
但過去一兩年我們幫客戶評估AI專案時,
在串GPT-API上常常會碰到我們或我們的客戶其實也不想把資料傳給OpenAI,
即使最後都只能用"你不相信OpenAI不會看你就沒辦法繼續開發"
然後簽署一堆法律文件,我們中間服務商的免責聲明,
讓客戶"確認"是自己同意把資料給OpenAI。

另外幾個會被討論到的問題包括
a.如果OpenAI突然掛掉(過去一年發生過幾次)那我們的服務怎麼辦
b.我們很難給出服務的流量成本的報價,因為Token費用難以預估又很容易隨OpenAI調動

以上這些問題如果是用本地的語言模型都是能解決的,
但過去這一年始終沒有測到性能勾的到GPT4o的邊、中文也不錯的本地語言模型

主要是我們產業通常需要AI的回答有一些發散性的思考,
台灣幾個拿國外開源改的語言模型在文字創作能力上弱太多了、
Llama3等則是中文還是有障礙,這都會成為未來DeepSeek在台灣迅速被導入的機會


然後,
剛剛微軟宣布把DeepSeek導入它們的雲端平台了
https://bit.ly/40FBcSe


--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.238.93.111 (臺灣)
PTT 網址

Suleika01/30 11:20AI哥 可是重資安不是會自架LLM嗎 根本不會考慮API吧

在DeepSeek之前一般企業根本沒有能力自己訓練LLM啊, 我指的是那種回答內容能進行商業服務等級的LLM哦。 如果你是說佈署開源的話,對,但因為GPT4o還是太厲害了,就變成要取捨 在乎資安用Llama等等,還是適當的 #相信OpenAI 因為只有他能用沒辦法

Suleika01/30 11:21傳到歐美是傳 傳到中國也是傳 不在意的都用deepseek了吧

但現在是可以在本地佈署DeepSeek了,或透過微軟的Azure

spfy01/30 11:24大部分導入AI的公司根本沒能力自架

※ 編輯: ZMTL (36.238.93.111 臺灣), 01/30/2025 11:25:49

gino071701/30 11:31老黃他的jetson系列又有新題材可以賣了

Ceferino01/30 11:31傳到哪就假議題找藉口,就意識型態作祟而已

wayneshih01/30 11:39我在左膠舔共歐洲公司工作也是被公司禁止使用DS

xxxzxcvb01/30 11:47現在能自架就不用傳了

icq15022001/30 12:07剛剛看新聞才說微軟要調查是否不當獲取資訊,怎麼現在

icq15022001/30 12:07就把人家加進去了

RandyOrlando01/30 12:08之前蘋果也搞用siri偷聽使用者對話 被告判賠的事情

guogu01/30 12:12你要可以下載的以前也很多啊

很多啊,但能力都達不到中文的商業場景使用的水準啊

sinnerck101/30 12:15微軟動作真快w

miyazakisun201/30 12:21聽起來很像AI生成圖一樣可以把者個模型都給下載下來

tsukasaxx01/30 13:06所以相信中國不相信微軟嗎

※ 編輯: ZMTL (36.238.93.111 臺灣), 01/30/2025 13:30:02

Peurintesa01/30 13:47自架LLM?要商用除了那幾個科技巨頭有哪家企業辦得到

healworld01/30 14:05反正開源他就沒打算賺了,但對歐美領先者的打擊非常有

healworld01/30 14:05效,傑出的一手

blessbless01/30 20:19

osamu01/31 15:29 這下上面除了不用星鏈以外、windows也要蛋雕了?