[問卦] 鄉民的語言都被AI蒸餾了，該怎麼辦～

44 

比較好奇這段： 儘管蒸餾是AI業界常見做法，但DeepSeek若利用蒸餾技術來打造自家模型，並與OpenAI競 爭，將違反OpenAI服務條款，因此產生疑慮。 OpenAI婉拒進一步說明或提供證據細節。根據該公司的服務條款，用戶不得「複製」任何 OpenAI的服務，或是「利用輸出結果，來開發與OpenAI競爭的模型」。 各個ai 大語言模型不是都會互相參照比較和訓練嗎？ 我以為這是業界常識…

23 

各家互相參考, 指的是訓練方法還有訓練的文本挑選, 蒸餾不太一樣 AI = 模型的程式碼+訓練 能開源的部分只有程式碼, 訓練是看各自調教 模型的能力夠, 差不多的調教方式就會得到差不多的結果 訓練方法更好, 或是文本品質越高、越多樣、量越多, 模型就越強

21 

阿肥實在受不了一堆文盲吵不對焦還硬要吵 來先來看看 GPT是怎麼解釋蒸餾的 覺得太長的可以直接下滑到總結 Q: 在Deep learning領域 什麼是蒸餾? 以下來自ChatGPT的回答：

10 

目前的推測應該是跳過了訓練模型的部分 也就是說不是從0開始構築AI模型，而是用成熟的AI模型來訓練，避免掉很多無謂的試錯 或空轉，也就是之前新聞在說的「蒸餾技術」 AI 系統中的 「蒸餾技術」（Knowledge Distillation，知識蒸餾），是一種 模型壓縮 （Model Compression） 方法，主要用來讓較小的模型學習較大模型的知識，同時保持高

 5 

這幾天八卦版突然有很多AI專家 那剛好問一下 這兩天看到很多人說 DeepSeek 是用蒸餾（Distillation）手法學習chatgpt的 所以訓練費才會這麼便宜

 6 

沒有錯， 成本除了 “訓練微調出模型”，還有”應用時推論營運成本” 1. 訓練主要跳過 SFT, 2. 推論營運的成本就是雲端假設大家的應用成本，也同時帶動本地假設的可能。 所以我 Mac M2 Max，有 64GB ram，跑 DS 70B 速度還不錯，30B 完全舒服。

 5 

如提 現在科技發達，特別是AI，雖然還沒完全成熟 但已經能夠協助作一些簡單的東西了，甚至是生成精美的概念影像 連威爾史密斯吃麵都變得越來越真實了 小弟我現在連寫履歷，或是學語言都會問AI

 5 

[問卦] AI沒經過同意就拿全網路資料訓練根本抄襲吧？ 幹！最近越想越不對勁啦！ 那些什麼AI畫圖、AI寫作的 說什麼用「公開資料」訓練 啊不就沒經過原作者同意

 2 

聽說資訊準確率超低， 那麼為什麼會震撼美國？ 昨天猜想的可能原因，再貼一次。 整理一下： 分兩個部分來說，

 1 

前文恕刪 : 據報導，DeepSeek僅用2048片H800顯示卡 (GPU)、耗時兩個月，就訓練出了一個6710億參 : 數的DeepSeek-V3。相較於Meta訓練參數量4050億的Llama 3，用了1萬6384片更強的H100 : 顯示卡，花了54天。DeepSeek的訓練效率提升了11倍。 這比法很不公平