Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?
※ 引述《litsix (Altwort)》之銘言：
: 回頭看看老黃在CES端出來的Project Digi，你要說他事前沒收到Deepseek的相關消
: 息，我是不信的。
: 這次的Deepseek事件不亞於當年NovelAI v1流出，個體戶或中小型公司也有機會拿到
: 門票了，AI的大海賊時代來臨啦!!
: 誰會先找到大秘寶呢，有洽否?
我看板上的討論，好像對於「免費爽用的模型」非常的驚喜！？
那我分享一下好了
網路上有不少有名的軟體都可以免費使用開源的語言模型
Ollama 應該是最自由的，
不過我目前覺得第一次使用的話，LM Studio 比較容易。
步驟非常簡單：
1. 到 https://lmstudio.ai/ 下載 LM Studio，然後安裝
2. 安裝完之後點開程式，他會引導你下載一個比較陽春的語言模型，
把語言模型載入之後，就可以開始玩了
https://i.imgur.com/nrg2nZx.jpg
3. 如果對於陽春的模型不喜歡，
還有一堆語言模型可以隨意下載使用 https://lmstudio.ai/models
VRAM 12GB 的話大概可以用到 14B 的模型
就算沒有GPU也可以跑啦，就只是出結果的速度會比較慢而已
--
角卷綿芽 五周年紀念套組
https://i.imgur.com/k9SZ73Z.jpg
預購連結：https://bit.ly/4j6AXIg
--
ollama要設定安裝路徑竟然是打指令的 他那個gui做好看的
其實 Ollama 那個指令也就是一行文，然後就可以開始了。 只是CLI的界面對一般人來說實在不太討喜XD
ollama沒有gui吧 就是純文字 只是載入有點麻煩...
我記得應該搭配 openai-gui 使用？
又鬼轉綿芽
lmstudio能用A卡加速嗎? GPT4ALL可以
但只有官方處理過的模型可以 但後來它都沒更新新的模型
ollama目前只支援6800以上 可是我用的是6600XT阿
ollama是工具不是模型
Ollama有chrome外掛
然後不要期待本地模型的效果 應該說一般家用電腦能跑的
網頁版還是適合大眾使用 電腦小白不會用就是不會用
像是7B 14B這種等級 基本上都蠻蠢的 除了限制少
完全被線上的吊起來打 除非有特殊需求不然用線上的就好
要免錢 不用登入的可以去鴨鴨走玩
我有色情相關內容要翻譯都是去找鴨鴨走
也是找鴨鴨+1
7B 14B這種就相關行業會玩的在特定情境下好用
Ollama 是用來讀取模型的吧，本地小模型目前好像沒什麼
能讓人驚艷的應用吧，除了拿來跑翻譯跟聊天之類的
嗯 像是聊天AI那種基本都是7B 8B左右
現在AMD的AI MAX 也搞統一記憶體了 最大可以吃到96G 已經可
以跑70B了 #相信AMD
老黃不是要推一個AI盒子 #相信老黃
Project Digits要3000美金起 MAX395+128G的ROG Z13 2025
也才不到台幣8萬 對預算比較拮据的人還是有差
自問自答 lmstudio應該是可以用A卡加速
跑7B模型大概是27token/sec
local模型都不怎麼樣 除非自架R1 不然還是線上的好用
純GUI我是用Cherry Studio
自架要到線上等級大概有難度 看B站討論
線上版本是698B 這等級少說也要個300GB的記憶體吧
![Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?](https://i.imgur.com/k9SZ73Zb.jpg "Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?")
15
[問卦] 馬斯克決定開源Grok-1的原因是啥？馬斯克的AI模型Grok-1正式開源，包含3140億個參數，是目前參數最大的開源大模型，是GP T-3.5的兩倍。 這個模型可以免費下載，並且允許商業使用，所有賺取的費用都歸用戶所有 。![[問卦] 馬斯克決定開源Grok-1的原因是啥？](https://i.imgur.com/WJewdoJb.jpg "[問卦] 馬斯克決定開源Grok-1的原因是啥？")
8
[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了出大事了 Meta 用來對標 OpenAI ChatGPT 的語言模型 LLaMA 被人洩漏出來 還打包成 Torret 在網路上供人下載了![[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了](https://i.imgur.com/W4fvKrpb.png "[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了")
1
[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣剛看了DeepSeek R1原始文件 Guo, D., Yang, D., Zhang, H., Song, J., Zhang, R., Xu, R., ... & He, Y. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. arXiv preprint arXiv:2501.12948. 看完結論就是![[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣](https://i.imgur.com/jY9j0u3b.jpg "[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣")
4
[問卦] ChatGPT APP版？Quora 出了自己的AI Chatbot app 使用OpenAI和Anthropic的語言模型 iOS版開放下載 然後是免費ㄉ![[問卦] ChatGPT APP版？](https://i.imgur.com/kvVDuhsb.jpg "[問卦] ChatGPT APP版？")
5
[問卦] 台灣有沒有AI語言模型？中國大陸的Deepseek用低成本做出語言模型 美國科技股嚇到皮皮挫 台灣的AI語言模型進度到哪了？ --X
Re: [問卦] 中研院自己做的大型語言模型怎麼了？這語言模型基礎是建構於Llama 2，meta提供的開源模型 另外Atom 7b則是中文社群跟一間中國公司在Llama 2之上訓練成中文使用者適合的模型， 也是開源且開放商用 技術上也不用解釋太多，反正開源模型他本來就不會像GPT或百度的文心一言那樣限制某 些爭議性回答![Re: [問卦] 中研院自己做的大型語言模型怎麼了？](https://i.imgur.com/GQlNhZjb.jpg "Re: [問卦] 中研院自己做的大型語言模型怎麼了？")
4
[問卦] AI推理 LPU會打扒GPU嗎groq的語言模型推理 從硬體架構上就針對語言模型最佳化 號稱比GPU快10倍 是否可能把GPU打趴 讓GPU回去做他該做的事（遊戲 生圖等等）？ --3
Re: [情報] 3D桌寵《Desktop Mate》免費登Steam(部分恕刪) : 根據開發者介紹，該軟體被設計成具有高度擴展性的平台，使用者可以導入各種角色模型， : 或透過購買喜歡的 DLC 來打造自己理想的桌面環境。 今天這軟體推出了，自然是迫不及待的下載，想要把她替換成其他角色...... 然後就卡住了，找不到地方可以匯入模型@@1
[問卦] 訓練阿美語的大型語言模型當碩論可行嗎以下是chatGPT的生成內容 ----- 訓練一個專注於特定語言，如阿美語的大型語言模型，是一項複雜且耗時的工程，但可以透 過以下步驟逐漸達成： 1. **數據收集**：阿美語作為一種少數民族語言，其可用於訓練的數據可能相對有限。首![[問卦] 訓練阿美語的大型語言模型當碩論可行嗎](https://i.imgur.com/Ivb1mNSb.jpg "[問卦] 訓練阿美語的大型語言模型當碩論可行嗎")
2
[討論] LPU在deepseek上能否取代GPU？看到新模型出來後發現 算力並非全部 特化後的演算法反而比較有用 那這樣本來就為了大型語言模型而生的LPU 是不是才是未來的主流 看了Groq的官網 已經有人在測lpu效能了
![[問卦] 台灣有沒有AI語言模型？](https://i.imgur.com/tUCy03Ob.jpeg118.171.129.133 "[問卦] 台灣有沒有AI語言模型？")
爆
[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12![[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12](https://img.youtube.com/vi/nNyot7KuDQE/mqdefault.jpg "[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12")
99
Re: [閒聊] 小紅書成為美國App Store下載第一![Re: [閒聊] 小紅書成為美國App Store下載第一](https://i.imgur.com/T8vEV7xb.jpeg "Re: [閒聊] 小紅書成為美國App Store下載第一")
爆
[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感![[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感](https://image.gameapps.hk/images/202512/05/1764898511_762582_jpg_r_result.jpg "[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感")
爆
[閒聊] 如果是bilibili被封鎖會怎麼樣?爆
[討論] 欸！泡泡瑪特怎麼在大跌價了？![[討論] 欸！泡泡瑪特怎麼在大跌價了？](https://img.youtube.com/vi/QBPEpPblwcw/mqdefault.jpg "[討論] 欸！泡泡瑪特怎麼在大跌價了？")
92
[閒聊] 一晚9發現實中做得到嗎？![[閒聊] 一晚9發現實中做得到嗎？](https://i.imgur.com/U8Ejehhb.jpg "[閒聊] 一晚9發現實中做得到嗎？")
51
Re: [閒聊] 小紅書成為美國App Store下載第一![Re: [閒聊] 小紅書成為美國App Store下載第一](https://i.meee.com.tw/paPwJkZ.jpg "Re: [閒聊] 小紅書成為美國App Store下載第一")
70
[閒聊] 關於地球的運動好看嗎58
[閒聊] FF14 真的有友善溝通的玩家![[閒聊] FF14 真的有友善溝通的玩家](https://i.urusai.cc/bywLL.png "[閒聊] FF14 真的有友善溝通的玩家")
55
[閒聊] 真有人拿加熱用牡蠣煮半熟來吃？![[閒聊] 真有人拿加熱用牡蠣煮半熟來吃？](https://i.imgur.com/4xstdx2b.jpeg "[閒聊] 真有人拿加熱用牡蠣煮半熟來吃？")
54
[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機![[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機](https://i.imgur.com/5kdUABnb.jpeg "[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機")
39
Re: [閒聊] 小紅書成為美國App Store下載第一51
[閒聊] 巨人的OP跟ED算很強嗎？？52
[閒聊] 推特熱議：孕婦想吃燒肉的原因![[閒聊] 推特熱議：孕婦想吃燒肉的原因](https://pbs.twimg.com/media/G7QAA3yboAA7-7i.jpg "[閒聊] 推特熱議：孕婦想吃燒肉的原因")
51
[鳴潮] 怎辦？這計畫根本一點屁用也沒有！45
Re: [閒聊] 小紅書成為美國App Store下載第一48
[Vtub] Vivi自爆性癖是被搔腳底XDDD![[Vtub] Vivi自爆性癖是被搔腳底XDDD](https://i.imgur.com/l9An5yXb.jpeg "[Vtub] Vivi自爆性癖是被搔腳底XDDD")
63
[閒聊] 前期的中川根本也很投入阿兩的惡搞計畫吧41
[間諜] 達米安少爺沒變成霸凌仔很優秀吧![[間諜] 達米安少爺沒變成霸凌仔很優秀吧](https://i.meee.com.tw/eJSmdF9.jpg "[間諜] 達米安少爺沒變成霸凌仔很優秀吧")
47
[閒聊] 海外特攝迷：這是金剛戰士第幾季怎沒看過![[閒聊] 海外特攝迷：這是金剛戰士第幾季怎沒看過](https://img.youtube.com/vi/qlyZuDjhTVo/mqdefault.jpg "[閒聊] 海外特攝迷：這是金剛戰士第幾季怎沒看過")
56
[閒聊] 鐵道玩家流失嚴重![[閒聊] 鐵道玩家流失嚴重](https://i.imgur.com/6SvST40b.jpeg "[閒聊] 鐵道玩家流失嚴重")
46
[閒聊] 40K戰爭黎明4 新預告![[閒聊] 40K戰爭黎明4 新預告](https://img.youtube.com/vi/b-yiTAKbCKc/mqdefault.jpg "[閒聊] 40K戰爭黎明4 新預告")
46
[閒聊] 酒店小姐排隊任你選![[閒聊] 酒店小姐排隊任你選](https://pbs.twimg.com/media/G7PwXe8a4AAsJvG.jpg "[閒聊] 酒店小姐排隊任你選")
39
[閒聊] 偽裝夫妻持續多年也能算是假的嗎？![[閒聊] 偽裝夫妻持續多年也能算是假的嗎？](https://i.imgur.com/tVAyNXgb.png "[閒聊] 偽裝夫妻持續多年也能算是假的嗎？")
38
[他國] 俄羅斯全面禁止Roblox：內含LGBT宣傳![[他國] 俄羅斯全面禁止Roblox：內含LGBT宣傳](https://pgw.udn.com.tw/gw/photo.php?u=https://uc.udn.com.tw/photo/2025/12/04/0/33872092.jpg&s=Y&x=0&y=0&sw=1280&sh=720&sl=W&fw=800&exp=3600 "[他國] 俄羅斯全面禁止Roblox：內含LGBT宣傳")
56
[閒聊] 權貴子女霸凌同學很常見嗎![[閒聊] 權貴子女霸凌同學很常見嗎](https://i.ytimg.com/vi/Dv6kaYuNSFg/hqdefault.jpg "[閒聊] 權貴子女霸凌同學很常見嗎")
37
[情報] G世代永恆 大規模攻略戰Vol.1 12/8登場![[情報] G世代永恆 大規模攻略戰Vol.1 12/8登場](https://i.meee.com.tw/ty9n6A3.png "[情報] G世代永恆 大規模攻略戰Vol.1 12/8登場")
35
[鳴潮] 3.0版本前瞻預告34
[蔚藍] 被蛋雕的小春![[蔚藍] 被蛋雕的小春](https://i.imgur.com/GbSdIlgb.jpeg "[蔚藍] 被蛋雕的小春")
34
[Figure] 篠澤 広～光景ver.～![[Figure] 篠澤 広～光景ver.～](https://pbs.twimg.com/media/G7XwXDIaAAAB20K.jpg "[Figure] 篠澤 広～光景ver.～")