Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?
※ 引述《litsix (Altwort)》之銘言：
: 回頭看看老黃在CES端出來的Project Digi，你要說他事前沒收到Deepseek的相關消
: 息，我是不信的。
: 這次的Deepseek事件不亞於當年NovelAI v1流出，個體戶或中小型公司也有機會拿到
: 門票了，AI的大海賊時代來臨啦!!
: 誰會先找到大秘寶呢，有洽否?
我看板上的討論，好像對於「免費爽用的模型」非常的驚喜！？
那我分享一下好了
網路上有不少有名的軟體都可以免費使用開源的語言模型
Ollama 應該是最自由的，
不過我目前覺得第一次使用的話，LM Studio 比較容易。
步驟非常簡單：
1. 到 https://lmstudio.ai/ 下載 LM Studio，然後安裝
2. 安裝完之後點開程式，他會引導你下載一個比較陽春的語言模型，
把語言模型載入之後，就可以開始玩了
https://i.imgur.com/nrg2nZx.jpg
3. 如果對於陽春的模型不喜歡，
還有一堆語言模型可以隨意下載使用 https://lmstudio.ai/models
VRAM 12GB 的話大概可以用到 14B 的模型
就算沒有GPU也可以跑啦，就只是出結果的速度會比較慢而已
--
角卷綿芽 五周年紀念套組
https://i.imgur.com/k9SZ73Z.jpg
預購連結：https://bit.ly/4j6AXIg
--
ollama要設定安裝路徑竟然是打指令的 他那個gui做好看的
其實 Ollama 那個指令也就是一行文，然後就可以開始了。 只是CLI的界面對一般人來說實在不太討喜XD
ollama沒有gui吧 就是純文字 只是載入有點麻煩...
我記得應該搭配 openai-gui 使用？
又鬼轉綿芽
lmstudio能用A卡加速嗎? GPT4ALL可以
但只有官方處理過的模型可以 但後來它都沒更新新的模型
ollama目前只支援6800以上 可是我用的是6600XT阿
ollama是工具不是模型
Ollama有chrome外掛
然後不要期待本地模型的效果 應該說一般家用電腦能跑的
網頁版還是適合大眾使用 電腦小白不會用就是不會用
像是7B 14B這種等級 基本上都蠻蠢的 除了限制少
完全被線上的吊起來打 除非有特殊需求不然用線上的就好
要免錢 不用登入的可以去鴨鴨走玩
我有色情相關內容要翻譯都是去找鴨鴨走
也是找鴨鴨+1
7B 14B這種就相關行業會玩的在特定情境下好用
Ollama 是用來讀取模型的吧，本地小模型目前好像沒什麼
能讓人驚艷的應用吧，除了拿來跑翻譯跟聊天之類的
嗯 像是聊天AI那種基本都是7B 8B左右
現在AMD的AI MAX 也搞統一記憶體了 最大可以吃到96G 已經可
以跑70B了 #相信AMD
老黃不是要推一個AI盒子 #相信老黃
Project Digits要3000美金起 MAX395+128G的ROG Z13 2025
也才不到台幣8萬 對預算比較拮据的人還是有差
自問自答 lmstudio應該是可以用A卡加速
跑7B模型大概是27token/sec
local模型都不怎麼樣 除非自架R1 不然還是線上的好用
純GUI我是用Cherry Studio
自架要到線上等級大概有難度 看B站討論
線上版本是698B 這等級少說也要個300GB的記憶體吧
![Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?](https://i.imgur.com/k9SZ73Zb.jpg "Re: [閒聊] Deepseek加Project Digi=AI的大海賊時代?")
15
[問卦] 馬斯克決定開源Grok-1的原因是啥？馬斯克的AI模型Grok-1正式開源，包含3140億個參數，是目前參數最大的開源大模型，是GP T-3.5的兩倍。 這個模型可以免費下載，並且允許商業使用，所有賺取的費用都歸用戶所有 。![[問卦] 馬斯克決定開源Grok-1的原因是啥？](https://i.imgur.com/WJewdoJb.jpg "[問卦] 馬斯克決定開源Grok-1的原因是啥？")
8
[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了出大事了 Meta 用來對標 OpenAI ChatGPT 的語言模型 LLaMA 被人洩漏出來 還打包成 Torret 在網路上供人下載了![[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了](https://i.imgur.com/W4fvKrpb.png "[爆卦] Meta 的語言模型 LLaMA 被人洩漏出來了")
1
[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣剛看了DeepSeek R1原始文件 Guo, D., Yang, D., Zhang, H., Song, J., Zhang, R., Xu, R., ... & He, Y. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. arXiv preprint arXiv:2501.12948. 看完結論就是![[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣](https://i.imgur.com/jY9j0u3b.jpg "[問卦] DeepSeek 就只是仿造ChatGPT 還吹成這樣")
4
[問卦] ChatGPT APP版？Quora 出了自己的AI Chatbot app 使用OpenAI和Anthropic的語言模型 iOS版開放下載 然後是免費ㄉ![[問卦] ChatGPT APP版？](https://i.imgur.com/kvVDuhsb.jpg "[問卦] ChatGPT APP版？")
5
[問卦] 台灣有沒有AI語言模型？中國大陸的Deepseek用低成本做出語言模型 美國科技股嚇到皮皮挫 台灣的AI語言模型進度到哪了？ --X
Re: [問卦] 中研院自己做的大型語言模型怎麼了？這語言模型基礎是建構於Llama 2，meta提供的開源模型 另外Atom 7b則是中文社群跟一間中國公司在Llama 2之上訓練成中文使用者適合的模型， 也是開源且開放商用 技術上也不用解釋太多，反正開源模型他本來就不會像GPT或百度的文心一言那樣限制某 些爭議性回答![Re: [問卦] 中研院自己做的大型語言模型怎麼了？](https://i.imgur.com/GQlNhZjb.jpg "Re: [問卦] 中研院自己做的大型語言模型怎麼了？")
4
[問卦] AI推理 LPU會打扒GPU嗎groq的語言模型推理 從硬體架構上就針對語言模型最佳化 號稱比GPU快10倍 是否可能把GPU打趴 讓GPU回去做他該做的事（遊戲 生圖等等）？ --3
Re: [情報] 3D桌寵《Desktop Mate》免費登Steam(部分恕刪) : 根據開發者介紹，該軟體被設計成具有高度擴展性的平台，使用者可以導入各種角色模型， : 或透過購買喜歡的 DLC 來打造自己理想的桌面環境。 今天這軟體推出了，自然是迫不及待的下載，想要把她替換成其他角色...... 然後就卡住了，找不到地方可以匯入模型@@1
[問卦] 訓練阿美語的大型語言模型當碩論可行嗎以下是chatGPT的生成內容 ----- 訓練一個專注於特定語言，如阿美語的大型語言模型，是一項複雜且耗時的工程，但可以透 過以下步驟逐漸達成： 1. **數據收集**：阿美語作為一種少數民族語言，其可用於訓練的數據可能相對有限。首![[問卦] 訓練阿美語的大型語言模型當碩論可行嗎](https://i.imgur.com/Ivb1mNSb.jpg "[問卦] 訓練阿美語的大型語言模型當碩論可行嗎")
2
[討論] LPU在deepseek上能否取代GPU？看到新模型出來後發現 算力並非全部 特化後的演算法反而比較有用 那這樣本來就為了大型語言模型而生的LPU 是不是才是未來的主流 看了Groq的官網 已經有人在測lpu效能了
![[問卦] 台灣有沒有AI語言模型？](https://i.imgur.com/tUCy03Ob.jpeg118.171.129.133 "[問卦] 台灣有沒有AI語言模型？")
爆
[Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況![[Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況](https://img.youtube.com/vi/KJeMC4BKvoA/mqdefault.jpg "[Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況")
爆
Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況![Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況](https://i.mopix.cc/OgUnxH.jpg "Re: [Vtub] 春魚四期生Vtuber冰霧疑似指控快打實況")
爆
[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12![[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12](https://img.youtube.com/vi/nNyot7KuDQE/mqdefault.jpg "[鳴潮] 3.0動畫短片 轉校生 前瞻直播12/12")
爆
[閒聊] 如果是bilibili被封鎖會怎麼樣?爆
[閒聊] 男女粉比例出乎你意料的作品？![[閒聊] 男女粉比例出乎你意料的作品？](https://i.imgur.com/wSnRZsnb.jpeg "[閒聊] 男女粉比例出乎你意料的作品？")
爆
[討論] 欸！泡泡瑪特怎麼在大跌價了？![[討論] 欸！泡泡瑪特怎麼在大跌價了？](https://img.youtube.com/vi/QBPEpPblwcw/mqdefault.jpg "[討論] 欸！泡泡瑪特怎麼在大跌價了？")
爆
Re: [閒聊] 小紅書成為美國App Store下載第一![Re: [閒聊] 小紅書成為美國App Store下載第一](https://i.imgur.com/T8vEV7xb.jpeg "Re: [閒聊] 小紅書成為美國App Store下載第一")
89
[Vtub] 虹VS齁 卡比賽車對抗賽87
Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾71
[閒聊] 最跌落神壇的公司是育碧嗎？![[閒聊] 最跌落神壇的公司是育碧嗎？](https://i.imgur.com/71OHyzZb.png "[閒聊] 最跌落神壇的公司是育碧嗎？")
73
[閒聊]定義上幾歲才應該被叫「大叔」？![[閒聊]定義上幾歲才應該被叫「大叔」？](https://i.imgur.com/0M6qX7Wb.jpeg "[閒聊]定義上幾歲才應該被叫「大叔」？")
73
Re: [Vtub] 春魚Vtuber冰霧疑似指控快打實況主Yoro私訊騷擾65
[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機![[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機](https://i.imgur.com/5kdUABnb.jpeg "[閒聊] 美國一名11歲幼童靠模仿達爾撐過危機")
57
[蔚藍] 百花繚亂圍毆能打贏若藻嗎![[蔚藍] 百花繚亂圍毆能打贏若藻嗎](https://i.imgur.com/dlSBA7yb.jpeg "[蔚藍] 百花繚亂圍毆能打贏若藻嗎")
58
[閒聊] 被宣判是醜男該怎麼辦？![[閒聊] 被宣判是醜男該怎麼辦？](https://i.mopix.cc/bVDkpu.jpg "[閒聊] 被宣判是醜男該怎麼辦？")
40
Re: [閒聊] 小紅書成為美國App Store下載第一53
[閒聊] 現在少前2是完全塵白化了喔52
[閒聊] 巨人的OP跟ED算很強嗎？？52
[鳴潮] 怎辦？這計畫根本一點屁用也沒有！49
[妮姬] 小遊戲好難![[妮姬] 小遊戲好難](https://i.mopix.cc/k7reSC.jpg "[妮姬] 小遊戲好難")
45
Re: [閒聊] 小紅書成為美國App Store下載第一48
[Vtub] Vivi自爆性癖是被搔腳底XDDD![[Vtub] Vivi自爆性癖是被搔腳底XDDD](https://i.imgur.com/l9An5yXb.jpeg "[Vtub] Vivi自爆性癖是被搔腳底XDDD")
49
[情報] 黑白妹1重製 插圖進度正式200% (全體50%)![[情報] 黑白妹1重製 插圖進度正式200% (全體50%)](https://i.imgur.com/ZzNmHMBb.gif "[情報] 黑白妹1重製 插圖進度正式200% (全體50%)")
48
[閒聊] 統神會怎麼評論yoro騷擾事件！？47
[閒聊] 哪一種恐怖比較讓人不舒服?![[閒聊] 哪一種恐怖比較讓人不舒服?](https://i.imgur.com/e8dN5uAb.png "[閒聊] 哪一種恐怖比較讓人不舒服?")
47
[閒聊] 新妹魔王 這樣算是黑奴嗎？![[閒聊] 新妹魔王 這樣算是黑奴嗎？](https://pbs.twimg.com/media/FdMJRYGaEAAl0zi.jpg "[閒聊] 新妹魔王 這樣算是黑奴嗎？")
56
[閒聊] 鐵道玩家流失嚴重![[閒聊] 鐵道玩家流失嚴重](https://i.imgur.com/6SvST40b.jpeg "[閒聊] 鐵道玩家流失嚴重")
爆
[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感![[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感](https://image.gameapps.hk/images/202512/05/1764898511_762582_jpg_r_result.jpg "[魔物]荒野總監發言惹議 將世界稱前作掀玩家反感")
爆
[閒聊] 一晚9發現實中做得到嗎？![[閒聊] 一晚9發現實中做得到嗎？](https://i.imgur.com/U8Ejehhb.jpg "[閒聊] 一晚9發現實中做得到嗎？")
41
[星塔] 旅人介紹 『夏花』 CV.伊藤静![[星塔] 旅人介紹 『夏花』 CV.伊藤静](https://i.imgur.com/nK8rcORb.jpeg "[星塔] 旅人介紹 『夏花』 CV.伊藤静")