PTT推薦

[問卦] 沒人自己下載llama 來玩的嗎

看板Gossiping標題[問卦] 沒人自己下載llama 來玩的嗎作者
lou3612
()
時間推噓 5 推:5 噓:0 →:8

現在diffusion model很紅
免費的Stable diffusion 很多人有下載來自己玩

怎麼ChatGPT紅成這樣
卻很少人會自己去下載免費的llama來玩
完全沒有限制耶
瑟瑟或其他被ChatGPT封鎖的話題都可以

有卦嗎
-----
Sent from JPTT on my iPhone

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.112.24.184 (臺灣)
PTT 網址

elec1141 06/25 11:48

我也希望祖克柏可以來找我業配

abc0922001 06/25 11:49有阿,跑很慢

abc0922001 06/25 11:50用4060Ti/16G,可能要再更好的顯卡吧

applejone 06/25 11:50慢死了

neo5277 06/25 11:52有啊,你在這裡問不是等於沒結果

neo5277 06/25 11:534070ti 20 b以下順跑

我等下載等到發瘋 宿網超爛要下載整整4天 希望我4090可以跑順一點

※ 編輯: lou3612 (140.112.24.184 臺灣), 06/25/2024 12:06:57

salinia 06/25 12:12我有在用 Ollama 不能連網的時候用

salinia 06/25 12:13但是 llama3:70b 筆電跑過好幾秒生出一

salinia 06/25 12:13個字…

neo5277 06/25 12:1570b太大了,建議20以下

salinia 06/25 12:16phi3 4b 公司筆電順跑 不過只有英文問答

salinia 06/25 12:16比較精確

等等 我剛從ollama pull llama3 只有5GB是怎麼回事 8B不是15GB以上嗎

※ 編輯: lou3612 (140.112.24.184 臺灣), 06/25/2024 13:04:39

lou3612 06/25 13:31喔沒事 inference only變小很正常