PTT推薦

Re: [問卦] Llama 是不是失敗的模型啊

KanzakiHAria 發表於 2024/7/24 下午8:03:10
看板Gossiping標題Re: [問卦] Llama 是不是失敗的模型啊作者
KanzakiHAria
 (神崎・H・アリア)時間推噓 1 推:1 噓:0 →:4

※ 引述《GGFACE (GGFACE)》之銘言：
: 剛看到
: Llama3.1 405B 宣稱跟GPT-4o 同等級
: 問題Llama尬到405B
: 搞不好GPT-4o 80B而已（我猜的啦感覺就輕很多
: 很像黃種人練籃球10年跟黑人訓練一個月差不多強的感覺
: Llama是不是天賦就是比較差
: 有沒有卦

gpt4o mini價格跟gpt3.5差不多 可以想成算力也差不多

那gpt3.5大約是 175B 這樣回推gpt4omini可能也在這附近

然後gpt4o比gpt4mini大 比gpt4小(1.8T x 4)


可以看做4o可能在500B~1T上下



另外llama3.1 instruct 已經具備可fine-tune和tool using還有128k context

可以在個人電腦上用4090做私有化處理

已經是企業級solution了



很多企業絕對不接受資料上雲 比如很多科技公司都有內網 是不能連WAN的

這些企業要部屬一定都是要找offline方案 那目前最強的確實就是 llama3.1

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.71.211 (臺灣)
※ PTT 網址
→

haha98 07/24 20:04meta現在對人類的唯一貢獻就是開源

光這樣就屌打CloseAI了 更不用說performance幾乎是state of art

※ 編輯: KanzakiHAria (36.231.71.211 臺灣), 07/24/2024 20:05:29
推

neo5277 07/24 20:15晚點或是明天來看看

→

fukku100 07/24 20:584090是跑8B的吧？ finetune 也還是要靠

→

fukku100 07/24 20:58LoRA

→

dboy1980 07/24 23:40你4090跑的動？
同系列文章
[問卦] Llama 是不是失敗的模型啊
其他人也閱讀了
PTT 熱門相關
Gossiping最新熱門推薦
🔥🔥🔥