PTT推薦

Re: [問卦] 聽說中研院AI花300萬?

看板Gossiping標題Re: [問卦] 聽說中研院AI花300萬?作者
sxy67230
(charlesgg)
時間推噓 7 推:7 噓:0 →:2

※ 引述《Fortran (Fortran)》之銘言:
: 如題
: 本肥好奇,若這樣簡轉繁中,直接套用中國模型,應該不用花到300萬吧
: 頂多就換個皮,簡轉繁中,連一個工作天都不用,1~5萬就夠了
: 剩下的經費都....?
: 有卦?

阿肥外商碼農阿肥啦!

推廣一下微軟Azure服務,這邊試算開一張A100機器折合台幣差不多8萬台幣/月,平均一天3000不到,中研院應該夠划算了,也算是現在市場公道價,反正都用開源簡中數據了,放Azure訓練也沒什麼資安問題,而且要撈90GB的模型檔案不到十五分鐘就載完了,Azure又快又好用。

Llama現在一堆微軟、Nvidia都有釋出開源訓練框架,無腦載套件下來照教學拉下訓練config就可以開始跑,推論也直接用Nvidia的inference框生成2048個字不到0.7秒不到,最多給你開發Gradio的介面框三天好了,這樣一天給研究人員一人五萬/天,十五萬加上Azure 8萬就二十萬不到耶!

三百萬真羨慕,我們政府很有錢吶!

嘻嘻

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.46.126 (臺灣)
PTT 網址

Ilat 10/09 22:03才300萬難怪那麼差 300萬也只夠拍支30秒廣告

joumay 10/09 22:04沒門路就標不到啊 我也是

chigo520 10/09 22:04阿你薪水多少?

阿肥算一算自己的工時在外商一天連一萬都不到,好羨慕

※ 編輯: sxy67230 (101.10.46.126 臺灣), 10/09/2023 22:05:41

renna038766 10/09 22:08阿你怎麼不去跟唐鳳說

bitcch 10/09 22:08哪有可能只用一張A100下去跑

7B的連一張A100都吃不滿

※ 編輯: sxy67230 (101.10.46.126 臺灣), 10/09/2023 22:09:38

bitcch 10/09 22:11除非他們只訓練7b模型 這樣4090一張就夠了

cld123 10/09 22:25其實30秒廣告也不用100萬

AmigoSin 10/10 01:22300萬是可能是大學lab一年計劃的經費

AmigoSin 10/10 01:22中研院端出這種東西,被噴剛好