Re: [問卦] 聽說中研院AI花300萬？
※ 引述《Fortran (Fortran)》之銘言：
: 如題
: 本肥好奇，若這樣簡轉繁中，直接套用中國模型，應該不用花到300萬吧
: 頂多就換個皮，簡轉繁中，連一個工作天都不用，1~5萬就夠了
: 剩下的經費都....？
: 有卦？
阿肥外商碼農阿肥啦！
推廣一下微軟Azure服務，這邊試算開一張A100機器折合台幣差不多8萬台幣/月，平均一天3000不到，中研院應該夠划算了，也算是現在市場公道價，反正都用開源簡中數據了，放Azure訓練也沒什麼資安問題，而且要撈90GB的模型檔案不到十五分鐘就載完了，Azure又快又好用。
Llama現在一堆微軟、Nvidia都有釋出開源訓練框架，無腦載套件下來照教學拉下訓練config就可以開始跑，推論也直接用Nvidia的inference框生成2048個字不到0.7秒不到，最多給你開發Gradio的介面框三天好了，這樣一天給研究人員一人五萬/天，十五萬加上Azure 8萬就二十萬不到耶！
三百萬真羨慕，我們政府很有錢吶！
嘻嘻
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.46.126 (臺灣)
※ PTT 網址
推
才300萬難怪那麼差 300萬也只夠拍支30秒廣告
推
沒門路就標不到啊 我也是
推
阿你薪水多少？
阿肥算一算自己的工時在外商一天連一萬都不到，好羨慕
※ 編輯: sxy67230 (101.10.46.126 臺灣), 10/09/2023 22:05:41推
阿你怎麼不去跟唐鳳說
推
哪有可能只用一張A100下去跑
7B的連一張A100都吃不滿
※ 編輯: sxy67230 (101.10.46.126 臺灣), 10/09/2023 22:09:38推
除非他們只訓練7b模型 這樣4090一張就夠了
推
其實30秒廣告也不用100萬
→
300萬是可能是大學lab一年計劃的經費
→
中研院端出這種東西，被噴剛好
![Re: [問卦] 聽說中研院AI花300萬？](https://www.sinica.edu.tw/images/AS_logo_2.png "Re: [問卦] 聽說中研院AI花300萬？"){kind=logo}
89
[情報] 前高層建議微軟應該賣掉Office和Windows前高層建議微軟應該賣掉Office和Windows，專心發展Azure雲端業務 janus janus 發表於 2022年1月14日 09:30 收藏此文 微軟前高層本·斯利夫卡（Ben Slivka）在接受一次採訪時表示，微軟應該賣掉其 Windows和Office業務，以便促進其正在不斷增長的雲端業務。 「（微軟）正確的做法可能是把未來押在雲端運算業務上。」曾擔任微軟消費者和商務部![[情報] 前高層建議微軟應該賣掉Office和Windows](https://i.imgur.com/f3VVNiab.jpg "[情報] 前高層建議微軟應該賣掉Office和Windows")
46
[瑟瑟] 看色圖不求人Part2 AI生成色圖全教學古拉鎮樓 (從Discord搬運 非本人生成) Part 1 在這 不重要 過時了 這篇將包含所有你生成色圖需要的資訊 1. 使用者界面 Stable Diffusion Webui![[瑟瑟] 看色圖不求人Part2 AI生成色圖全教學](https://i.imgur.com/HWRVeJWb.png "[瑟瑟] 看色圖不求人Part2 AI生成色圖全教學")
35
[情報] NVIDIA安培打破16項世界紀錄：一年半性NVIDIA安培打破16項世界紀錄：一年半性能暴增4倍 NVIDIA宣佈，根據最新發佈的MLPerf基準測試結果，NVIDIA在全球市售商用產品中，具備 全球最快的AI訓練性能，並創造了多達16項的世界紀錄。 其中，在加速器的全部八項MLPerf基準測試中，NVIDIA A100都展現了最快的性能，同時![[情報] NVIDIA安培打破16項世界紀錄：一年半性](http://img1.mydrivers.com/img/20200730/12c17639241c4d5cb5c05be8e2b7ce62.jpg "[情報] NVIDIA安培打破16項世界紀錄：一年半性")
23
Re: [爆卦] 中央研究院詞庫小組大型語言模型阿肥 中研院資訊所早已回應了 研究人員直接說這是幻覺～ 沒你說的這麼高端解釋啦～21
[閒聊] 串連數千個 Nvidia GPU，微軟打造 Chattechnews 串連數千個 Nvidia GPU，微軟打造 ChatGPT 的超級電腦 March 14, 2023 by 陳 冠榮 微軟斥資數億美元打造一台大型超級電腦，串連數千個 Nvidia GPU，為 OpenAI 的聊天機![[閒聊] 串連數千個 Nvidia GPU，微軟打造 Chat](https://i.imgur.com/9bqEe8Db.jpg "[閒聊] 串連數千個 Nvidia GPU，微軟打造 Chat")
13
Re: [情報] CMA為了否決暴雪收購案，寫了400頁報告沒錯微軟雲端很厲害 微軟雲端服務其實不只是運用在微軟自家的XBOX，連索尼也要跟微軟雲端技術合作 微軟雲端服務技術能運用在PS和XBOX，要是微軟再加動視暴雪遊戲，其他雲端遊戲業者該怎 麼辦？ CMA會擔心微軟壟斷雲端遊戲市場，說不定也是有道理![Re: [情報] CMA為了否決暴雪收購案，寫了400頁報告](https://i.imgur.com/UmWAT2kb.png "Re: [情報] CMA為了否決暴雪收購案，寫了400頁報告")
6
[情報] 微軟, META合作 Llama2上 Azure1. 標題： 微軟與META擴大他們的AI合作關係，讓Llama 2上Azure以及 windows 2. 來源： 微軟公司 3. 網址：![[情報] 微軟, META合作 Llama2上 Azure](https://blogs.microsoft.com/wp-content/uploads/prod/2023/07/1920x1080-META-OMB-Llama-2-Image-002-1024x576.png "[情報] 微軟, META合作 Llama2上 Azure")
4
[情報] ChatGPT點燃AI熱情導致NVIDIA股價大漲52%最近ChatGPT各種刷屏，幾乎每天都是科技媒體網站的頭條 有人早在擔心自己的工作被ChatGPT取代，更多的人及公司是想辦法蹭上ChatGPT熱度 然而說到真正的受益者，NVIDIA這一波可是實實在在吃到了紅利。 ChatGPT火爆出圈之後，不少公司及投資者都加大了對生成式AI的投入 然而ChatGPT的成本不菲，訓練一次的費用在幾百萬到上千萬不等![[情報] ChatGPT點燃AI熱情導致NVIDIA股價大漲52%](https://i.imgur.com/VgwLArpb.png "[情報] ChatGPT點燃AI熱情導致NVIDIA股價大漲52%")
X
Re: [問卦] 中研院自己做的大型語言模型怎麼了？這語言模型基礎是建構於Llama 2，meta提供的開源模型 另外Atom 7b則是中文社群跟一間中國公司在Llama 2之上訓練成中文使用者適合的模型， 也是開源且開放商用 技術上也不用解釋太多，反正開源模型他本來就不會像GPT或百度的文心一言那樣限制某 些爭議性回答![Re: [問卦] 中研院自己做的大型語言模型怎麼了？](https://i.imgur.com/GQlNhZjb.jpg "Re: [問卦] 中研院自己做的大型語言模型怎麼了？")
X
[問卦] 雲端供應商面前 超級電腦排行還有意義嗎?像是微軟為了訓練GPT-4 一次可以動用上萬張A100或H100 GPU 這計算能力應該只是Azure中的一小部分 而Azure市占只是第二名 還有更大的AWS 這些雲端供應商的總計算能力遠遠超過任何一台超級電腦 只要有錢 就能從這些服務商獲得超越排行榜的計算能力
![Re: [爆卦] 中央研究院詞庫小組大型語言模型](https://i.imgur.com/sLSdSaOb.jpg220.132.181.237 "Re: [爆卦] 中央研究院詞庫小組大型語言模型")
爆
[問卦] 北檢檢察官要求嘿咻肉償，各位OK嗎？![[問卦] 北檢檢察官要求嘿咻肉償，各位OK嗎？](https://pgw.udn.com.tw/gw/photo.php?u=https://uc.udn.com.tw/photo/2024/03/27/realtime/29297228.jpeg&s=Y&x=266&y=0&sw=2880&sh=1920&exp=3600 "[問卦] 北檢檢察官要求嘿咻肉償，各位OK嗎？")
92
[問卦] 四叉貓明天去遊行被打的話 你真的OK？88
Re: [問卦] 台中市區透天居然只要1200萬？！![Re: [問卦] 台中市區透天居然只要1200萬？！](https://i.imgur.com/z34t6xOb.jpeg "Re: [問卦] 台中市區透天居然只要1200萬？！")
55
[爆卦] 竹北行人走斑馬線被車撞 差點被輾過![[爆卦] 竹北行人走斑馬線被車撞 差點被輾過](https://i.imgur.com/iIByjy3b.png "[爆卦] 竹北行人走斑馬線被車撞 差點被輾過")
爆
[問卦] 加州開始用海水救火了![[問卦] 加州開始用海水救火了](https://i.imgur.com/mUfHe1Nb.jpeg "[問卦] 加州開始用海水救火了")
25
Re: [問卦] 四叉貓明天去遊行被打的話 你真的OK？![Re: [問卦] 四叉貓明天去遊行被打的話 你真的OK？](https://i.imgur.com/C92QllUb.jpeg "Re: [問卦] 四叉貓明天去遊行被打的話 你真的OK？")
28
[問卦] 1400防疫記者會救LA大火會怎麼做?![[問卦] 1400防疫記者會救LA大火會怎麼做?](https://i.meee.com.tw/ZbzZyvW.jpg "[問卦] 1400防疫記者會救LA大火會怎麼做?")
25
[問卦] 沒人發現台灣炒房卻沒爆掉整個黑人問號！![[問卦] 沒人發現台灣炒房卻沒爆掉整個黑人問號！](https://img.youtube.com/vi/GWZtlX7XWF0/mqdefault.jpg "[問卦] 沒人發現台灣炒房卻沒爆掉整個黑人問號！")
21
[問卦] 認真問...有用吹風機吹老二(私處)的人嗎?21
[問卦] 好像中了諾羅欸幹![[問卦] 好像中了諾羅欸幹](https://i.imgur.com/2aM3CXyb.jpg "[問卦] 好像中了諾羅欸幹")
21
[問卦] 黑熊部隊 拿2218萬警政署經費訓練什麼?19
[問卦] 肺腺癌三期開刀後活了15年是奇蹟嗎?19
[問卦] CS現在還是槍戰遊戲主流嗎14
[問卦] Katy Perry在台灣是不是不紅？![[問卦] Katy Perry在台灣是不是不紅？](https://i.imgur.com/YKQe67jb.jpeg "[問卦] Katy Perry在台灣是不是不紅？")
17
[問卦] Mygo是有多好看?![[問卦] Mygo是有多好看?](https://i.imgur.com/fv43283b.jpeg "[問卦] Mygo是有多好看?")
24
[問卦] 日本自己蓋半導體廠拼2奈米量產，怎麼看?![[問卦] 日本自己蓋半導體廠拼2奈米量產，怎麼看?](https://img.youtube.com/vi/4vkZDAg8Gsk/mqdefault.jpg "[問卦] 日本自己蓋半導體廠拼2奈米量產，怎麼看?")
14
Re: [問卦] 四叉貓當初到底怎麼紅出圈的啊？![Re: [問卦] 四叉貓當初到底怎麼紅出圈的啊？](https://i.imgur.com/ruL1Dswb.jpeg "Re: [問卦] 四叉貓當初到底怎麼紅出圈的啊？")
15
[問卦] 摩卡壺是不是被低估了35
[問卦] 四叉貓明天不會去吧![[問卦] 四叉貓明天不會去吧](https://i.imgur.com/qjP99a9b.jpeg "[問卦] 四叉貓明天不會去吧")
14
[問卦] 現在學生沒電腦 怎麼處理多工?12
[問卦] 竟然有「鄰長」?!7
[問卦] 美國連滅火都不會還吹什麼高科技？10
[問卦] 新冠是從什麼時後絕跡了？![[問卦] 新冠是從什麼時後絕跡了？](https://i.imgur.com/MKHTE6Rb.jpeg "[問卦] 新冠是從什麼時後絕跡了？")
43
[問卦] 明天沒有十萬人的話怎麼辦![[問卦] 明天沒有十萬人的話怎麼辦](https://i.imgur.com/3TgPRHEb.jpeg "[問卦] 明天沒有十萬人的話怎麼辦")
10
[問卦] 歐巴馬跟川普聊什麼可以聊這麼開心![[問卦] 歐巴馬跟川普聊什麼可以聊這麼開心](https://i.imgur.com/bTx4PYlb.jpeg "[問卦] 歐巴馬跟川普聊什麼可以聊這麼開心")
9
[問卦] AI開始讓人失業了，怎麼辦![[問卦] AI開始讓人失業了，怎麼辦](https://img.youtube.com/vi/dGbLWeX5AzM/mqdefault.jpg "[問卦] AI開始讓人失業了，怎麼辦")
9
[問卦] 爸爸一定要借錢怎辦？9
[問卦] 認真問，男生拔尿管痛嗎9
[問卦] 台灣通膨率是不是壓的其實還不錯？![[問卦] 台灣通膨率是不是壓的其實還不錯？](https://i.imgur.com/GTvWsK0b.jpeg "[問卦] 台灣通膨率是不是壓的其實還不錯？")
8
Re: [問卦] 台男喜歡去日本旅遊大於韓國？
![[問卦] 四叉貓明天去遊行被打的話 你真的OK？](https://i.imgur.com/NQJQtV5b.jpeg223.136.200.245 "[問卦] 四叉貓明天去遊行被打的話 你真的OK？")