[問卦] 120b PT的LLM,你用過的感受和心得?
Hugging Face的高手無極限,
推出了多種120b的LLM PT模型,
每個不但超大容量,
還可以只用CPU來跑,
而且號稱同時使用越多張高等級Nvidia顯卡,
跑起來速度越快,
不過每個120b PT模型的容量都不小,
網路速度不快,
可能要下載個兩到三天才能開始使用.
八卦板上臥虎藏龍,
鈣磷量!
這個目前還滿夯的LLM PT模型,
不知道你用過的感受和心得?
有卦嗎?
PS.
Hugging Face計畫接下來要推出
135b, 150b, 160b, 200b,等等的LLM PT模型,
各位買了幾張4090並連在一起了?
等等黨哭哭了嗎?
--
※ PTT 留言評論
爆
[問卦] 中研院自己做的大型語言模型怎麼了?中研院最近發布了他們自己開發的LLM 說是在處理繁體中文的任務上表現優異 可是小妹看了一下跑出來的成果52
Re: [討論] 中研院繁中LLM被爆直接拿對岸的來套小弟待的公司,非學術單位, 可能是台灣硬體計算資源稍微豐富的公司。 公司投入在買GPU 應該近億了。 自己也研究了幾個月 fine-tune 方法。 不過,還是沒足夠能力與資源訓練正常的LLM。22
Re: [爆卦] 中央研究院詞庫小組大型語言模型看到這篇真的龜懶趴火 語氣還真的他媽的大啊 敢嗆鄉民去上LLM課程啊 誰不知道LLM的正確率一定會有誤差? 現在的問題是我國最高學術研究機構中央研究院直接拿對岸LLM套 且直接用opencc大量將簡體資料轉繁體資料!20
Re: [討論] ChatGPT的思維是甚麼?阿肥外商碼農阿肥啦! 剛好看到這篇文章就回覆一下,這次大型語言模型(LLM)表現出來的是語言模型的湧現能 力,我其實不贊同LeCun說的LLM是歪路,畢竟雖然我們可以直覺知道加大網路連接數可能 是實踐人類大腦的一個重要步驟(畢竟人腦的連結數量跟複雜性在生物醫學上都有驗證), 但科學上不去驗證你沒辦法證明某些事情的。X
Re: [爆卦] 中央研究院詞庫小組大型語言模型對於LLM只有這一點認知程度的話,最好不要就這樣出來帶風向會比較好,不然先去 跟陽明交大校長先去旁邊先學習一下什麼叫做LLM,不同LLM之間又有什麼差異。 第一個錯誤的認知是認為LLM就應該要提供正確的答案,事實上LLM是一個機率模型, 它所做的事情是基於模型的權重預測下一個token(詞塊)最高的機率是那個,它不是資 料庫,所以你不能因為它答的一個答案不是你所想的就是說這個模型如何如何。5
Re: [新聞]剖析中研院大型語言模型事件的衝擊先說結論: 發展本土化,繁體中文LLM模型,然後期待這個模型能讓大家使用,根本是錯誤方向。不知道這些專家學者,是在騙經費,還是還沒想清楚產業到底缺什麼。 --- 如果今天你使用Google搜尋,搜到"台灣是中國的",或任何有政治偏見的相關文章。 你會不會覺得Google很爛?6
Re: [新聞] 手機效能過剩了?近七成網友認為:沒必要小弟在幻想哪天移動端設備(手機)能執行大型語言模型LLM,這樣就不用仰賴雲端運算了 在這天的到來對之前我來說手機的效能沒有過剩的問題 由於摩爾定律失效,手機能跑LLM甚麼時候到來實在不好說5
Re: [問卦] AI發展到什麼程度你才會開始感到害怕?阿肥外商碼農阿肥啦!在下鍵盤研究員,基本上現在所有的模型本質上都還是弱人工智慧 的,只是這兩三年研究累積的體現。 當前還有很多問題是需要解決的,像是雖然有偏好模型,但LLM還是對於學習並非是有偏 的 ,這邊的偏好依舊需要人工大量去微調,這就跟我們人類差異很大。3
Re: [問卦] ChatGpt為什麼開始變笨了?正好半夜看到這篇無聊來回一下 GPT4能力下降大概5月多開始就有人注意到了 但你要怎麼定義能力衰退這件事而且量化他? 於是七月就有一篇論文在討論這件事- 請容我搬運一篇對岸知乎的文章, 這是一篇非常長的文章,其中大部分片段與本文無直接關聯,而且是2023/02寫的. 我只搬運本串相關的記憶體的部分,還有尾部的結論.且未修飾原文用字 詳細的有興趣請直接去原網址看吧. ChatGPT背後的經濟賬
爆
[問卦] 大谷5050達陣爆
[問卦] 大谷有機會刷到500轟嘛==爆
[爆卦] 原住民為小孩取名遭不符族名為由拒絕爆
[問卦] 幹你娘中招被詐騙了怎辦?51
[問卦] 正常人都會反對濫殺10歲無辜小孩吧?45
[問卦] 大谷三響砲51-51達成有多難啊?32
[問卦] 大谷翔平垃圾時間刷數據27
[問卦] 開放讓男生讀景美女中,排名會上升嗎?29
[問卦] 有精神病的進來88
[問卦] 烏龍派出所最好笑的是哪一集?17
[問卦] 電費1300是三小23
[問卦] 關鍵時刻說得好像也沒錯19
[問卦] 幹幹飛機延誤怎麼轉機78
[問卦] 周杰倫沒被老吳挖掘現在會是?X
Re: [問卦] 關鍵時刻說得好像也沒錯20
[問卦] 聽說十月又要漲電價了?15
[問卦] 台灣有這種學餐嗎?15
[爆卦] 大谷翔平單季50次盜壘成功14
Re: [新聞] 林珍羽怨北檢押人取供「柯文哲若犯罪12
[問卦] 中國突然同意日本廢水排放並撤銷海鮮禁令13
[爆卦] 大谷翔平炸裂 NO.4912
[問卦] 六點前出門上班的人多嗎==2
[問卦] 台女年輕的時候不給幹,老了才在吵凍卵13
Re: [新聞] 我方仍禁大陸千項農產品 陸委會:盼雙方39
[問卦] 高雄演唱會經濟是不是很厲害??10
Re: [問卦] 老外為何特別相信新疆有集中營?25
[問卦] 賈伯斯看到6.9吋的iPhone 會?11
Re: [新聞] 獨》民進黨真正「神主牌」是什麼?賴清德9
[問卦] 網紅陳老師與朋友鍾明軒合照青鳥崩潰10
Re: [新聞] 賴正鎰:央行打得太大力了!換屋族哀號