[請益] 關於 NLP 如何自學(書/公開課程)?
Hi 各位先進,
本人背景是畢業很久的資工碩,目前從事 infra 開發的 back-end
engineer,目前待的公司準時上下班,想學些能累積技術的主題
熟悉的語言有: C++/Python/Rust
因為在學時完全沒接觸過,想請問有碰過的先進們,自學的話有沒
有推的書、公開課能分享。另外 NLP 現在業界真的拿它來賺錢的公
司/組織是不是偏少(台商),還是只是我沒碰到而已?
謝謝各位
--
唯一推薦台大李宏毅
基本上算台灣講的最通俗易懂了
尤其推薦他的 ML 課程 講的真D猛
NLP線上課程推薦 Stanford CS224N:
PLoROMvodv4rOSH4v6133s9LFPRHjEmbmJ
台大2個教授有開放課程又有名的就是做NLP的 可以先看他們
的影片(陳 儂、李宏毅)
nlp只碰過學界的居多,業界很少
看教授影片+自己動手玩玩看簡單的
python 我推simple transformer
我覺得NLP最常見的應用可能就像是YT的推薦影片
電商搜尋、推薦、對話機器人、RPA也是有不少題目可以做的
差很多吧,推薦系統recommendation 與NLP,與搜尋引擎,在
學術界,業界完全是不同專業。
除非你去爛公司,亂做一通沒實戰的公司,不然你做search,
nlp,recommendation 要做的事情,完全不同。資歷也不通。
搜尋,要怎麼ranking,nlp的人通常都不會。推薦系統,要怎
麼做多模態(multifmodal)的特徵,通常NLP,搜尋的人又沒碰
過。彼此之間專業真的差很多。
另外NLP的各種序列標注模型,搜尋與推薦的團隊,根本沒幾
個人有碰過。專業完全不同。
最後,搜尋與推薦,很多資料pipeline的工作,都與機器學習
與NLP無關。
我研究所學nlp 但工作找backend 跟你相反
賺錢與否不清楚 但nlp工作其實不少 台商也有
真正拿NLP來商業化賺錢的,不是哪種旁門左道,做好玩,或
是做了NLP沒效益也沒差的部門喔。我在台灣看了幾年台商不
到3家而已。
NLP工作是很多啦,但是拿來賺錢變現的公司,台商絕對沒有5
家。
確實有可能是這樣沒錯 而且我看到的nlp缺都和medica
l相關 我猜現階段應該都賠錢 放眼未來的感覺
而且大部分公司,就是要你會ope source 就好。講太多太深
的別人也聽不懂。
我選nlp是因為像是怕cv飽和 押寶nlp 但做了才發現自
己對nlp的興趣不高 後來就選有興趣的web 薪水也不錯
同意大大說的,台灣純NLP工作少,大部分學NLP都是找外商
或是其他相關應用領域
Huggingface 套一下 應該是很多地方的常態…
Search跟NLP沒差那麼多啦 vector space model就搜
尋引擎開始用的 NLP後來引進 (不過我後來發現很多人
不知到這段歷史 以為vector space model是十年前左
右NLP的大發明) 排序的部分也就幾個公式而已
說實話現在很多搞NLP的幾乎都不懂IR的一些經典技法
了 tf-idf之類的 其實很多時候可以拿來作快速proto
typing
樓上,現在線上有哪個主流的搜尋引擎或商品,是用vector s
pace做的?或tf-idf做,然後去搜向量?沒有吧。速度慢,效
果又差。
排序部分就那幾個公式?你們的產品是什麼場景,CTR多少呢
?正常商品怎麼可能幾個傳統公式就能搞定。
另外,傳統IR根本不管用戶特徵,只管文字上表面相似度,這
也是現代化搜尋系統與NLP工作差異極大的地方。
NLP為什麼工作少,是因為沒有獨立能賺錢的應用。到最後能
賺錢的搜尋,推薦,廣告業務,會用到NLP的技術比例其實沒
那麼高。
如果是純賺錢考量,還不如直接去學搜尋,推薦,廣告。NLP
有遇到需求再學較好。
多謝各位的建議,我的起始點就是想要學一個有技術壁壘的
技術,而不是別人學幾個月就宣稱他能上手的。
我說IR以前用vector space model
NLP現在在用 上面是看不清楚推文亂曲解
IR排序比NLP多的就是那些公式 現在當然都
用deep learning 你要說這個那差異更小
另外 國內要做search 大多就給客戶內部使用而已 還
真的是老公式套一套就夠了 (當然直接用package更快
) 而面向大眾的搜尋引擎 現在就是google獨佔市場 其
他做也是白做
另外 tf-idf不是傳統IR用法而已 事實上它的idea很多
地方都可以用 近期的像AllenAI的SciSpacy套件也用到
了 我也說了它只是當一個baseline或prototype而已
最終成品要SOTA當然就不是用tf-idf
不過說到底 我同意如果要去做電商推薦、搜尋的 不用
特別深入NLP
推樓上,感覺某樓在diss傳統操作挺外行的。而且絕對沒
有甚麼領域差很多這種事。ACL了解一下,看看有多少是搜
索推薦相關....
2
書籍:可以直接到amazon輸入NLP,找評分星星偏多的書。 這種位於學術前沿的領域, 每個人的理解都不同,所寫出來的書籍內容也都不同,沒有所謂的聖經。 我是建議將評分較高的書籍都讀一讀,避免思想偏一。
爆
[問卦] 王品:公司照顧各位家人,今年沒年終!王品董事長發了一封信給王品的各位家人 說今年不會有年終! 老闆很感動各位家人的付出 感謝大家特別給0.5個月特別獎金84
[問卦] 有什麼工作能準時下班魯妹我輪班護理師喇 最近真的太累了 防疫防到不知道多久沒回家了 已提離職 因為一畢業就是走醫院79
[閒聊] 台中開車上下班的上班族都是什麼原因阿最近看到板上討論的很熱烈的議題 忽然想到: 上下班時間會塞到爆,那騎機車或大眾運輸是不是一樣塞呢? 自己本身也有開車,但是不是上班族,是工地的師傅,所以可以技術性的避開上下班時間 ,偶爾還是會遇到,但是不常。50
[問卦] 月薪五萬準時上下班的工作爛嗎?月薪五萬,不扛責任,準時上下班,穩定。年終2個月 但是沒辦法發財的工做,算爛工作嗎? --52
[問題] 請問沒小孩的大家下班都去哪?汝題 請問新竹的各位上班族 約25-40歲族群 下班後沒事沒小孩的大家 都去哪裡玩耍?48
[請益] 本科在前端(應該有)的優勢?各位前輩好,有點不知道怎麼下標題所以打算在內文詳述。 小弟114CS學士畢業,我知道碩班很讚很棒很重要,但我因為個人因素所以真的沒有打算 往? 我還是很謝謝各位前輩。 畢業前一個月很認真的思考之後想做什麼,想來想去之後決定投入網頁相關的領域,原因36
[請益] 工作半年對未來規劃的疑問(文稍長)各位先進好! 簡短的背景介紹: 小弟即將滿27,是120土木測量所應屆畢業,碩士時因緣際會跟著研究室弄深度學習,開 始接觸寫程式及AI算法(主要是電腦視覺)這塊,由於教授算相當嚴謹&博班學長在軟硬 體這塊滿有天份(他十分培養我),雖然非CS本科,但就DL領域來說自認有學到在業界堪29
[請益] 想進遊戲業目前應該精進的方向首先謝謝各位進來看小弟這篇文@@ 前情提要一下,小弟大學本科系就讀應用數學有輔日文,考慮了很久後打算在今年六月學 士班畢業後直接進遊戲業工作,工作幾年後再回來讀研究所。 目前自學Unity大概一年半左右,中間練習了很多東西也學到了很多知識,C#跟Unity也算 是完全脫離初學者階段了,但有自信能拿出來的作品只有一個線上麻將遊戲而已,總感覺10
[請益] 有石頭/皮卡的行政內推嗎?小妹不才 本科感覺很容易被壓榨 只能做做看行政職看會不會比較輕鬆 (一樣要被壓榨只是比較不會加班的概念=.=) 最近又剛好要到關渡附近生活20
[請益] 有關六年經驗非本科系的軟工身價問題請教一下版上的各位大大,目前本人擔任系統開發組組長, 年領49K*14。因目前在內部發現技術能力已經停止增長, 想更換一個工作以接觸更多新的東西。 我是非本科系出身,實際接觸軟工的時間六年, 目前實力應該處在需求功能都能實作。