[閒聊] MyGO 論文
多模態知識圖譜(MMKG)儲存了包含豐富多模態描述資訊結構化世界知識。
為了克服其固有的不完整性,多模態知識圖譜補全(MMKGC)旨在利用三元組的結構資訊和實體的多模態訊息,從給定的多模態知識圖譜中發現未觀察到的知識。
現有的 MMKGC 方法通常使用預先訓練好的模型來提取多模態特徵,並採用融合模組將多模態特徵與三元組預測結合。然而,這往往導致對多模態資料的粗略處理,忽略了細微、精細的語義細節及其相互作用。
為了解決這一不足,我們引入了一個新穎的框架 MyGO ,用於處理、融合和增強
MMKG 的細粒度模態資訊。MyGO 將多模態原始資料標記為細粒度的離散標記,並
透過跨模態實體編碼器學習實體表徵。為了進一步增強多模態表徵,MyGO 採用了
細粒度對比學習技術,以突顯實體表徵的特殊性。
arxiv : https://arxiv.org/abs/2402.05391
github : https://github.com/zjukg/MyGO
我是沒想到連這個也會GO
然後提醒一下 這論文是認真做的 不是搞耍 不要去人家的issues亂
https://i.imgur.com/ech1Oji.png
--
https://i.imgur.com/sFomUdG.png
我永遠喜歡白佳貞學姊
--
※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.213.199.89 (臺灣)
※ PTT 網址
※ 編輯: alanwang555 (49.213.199.89 臺灣), 04/19/2024 17:11:45
推
中國人素質
推
這沒啥吧 我記得也看過老外玩薩爾達梗
→
白佳貞好像沒啥戲份欸
推
你論文貼錯篇了吧
→
你貼到他另一篇的survey paper
→
而且硬要縮寫成MyGO欸,病得不輕
→
這篇很認真欸 要投AMC MM的會議欸
→
*ACM MM
推
你也是在助長其他人去亂 建議刪掉文章
10
[討論] 慣導會結合AI重出江湖嗎?如題 剛剛看到對於飛彈的討論就想到,電子干擾、反干擾作戰上的投資已經越來越重。 最後會不會是慣導作為完全不需仰賴GPS的系統,帶著AI與遙測技術重返戰場? 比方說,讓純慣導或是有遙測與AI系統作為輔助的ICBM帶著功率超大的干擾器作為反防空手段。 AI辨識在某種程度上也算是把過去負責看著電視導引的那隻猴子給裝進飛彈內。8
Re: [新聞] 馬斯克談特斯拉降價:如果我們價格和TOYO在經濟下行情況 Musk必須負責他之前的策略錯誤 在2020年Musk勾畫了一款低於25000價位 低階車款 但這塊推遲沒執行 也就是Musk一直把自家車定位還是鎖定在中高階價位族群 這件事情在現在這一年回過頭來看 是個超級致命的決策失誤 (更正:根據某大大訊息 此部分非Musk決策錯誤 而是現實不允許 ) 在4~5萬美金電車價位下 願意買ModelY/3消費者早就都買電車了6
Re: [問題] 到底有沒有盤子國產車做過全車隔音的啦┌─────────────────────────────────────┐ │ 文章代碼(AID): #1V6Gq3A0 (car) [ptt.cc] Re: [問題] 隔音施工的效果跟花費? │ │ 文章網址: │ │ 這一篇文章值 485 Ptt幣 │ └─────────────────────────────────────┘2
Re: [閒聊] Neuro真的有辦法做到理解圖像嗎大型語言模型本質上是文字接龍 你說的話會通過tokenizer切成很多token後餵給模型 讓他預測下一個機率最高的字 當input是圖像時 你需要用一個資訊壓縮模型 把圖也壓成一串token 接下來做的事情就一樣了 把這串濃縮feature token餵給模型 搭配你說的其他話 來預測下一個字 重複到出現一個完整的回答為止1
Re: [問卦] 什麼能力不會被AI取代阿肥外商碼農阿肥啦! 先說啦!基本上依照目前的AI趨勢高階具備獨立自主思考能力或是低階廉價勞工還是很難 取代,最會先被取代的是中階比較偏向指令式的開發人員,這些大量初階的paper work或 是coding work可能有機會被慢慢取代(依照過往人類歷史工業革命也花了五十年到一百年 才全部完成)。- 阿肥外商碼農阿肥啦!認真說,這幾年口說上字幕甚至翻譯,還有有字幕上語音這幾年都獲 得不錯的進展,包含openAI、Google、Amazon、Meta實驗室都有不錯的產出,而且這些都是 依靠當前所謂的多模態零樣本學習的大力進步,很多轉換錯誤或是機器音都減小很多,不 過偶爾還是會有出槌需要人工修正的部分。 所謂的多模態零樣本其實就是換一個思維過往很多工作需要大量標注工跟資料工程前處理來
- HBM就是金礦 尤其現在部分研究有走向拉長Input Sequence和Embedding Vector Length 我好幾次train模型 記憶體都不夠用 還得搞gradient accumulation這種手法 在Multimodal開啟後 資料數據都是幾10T的Train 記憶體很容易被操爆 且部分研究顯示 多模態數據拉到60T以上後 胡言亂語症狀都會減低 然後HBM3e領先就是海力士 海力士不可能只有20% HBM現在就三大玩家 而韓廠就吃掉90%
59
[閒聊] alp 宅友3 1 0 2 P36
[情報] 間諜家家酒108話32
[閒聊] 黑白妹作者:放心吧23
[情報] 轉生貴族憑鑑定技能扭轉人生 三期決定33
[婊子] 有人被龍蝦夾過嗎58
[閒聊] 無嘴貓是怎麼走下神壇的?☺20
[SC] 我覺得大半夜開快車不是很好啊28
[24秋] 嘆氣的亡靈想隱退 暗示二季?17
[閒聊] mygo 09 曾經的美好時光去哪17
Re: [PTCGP] 1529人參賽出輪32強牌組24
[情報] 噗妮露是可愛史萊姆 二期決定16
[閒聊] 鳴潮可以跟壽司郎合作什麼週邊?25
[MHG] 燃油車鬥魂三期製作決定,PV公開15
[蔚藍] 老師版危機一發23
[吉伊卡哇] 自製抽抽樂又双叒有店家被抓到作弊17
[百合] 第六回百合漫畫總選舉 明天開始12
[閒聊] 青春之箱 17816
[閒聊] 想找充滿驚人想像力的漫畫24
[問題] 台灣日系文化是不是快超越韓系了26
[閒聊] 平行天堂 280 知夫莫若妻57
[沒倒] 鎖鏈戰記 出大事啦!!!!!!10
Re: [閒聊] 光線槍為什麼死透了?17
[繪圖] 海邊的Fauna9
Re: [閒聊] すき家是怎麼一統台灣速食牛丼江湖的?☺15
[閒聊] 蔚藍檔案 優香 ASMR專用耳機 簡易開箱8
[問題] 對章魚嗶的原罪結局感到空虛是正常的嗎8
[急了] 如果是黑白女兒還會這麼紅嗎?8
[情報] 菅原圭 PS Plus CM8
[Vtub] GIGI怎麼那麼黏Fauna?7
[妮姬] 梅登&吉蘿婷貼貼梳頭髮