[心得] 處理服務讀取多個任務遇到的問題

appleboy46 發表於 2022/11/16 上午9:10:47

看板Soft_Job標題[心得] 處理服務讀取多個任務遇到的問題作者

(小惡魔)時間Nov 16 09:10:47 2022推噓 5 推:5 噓:0 →:8

標題: 處理服務讀取多個任務遇到的問題 (Go 語言)
連結: https://bit.ly/fetch-task

https://i.imgur.com/lbY6KzL.png

不同的服務都會有需要處理比較久的任務，這些任務是不能即時執行完成，才回應給前端，這樣使用者體驗會非常的差。將類型的任務存在資料庫或放在消息對列就是一種處理方式，接著啟動另一個服務來消化非即時性的任務，而常見的處理方式就是在服務內啟動多個 Worker Node 來平行消化任務(如上圖)。

## 讀取多個任務問題

先看看底下此服務內部的設計，用 Go 語言來當範例解釋當下問題，假設有一個 Task 服務負責存放所有的任務，而 Agent 服務內可以開啟多個 Goroutine 來平行消化任務，步驟也很簡單，第一步就去讀取任務，而第二步就是執行任務。想看看在步驟一的時候，如果目前 Task 服務內沒有任何任務需要執行，就設計每 5 秒才去向 Task 服務詢問是否有新任務需要執行，避免太頻繁發請求給 Task 服務。

先假設有 100 個任務需要等待執行，在 Agent 內開啟 10 個 Worker Node 去消化，這樣每次就會發送 10 個請求，而這 10 個請求有可能對於 Task 服務來說就是 10 個
SQL 指令，如果是 10 台 Agnet 就變成 100 個請求，這樣對於 Task 服務來說會負擔太大。

https://i.imgur.com/4csL9To.png