首頁 > 技術 > 正文

天天時訊：火山引擎DataLeap推出全鏈路智能監控報警平臺

2023-04-07 16:00:00來源：中關村在線

隨著大數據開發場景下需要運維管理的任務越來越多，在日常運維中開發者經常會面臨以下幾個問題：

1.任務多，依賴關系復雜：很難查找到重要任務的所有上游任務并進行監控。如果監控所有任務，又會產生很多無用報警，導致有用報警被忽視；

2.配置運維成本高：每個任務的運行情況不一樣，承諾完成時間不一樣，如果單獨對每個任務設置監控，分析及人工對齊任務服務級別協議（SLA）成本非常高；

(資料圖)

3.報警形式多樣性：對于小時級的任務，不同時段的報警及時性要求不同，普通監控無法滿足不同時段多樣的報警需求。

為了幫助企業開發者更好地解決這一問題，及時平穩完成日常運維、高效保障數據質量，字節跳動數據平臺開發套件數據開發團隊自研了基于依賴關系的全鏈路智能監控報警——基線監控，它能根據任務運行情況，智能決策是否報警、何時報警、如何報警以及向誰報警，貫穿整條任務產出鏈路，避免出現環節缺失，保障鏈路完整性。目前基線監控已在字節跳動內部得到廣泛使用，覆蓋抖音、電商、廣告等100+個項目，服務級別協議（SLA）任務的基線監控覆蓋率超過80%。

當前，該能力已通過火山引擎DataLeap向企業開放。企業可以通過火山引擎DataLeap的基線監控功能，有效降低監控配置成本、避免無效報警及報警泛濫。

圖：火山引擎DataLeap監控范圍

火山引擎DataLeap默認監控的范圍包括：基線保障任務及保障任務上游的所有任務。如上圖所示，保障任務D，E及它們所有的上游節點都會納入基線監控范圍，而任務C，F不受基線監控。值得一提的是，火山引擎DataLeap的基線監控允許用戶配置基線監控只覆蓋“指定項目”下的任務，此時基線監控的范圍就只包含了保障任務及這些項目下的上游任務。

圖：火山引擎DataLeap基線監控整體架構

火山引擎DataLeap基線監控由基線管理模塊、基線實例生成、基線埋點檢測等構成，各模塊功能詳情如下：

基線管理模塊：負責基線創建、更新、刪除等操作，管理基線元信息，包括保障任務，承諾時間，余量及報警配置等；

基線實例生成：火山引擎DataLeap每天定時觸發生成基線實例，生成實例的同時根據保障任務，由下而上逐層遍歷 (BFS)所有上游任務并生成基線監控埋點。生成基線監控埋點的過程中，火山引擎DataLeap會計算每個任務節點的預測運行時長，承諾時間，預警時間，預警最晚開始時間，承諾最晚開始時間。此外，火山引擎DataLeap會給基線監控任務添加基線出錯/變慢報警規則，當任務執行觸發規則后，通過基礎報警服務發送基線報警事件；

監控埋點校驗：系統維護一個延遲隊列，火山引擎DataLeap會根據校驗時間點(預警最晚開始時間，承諾最晚開始時間以及破線加劇時間校驗點)，同時火山引擎DataLeap會定時觸發監控埋點校驗任務實例運行狀態，如果在時間點實例未運行成功，產生基線預警/破線報警事件，發送報警。

未來，火山引擎DataLeap的研發人員將繼續針對基線監控進行優化，如基線關鍵路徑分析、基線實例生成效率優化等，不斷提高基線監控算法性能，完善基線鏈路分析能力，提升用戶體驗，向企業級市場提供更強大的全鏈路監控運營服務。（作者：崔崗）

標簽：