Flink从入门到精通100篇(十三)-Flink的入门教学
前言
Flink 是一種流式計(jì)算框架,為什么我會(huì)接觸到 Flink 呢?因?yàn)槲夷壳霸谪?fù)責(zé)的是監(jiān)控平臺(tái)的告警部分,負(fù)責(zé)采集到的監(jiān)控?cái)?shù)據(jù)會(huì)直接往 kafka 里塞,然后告警這邊需要從 kafka topic 里面實(shí)時(shí)讀取到監(jiān)控?cái)?shù)據(jù),并將讀取到的監(jiān)控?cái)?shù)據(jù)做一些 聚合/轉(zhuǎn)換/計(jì)算 等操作,然后將計(jì)算后的結(jié)果與告警規(guī)則的閾值進(jìn)行比較,然后做出相應(yīng)的告警措施(釘釘群、郵件、短信、電話等)。畫(huà)了個(gè)簡(jiǎn)單的圖如下:
目前告警這塊的架構(gòu)是這樣的結(jié)構(gòu),剛進(jìn)公司那會(huì)的時(shí)候,架構(gòu)是所有的監(jiān)控?cái)?shù)據(jù)直接存在 ElasticSearch 中,然后我們告警是去 ElasticSearch 中搜索我們監(jiān)控指標(biāo)需要的數(shù)據(jù),幸好 ElasticSearch 的搜索能力夠強(qiáng)大。但是你有沒(méi)有發(fā)現(xiàn)一個(gè)問(wèn)題,就是所有的監(jiān)控?cái)?shù)據(jù)從采集、采集后的數(shù)據(jù)做一些 計(jì)算/轉(zhuǎn)換/聚合、再通過(guò) Kafka 消息隊(duì)列、再存進(jìn) ElasticSearch 中,再而去 ElasticSearch 中查找我們的監(jiān)控?cái)?shù)據(jù),然后做出告警策略。整個(gè)流程對(duì)監(jiān)控來(lái)說(shuō)看起來(lái)很按照常理,但是對(duì)于告警來(lái)說(shuō),如果中間某個(gè)環(huán)節(jié)出了問(wèn)題,比如 Kafka 消息隊(duì)列延遲、監(jiān)控?cái)?shù)據(jù)存到 ElasticSearch 中寫(xiě)入時(shí)間較長(zhǎng)、你的查詢姿勢(shì)寫(xiě)的不對(duì)等原因,這都將導(dǎo)致告警從 ElasticSearc
總結(jié)
以上是生活随笔為你收集整理的Flink从入门到精通100篇(十三)-Flink的入门教学的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: Flink从入门到精通100篇(五)-f
- 下一篇: Flink从入门到精通100篇(十八)-