阿里云Elasticsearch搜索
一.ES介紹
1.ES全稱(chēng)Elasticsearch,是一種分布式,文檔數(shù)據(jù)庫(kù)。能夠迅速擴(kuò)展,存儲(chǔ)以及處理PB級(jí)別數(shù)據(jù),可以在段時(shí)間內(nèi)做海量數(shù)據(jù)的查詢,分析,搜索。
(1)分布式:es集群是由多個(gè)節(jié)點(diǎn)組成的。
(2)文檔數(shù)據(jù)庫(kù):es的數(shù)據(jù)存儲(chǔ)形式是文檔,數(shù)據(jù)以文檔形式存儲(chǔ)在索引里,es中的索引類(lèi)似mysql數(shù)據(jù)庫(kù)中的表。
ES存儲(chǔ)文檔數(shù)據(jù)舉例:
{
????"name":"段嬌",
????"sex":1,
????"age":24
}
二.阿里云ES介紹
? ? ? ?阿里云ES服務(wù)是基于開(kāi)源elasticsearch研發(fā)的全托管的es服務(wù),完全兼容開(kāi)源功能,開(kāi)箱即用,按需計(jì)費(fèi)。不僅集成了elasticsearch,logstash,kibana,beats等組件,還集成了商業(yè)版X-pack擴(kuò)展包的sql,告警,監(jiān)控等功能。
? ? ? ?阿里云的ES版本包括:
通用商業(yè)版:提供全托管的ES服務(wù),100%開(kāi)源,同時(shí)包含全部X-pack高級(jí)特性。支持的版本較多。用于數(shù)據(jù)分析和數(shù)據(jù)搜索場(chǎng)景。
日志增強(qiáng)版:在高級(jí)特性基礎(chǔ)上,優(yōu)化增加了內(nèi)核及插件,提供更好性能,更高穩(wěn)定性,和更低成本。用于海量日志存儲(chǔ)場(chǎng)景。
? ? ? ? 其中ES中的組件包括:
logstash:數(shù)據(jù)處理管道
數(shù)據(jù)節(jié)點(diǎn):存儲(chǔ)索引數(shù)據(jù),對(duì)文檔進(jìn)行增刪改查。
kibana節(jié)點(diǎn):可視化界面,管理es數(shù)據(jù)庫(kù)。
專(zhuān)有主節(jié)點(diǎn):對(duì)集群進(jìn)行操作,例如創(chuàng)建刪除索引,默認(rèn)情況下任一節(jié)點(diǎn)會(huì)被選為專(zhuān)有主節(jié)點(diǎn)。
冷數(shù)據(jù)節(jié)點(diǎn):存儲(chǔ)冷數(shù)據(jù),用于冷熱數(shù)據(jù)分離。
協(xié)調(diào)節(jié)點(diǎn):分擔(dān)數(shù)據(jù)節(jié)點(diǎn)CPU開(kāi)銷(xiāo),如果業(yè)務(wù)是CPU密集型業(yè)務(wù),可以購(gòu)買(mǎi)協(xié)調(diào)節(jié)點(diǎn)。
彈性節(jié)點(diǎn):提供彈性擴(kuò)縮功能,在業(yè)務(wù)高峰期增加資源,低峰期減少資源。
beats:數(shù)據(jù)采集
三.ES與mysql區(qū)別
| 對(duì)比項(xiàng) | mysql | ES |
| 數(shù)據(jù)庫(kù)類(lèi)別 | 關(guān)系型數(shù)據(jù)庫(kù) | 分布式文檔數(shù)據(jù)庫(kù) |
| 存儲(chǔ)類(lèi)型 | 結(jié)構(gòu)化數(shù)據(jù),表 | 非結(jié)構(gòu)化數(shù)據(jù),文檔 |
| 存儲(chǔ)量 | TB | PB |
| 數(shù)據(jù)處理能力 | 事務(wù),二級(jí)索引 | 全文檢索 |
| 應(yīng)用場(chǎng)景 | 核心業(yè)務(wù),結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ) | 文檔數(shù)據(jù),日志海量存儲(chǔ)分析 |
四.ES應(yīng)用場(chǎng)景
1.日志分析,elk三件套搭建日志收集分析平臺(tái)。
2.信息檢索,es用于PB級(jí)數(shù)據(jù)快速檢索,查詢。
3.數(shù)據(jù)智能,es用于大數(shù)據(jù)分析
五.ES使用
1.ES遷移
2.數(shù)據(jù)庫(kù)同步
3.大數(shù)據(jù)云產(chǎn)品同步
4.存儲(chǔ)產(chǎn)品遷移
5.ES-Hadoop使用
6.日志采集與分析
7.服務(wù)器數(shù)據(jù)采集
8.集群管理
六.RDS同步到ES
| 同步方式 | 原理 | 場(chǎng)景 | 限制 |
| DTS | binlog日志同步,毫秒級(jí) | 實(shí)時(shí)性要求高 | 占用數(shù)據(jù)庫(kù)資源,需要購(gòu)買(mǎi)DTS實(shí)例 |
| logstas | Logstash批量查詢數(shù)據(jù)并存儲(chǔ)到es,秒級(jí)延遲 | 同步全量數(shù)據(jù),接收秒級(jí)延遲 | |
| dataworks離線數(shù)據(jù)同步 | 引入RDS結(jié)構(gòu)化數(shù)據(jù),進(jìn)行轉(zhuǎn)化然后存儲(chǔ)到es | 接收離線同步 |
總結(jié)
以上是生活随笔為你收集整理的阿里云Elasticsearch搜索的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: icon图标库
- 下一篇: (1.5.1.3)编程之美:一摞烙饼的排