BigData之Storm:Apache Storm的简介、深入理解、下载、案例应用之详细攻略
BigData之Storm:Apache Storm的簡介、深入理解、下載、案例應用之詳細攻略
?
?
?
目錄
Apache Storm的簡介
Apache Storm的深入理解
1、Storm與hadoop
2、Apache Storm的API
Apache Storm的下載
Current 2.2.x Release
Apache Storm的案例應用
1、Apache Storm集成
?
?
?
Apache Storm的簡介
? ? ? ? Apache Storm是一個免費的、開源的分布式實時計算系統。Apache Storm使它能夠輕松可靠地處理無綁定的數據流,就像Hadoop對批處理所做的那樣進行實時處理。Apache Storm很簡單,可以與任何編程語言一起使用,而且使用起來很有趣!
? ? ? ? Apache Storm有很多用例:實時分析、在線機器學習、連續計算、分布式RPC、ETL等等。Apache Storm速度很快:基準測試顯示,每個節點每秒處理的元組超過100萬。它是可擴展的,容錯的,保證您的數據將被處理,并且易于設置和操作。
? ? ? ? Apache Storm集成了您已經使用的排隊和數據庫技術。Apache Storm拓撲消耗數據流,并以任意復雜的方式處理這些流,在計算的每個階段之間根據需要對流進行重新分區。在教程中內容。
? ? ? ? Storm是一個免費開源、分布式、高容錯的實時計算系統。Storm令持續不斷的流計算變得容易,彌補了Hadoop批處理所不能滿足的實時要求。Storm經常用于在實時分析、在線機器學習、持續計算、分布式遠程調用和ETL等領域。
官網:http://storm.apache.org/
文檔:http://storm.apache.org/releases/current/index.html
?
?
Apache Storm的深入理解
1、Storm與hadoop
? ? ? ? 全量數據處理使用的大多是鼎鼎大名的hadoop或者hive,作為一個批處理系統,hadoop以其吞吐量大、自動容錯等優點,在海量數據處理上得到了廣泛的使用。但是,hadoop不擅長實時計算,因為它天然就是為批處理而生的,這也是業界一致的共識。否則最近這兩年也不會有s4、storm、puma這些實時計算系統如雨后春筍般冒出來啦。
?
2、Apache Storm的API
? ? ? ? Apache Storm有一個簡單易用的API。在Apache Storm上編程時,可以操作和轉換元組流,元組是一個指定的值列表。元組可以包含任何類型的對象;如果您想使用Apache Storm不知道的類型,那么很容易為該類型注冊一個序列化器。
?
Apache Storm的下載
下載地址:http://storm.apache.org/downloads.html
?
Current 2.2.x Release
The current 2.2.x release is 2.2.0. Source and binary distributions can be found below. The list of changes for this release can be found?here.
Documentation?
Javadocs
- apache-storm-2.2.0.tar.gz?[PGP] [SHA512]
- apache-storm-2.2.0.zip?[PGP] [SHA512]
- apache-storm-2.2.0-src.tar.gz?[PGP] [SHA512]
- apache-storm-2.2.0-src.zip?[PGP] [SHA512]
Apache Storm artifacts are hosted in?Maven Central. You can add Apache Storm as a dependency with the following coordinates:
groupId: org.apache.storm artifactId: storm-{component} version: 2.2.0?
Apache Storm的案例應用
1、Apache Storm集成
? ? ? ? Apache Storm集成了任何排隊系統和任何數據庫系統。Apache Storm的spout抽象使得集成新的排隊系統變得很容易。示例隊列集成包括:
? ? ? ? 同樣,將apachestorm與數據庫系統集成也很容易。只需打開與數據庫的連接,然后像平常一樣讀/寫。apachestorm將在必要時處理并行化、分區和失敗時重試。
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
總結
以上是生活随笔為你收集整理的BigData之Storm:Apache Storm的简介、深入理解、下载、案例应用之详细攻略的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: AI公开课:18.05.16 周明博士(
- 下一篇: DL之DNN优化技术:利用Batch N