Flink的scala+python的shell模式实验记录汇总
根據[1],FLINK的shell有以下一些運行模式
################################下面是scala-shell###########################################
| scala模式 | 需要啟動腳本 | 啟動命令 | 案例 |
| local | 不需要 | $FLINK_HOME/bin/start-scala-shell.sh local | [2] |
| remote | $FLINK_HOME/bin/start-cluster.sh | $FLINK_HOME/bin/start-scala-shell.sh remote Desktop 8082 | [4] |
| yarn session cluster模式 | $FLINK_HOME/bin/yarn-session.sh | $FLINK_HOME/bin/start-scala-shell.sh yarn | [3] |
?
[5]中命令行提交任務有session和per-job兩種方式,注意,flink shell不存在per job模式,只存在上述的session模式
如果數據量不大的話,remote和local兩種模式的運行速度是最快的。
如果數據量比較大的話,那么yarn和remote兩種方式應該速度比local快,畢竟需要發揮集群的計算能力。
###############################下面是pyflink?shell#####################################
| Python模式 | 需要啟動腳本 | 啟動命令 | 案例 |
| local | 不需要 | pyflink-shell.sh local | [6] |
| remote | $FLINK_HOME/bin/start-cluster.sh | pyflink-shell.sh remote Desktop 8082 | [7] |
| yarn per-job cluster模式 | 不需要 | pyflink-shell.sh yarn? | [8] |
pyflink的local模式實驗記錄
######################################################################################
對兩種接口的區別進行小結:
scala flink? ? 的on yarn模式僅支持session cluster模式
python flink的on yarn模式僅支持per-job?cluster模式
?
注意:Pyflink的DataStream支持不完整,沒法生產環境使用。
######################################################################################
Reference:
[1]Apache Flink 客戶端操作
[2]flink shell的local模式(benv與senv的使用+處理報錯的解決方案)
[3]flink on yarn shell的session cluster模式實驗記錄
[4]真實集群下-flink shell的remote模式實驗記錄
[5]真實集群中Flink命令行各種模式提交wordcount
[6]pyflink的local模式實驗記錄
[7]pyflink shell的remote模式下的實驗記錄
[8]pyflink shell on yarn在per-job cluster模式下的實驗記錄
?
總結
以上是生活随笔為你收集整理的Flink的scala+python的shell模式实验记录汇总的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: flink on yarn模式下释放fl
- 下一篇: mac上Android反编译工具apkt