spark.yarn.archive 的正确设置方法
生活随笔
收集整理的這篇文章主要介紹了
spark.yarn.archive 的正确设置方法
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
spark.yarn.archive 的設置方法有很多,下面三種
①spark.yarn.jars hdfs://Desktop:9000/spark/jars/*
②spark.yarn.jars hdfs://Desktop:9000/spark/jars/*.jar
③spark.yarn.jars hdfs://Desktop:9000/spark/jars/
上述配置真的正確嗎?我們測試下
pyspark --master yarn
其中③會出現報錯:
?
Error: Could not find or load main class org.apache.spark.deploy.yarn.ExecutorLauncher?
結論:
可行的方式只有①②
?
?
總結
以上是生活随笔為你收集整理的spark.yarn.archive 的正确设置方法的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 建议升级 iOS 13.3 Beta1:
- 下一篇: iPhone 11 玻璃面板采用的离子交