windows下pycharm远程调试pyspark
參考http://www.mamicode.com/info-detail-1523356.html
1.遠(yuǎn)端執(zhí)行:vi /etc/profile
添加一行:
PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.9-src.zip
或者PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.8.2.1-src.zip
2.安裝pip 和 py4j
下載pip-9.0.1.tar.gz和py4j-0.10.4.tar.gz
解壓pip-9.0.1.tar.gz和py4j-0.10.4.tar.gz,cd到解壓目錄執(zhí)行:sudo python setup.py install
3.本地Pycharm設(shè)置
File > Settings > Project Interpreter:
Tools > Dployment > Configuration:
4.運(yùn)行代碼中加入:
import os
import sys
os.environ['SPARK_HOME'] = "/opt/cloudera/parcels/CDH-5.9.1-1.cdh5.9.1.p0.4/lib/spark"
sys.path.append("/opt/cloudera/parcels/CDH-5.9.1-1.cdh5.9.1.p0.4/lib/spark/python")
轉(zhuǎn)載于:https://www.cnblogs.com/dotafeiying/p/6970829.html
總結(jié)
以上是生活随笔為你收集整理的windows下pycharm远程调试pyspark的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Revit二次开发--Hello Wor
- 下一篇: python 3.0内置函数map、fi