如何使用PySpark加载IPython shell

我想加载IPython shell(不是IPython笔记本),我可以通过命令行使用PySpark.那可能吗?
我安装了Spark-1.4.1.

解决方法:

如果你使用Spark< 1.2你可以简单地用环境变量IPYTHON = 1执行bin / pyspark.

IPYTHON=1 /path/to/bin/pyspark

要么

export IPYTHON=1
/path/to/bin/pyspark

虽然上面仍然可以使用Spark 1.2及以上推荐的方法为这些版本设置Python环境,但是PYSPARK_DRIVER_PYTHON

PYSPARK_DRIVER_PYTHON=ipython /path/to/bin/pyspark

要么

export PYSPARK_DRIVER_PYTHON=ipython
/path/to/bin/pyspark

您可以将ipython替换为您选择的解释器的路径.

上一篇:mysql – 使用for循环数组时使用INSERT INTO表ON DUPLICATE KEY时出错


下一篇:如何在Spark SQL中的多个列上进行数据透视?