Я столкнулся с тем же сообщением об ошибке, и я попробовал три способа, упомянутые выше. Я перечислил результаты как дополнительную ссылку на другие.
PYTHON_SPARK
и PYTHON_DRIVER_SPARK
в spark-env.sh
для меня не работает. os.environ["PYSPARK_PYTHON"]="/usr/bin/python3.5"
os.environ["PYSPARK_DRIVER_PYTHON"]="/usr/bin/python3.5"
не работает для меня. ~/.bashrc
работает как заклинание ~