我有一个4个DSE 4.6节点的集群,其中Cassandra / Spark处于独立模式,提交作业以激活或打开其中一个集群节点的spark shell工作正常 . 我现在要做的是能够从不属于集群的机器打开火花壳,所以我在新机器上安装了DSE,但是当我尝试运行时
$ SPARK_MASTER=spark://MASTER_NODE dse spark
我得到一堆连接错误,看起来像火花壳试图连接到localhost .
Spark中是否存在一个固有的限制,它限制了运行shell或仅从作为集群成员的节点提交作业?
2 回答
您使用的是哪个版本的Spark?
尝试将SPARK_MASTER更改为MASTER
我经常跑
一切都很好 .
好的,我发现了我的问题(实际上是两个):
我在"client"机器上安装了不同的JDK
指定主服务器的正确方法是
dse spark --master spark://MASTER_ADDRESS:7077
现在一切正常 .