首页 文章

如何在Datastax Enterprise中使用Cassandra启动Spark

提问于
浏览
0

我最近在我的5节点集群中安装了DataStax Enterprise(v5.0) . 我计划使用3个节点作为spark和2个节点作为cassandra多节点集群 .

现在每当我尝试在我的火花节点中启动火花时 -

我收到以下错误 -

sudo dse spark线程“main”中的异常java.io.IOException:无法在{127.0.0.1}打开与Cassandra的本机连接:9042 at com.datastax.spark.connector.cql.CassandraConnector $ .com $ datastax $ spark $连接器$ $ CQL $$ CassandraConnector了createSession(CassandraConnector.scala:160)

为什么火花寻找 Cassandra ? DSE中没有cassandra就没有办法启动火花吗?

还应该更改DSE中的哪些conf文件,以便spark连接到另一个节点上运行的cassandra(而不是在127.0.0.1:9042本地运行的那个)

1 回答

  • 1

    您当前不能(5.0)启动没有Cassandra的DSE节点 . 但仅仅因为你必须启动Cassandra并不意味着你必须使用它 . 只需确保您始终使用网络拓扑策略,DSE将仅在这些计算机上使用C *来获取八卦和架构信息 .

    另外注意 dse spark 只是启动火花壳 . 它不会启动Spark Master和Worker基础结构 .

相关问题