来自火花使用:
DataFrame.write().mode(SaveMode.Ignore).format("orc").saveAsTable("myTableName")
表正在保存我可以看到使用下面的命令的hadoop fs -ls /apps/hive/warehouse\test.db'
其中 test
是我的数据库名称
drwxr-xr-x - psudhir hdfs 0 2016-01-04 05:02 /apps/hive/warehouse/test.db/myTableName
但是当我尝试检查Hive中的表时,我无法使用hiveContext中的命令 SHOW TABLES
查看它们 .
3 回答
您必须将 hive-site.xml 文件(我的位于/etc/hive/conf.dist/hive-site.xml)复制到Spark conf文件夹(我的位于/ etc / spark / conf /)
重新启动Spark,它应该工作 .
我认为你需要在hive控制台中运行
INVALIDATE METADATA;
来刷新数据库并查看你的新表 .这对我来说是一个Cloudera快速启动Virtual Box .