运维开发网
广告位招商联系QQ:123077622
 
广告位招商联系QQ:123077622

scala – 需要使用spark中的数据库限定符访问Hive表

运维开发网 https://www.qedev.com 2020-07-28 08:22 出处:网络 作者:运维开发网整理
我可以从spark- shell访问hive表,但在提交作为工作的一部分时接收下面指定的异常: val df = sqlContext.table("dbName.tableName") 线程“main”中的异常org.apache.spark.sql.AnalysisException:临时表不允许指定数据库名称或其他限定符.如果表名中有点(.),请用反引号(`)引用表名. 请让我知道如何解决这
我可以从spark- shell访问hive表,但在提交作为工作的一部分时接收下面指定的异常:

val df = sqlContext.table("dbName.tableName")

线程“main”中的异常org.apache.spark.sql.AnalysisException:临时表不允许指定数据库名称或其他限定符.如果表名中有点(.),请用反引号(`)引用表名.

请让我知道如何解决这个问题.

你不能从sqlContext那样做,你需要为此定义一个HiveContext,如下所示:

val hiveContext = new HiveContext(sc)
import hiveContext.implicits._
import hiveContext.sql

hive上下文增加了对在MetaStore中查找表并使用HiveQL编写查询的支持.没有现有Hive部署的用户仍可以创建HiveContext.

如果未由hive-site.xml配置,则上下文会自动在当前目录中创建metastore_db和warehouse.

一旦定义了HiveContext,就可以在HiveQL中表达查询.

扫码领视频副本.gif

0

精彩评论

暂无评论...
验证码 换一张
取 消

关注公众号