Spark SQL增量查询Hudi表

CSDN头条 3年前 (2022) csdnhot
1.3K 0

查看原文

该头条内容由程序员导航网提供:Spark SQL增量查询Hudi表

内容简介:

前言
由于项目上主要用Hive查询Hudi,所以之前总结过一篇:Hive增量查询Hudi表。最近可能会有Spark SQL增量查询Hudi表的需求,并且我发现目前用纯Spark SQL的形式还不能直接增量查询Hudi表,于是进行学习总结一下。

编程方式(DF+SQL)
先看一下官方文档上Spark SQL增量查询的方式,地址:https://hudi.apache.org/cn/docs/quick-start-guide#incremental-query 和 https://hudi.apache.org/cn/docs/querying_data#incremental-query
它是先通过spark.read中添加增量参数的形式读Hudi表为DF,然后将DF注册成临时表...

版权声明:csdnhot 发表于 2022-12-01 11:47:01。
转载请注明:Spark SQL增量查询Hudi表 | 程序员导航网

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...