如何在Spark SQL中创建和使用跨会话的全局临时视图

星敏大大_9157

星敏大大_9157

2026-09-03

405人浏览

原创

全局临时视图生命周期绑定当前spark应用(sparkcontext),作用域限于同一应用内所有sparksession共享的global_temp命名空间,退出即销毁,不跨jvm进程。

如何在spark sql中创建和使用跨会话的全局临时视图

全局临时视图的生命周期和作用域到底是什么

Spark SQL 的 CREATE GLOBAL TEMP VIEW 创建的视图不是“跨应用”或“跨 SparkSession”的永久对象,而是绑定到当前 Spark 应用(即 SparkContext)的全局命名空间 global_temp。它在应用退出时自动销毁,不能被其他 JVM 进程(比如另一个 spark-shell 或独立提交的 jar)访问。

  • 视图名必须显式带上 global_temp. 前缀才能查询,例如 SELECT * FROM global_temp.my_view
  • 同一应用内所有 SparkSession 实例共享该命名空间,所以新创建的 SparkSession 也能查
  • 它不写入 Hive Metastore,也不受 spark.sql.catalogImplementation 设置影响(哪怕设为 hive)

怎么正确创建并验证全局临时视图

创建前确保数据源可用,且语句在某个 SparkSession 中执行;创建后必须用限定名访问:

spark.sql("CREATE GLOBAL TEMP VIEW user_summary AS SELECT id, COUNT(*) c FROM users GROUP BY id")
spark.sql("SELECT * FROM global_temp.user_summary").show()
  • 不加 global_temp. 前缀会报错:Table or view not found: user_summary
  • 如果重名创建,不会报错,但会静默覆盖(类似 CREATE OR REPLACE 行为)
  • 视图定义不固化 schema:底层表结构变更后,下次查询可能失败,不会提前校验

为什么在不同 SparkSession 里查不到,或者报 resolve 错误

常见错误是误以为“全局”等于“跨进程”,实际只限于同一 SparkContext。以下情况会导致查不到:

Tome
Tome

Tome是一款面向叙事型页面和演示内容创作的 AI storytelling 工具。

下载
  • 在另一个 spark-submit 启动的应用中运行 SELECT FROM global_temp.xxx → 报 Table or view not found
  • 在 notebook 中重启 kernel 或新建 SparkSession 但没重建 global_temp 视图 → 视图已丢失
  • 使用了 spark.sql.adaptive.enabled=true 且视图引用了未 broadcast 的小表 → 可能触发计划解析失败,建议显式缓存源表再建视图

替代方案:什么时候该用永久表而不是全局临时视图

如果需要真正持久、跨会话、跨应用访问,global_temp 不适用,应考虑:

  • 写入 Hive/ Iceberg/ Delta Lake 等支持 catalog 的格式,用 CREATE TABLE + USING 指定格式
  • 使用 spark.sql("CREATE VIEW ...")(非 global)配合 Hive Metastore,前提是启用了 Hive 支持且配置了 hive.metastore.uris
  • 对临时中间结果,优先用 DataFrame.cache() 或 .persist(),比反复查视图更高效

全局临时视图真正的价值场景很窄:单个 Spark 应用内多个 notebook cell 或多个子模块需要共享一份轻量逻辑封装,且不想污染 Hive 或落盘。一旦涉及协作、调度或复用,它的“全局”就立刻失效。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4243

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

891

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1109

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6161

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3003

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6120

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8261

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1130

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

992

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.7万人学习