c++ velox框架 c++如何使用velox构建数据库执行引擎

浅晨吖_1425

浅晨吖_1425

2026-03-21

230人浏览

原创

velox不是数据库执行引擎,而是可嵌入的c++查询执行库,需自行集成sql解析、优化器、存储等组件;最简执行需构造rowvector、plannode树并调用task::start(),且须手动注册connector。

c++ velox框架 c++如何使用velox构建数据库执行引擎

Velox 是什么,它真能直接用来搭数据库执行引擎?

不能。Velox 本身不是数据库执行引擎,而是一个**可嵌入的、模块化的 C++ 查询执行库**——它不带 SQL 解析、优化器、元数据管理、存储层或查询调度。你得自己接 Calcite 或 Spark SQL 做逻辑计划生成,用 velox::exec::Task 跑物理算子,再配 velox::connector::Connector 拉数据。想靠 Velox “开箱即用”建个 Postgres 替代品,会卡在第一天连 SELECT 1 都跑不起来。

从零启动一个 Velox 执行任务:最简可行路径

绕过所有上层框架,只验证 Velox 算子能否跑通,核心是三步:

  • 构造 velox::RowVector 输入(比如用 velox::test::makeRowVector)
  • 写 velox::exec::PlanNode 树(哪怕只有 ValuesNode + ProjectNode)
  • 用 velox::exec::Task::start() 提交,并轮询 task->isFinished()

注意:velox::exec::LocalExchangeSource 和 velox::exec::Driver 不暴露给用户直接调用;必须走 Task 接口。漏掉 task->noMoreSplits() 会导致死等输入,这是新手最常卡住的地方。

为什么 velox::exec::TableWriteNode 总报 Connector not found?

因为 Velox 默认不注册任何 connector——即使你编译时链接了 velox::connector::hive::HiveConnector,也得手动调用 velox::connector::registerHiveConnector()。常见错误包括:

C++ Code Review Master
C++ Code Review Master

组合式C++代码评审方案,融合静态分析、AI推理、多轮迭代评审和C++专项检查,适用于PR审查、增量代码审查、全项目评审和代码质量评分,触发词包括review cpp、cpp代码评审、C++review、代码审查。

下载
  • 忘了在 main() 开头调用注册函数(顺序很重要,必须在创建 core::QueryCtx 之前)
  • 用的是 velox::connector::hive::HiveConnector,但传给 TableWriteNode 的 connectorId 写成 "hive"(正确)而非 "hdfs" 或空字符串
  • 没设置 core::QueryConfig 中的 query::kHiveStorageFormat,导致 Parquet 写入失败但报错不明确

建议先用 velox::connector::tpch::TpchConnector 测试,它纯内存、无依赖,注册后立刻可用。

C++ 编译 Velox 项目时链接失败或符号未定义

Velox 强依赖 ABI 兼容性,尤其对 folly、double-conversion、re2 版本敏感。典型现象是 undefined reference to 'folly::dynamic::operator=(folly::dynamic&&)' 这类错误。

  • 必须用 Velox 官方 third-party 子模块(即 build/fbthrift/ 下的 folly),不能用系统包管理器装的 libfolly-dev
  • CMAKE_BUILD_TYPE=RelWithDebInfo 是推荐模式;用 Debug 会触发大量断言,且某些算子(如 HashJoin)在 Debug 下性能极差,容易误判为 hang
  • 如果你用 Bazel,务必确认 //velox/exec:exec target 已显式声明依赖 //velox/connector:hive,否则链接时不会拉入 hive connector 符号

真正麻烦的从来不是写 PlanNode,而是让所有第三方符号在链接期对齐——多一个版本号不匹配,就卡半天。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4143

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

871

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1069

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6021

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2903

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6000

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8021

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1090

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

952

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习