Mysql メタデータが Hive テーブル作成ステートメントの注釈スクリプトを生成する方法について

最近、Mysql やその他のリレーショナル データベースから Hive テーブルにデータを抽出するときに、MySQL テーブル内のコメントを同期する必要があります。次のスクリプトは、Hive テーブル フィールドのコメント変更ステートメントを生成できます。この記事では主に、Mysql メタデータが Hive テーブル作成ステートメントの注釈スクリプトを生成する方法について詳しく説明しています。この記事は、すべての人の学習や仕事に役立つ参考資料です。必要な方は以下を参照してください。一緒に学びましょう。

注: oracle などの他のリレーショナル データベースも、メタデータを読み取り、スクリプト構文を変更する同じ考え方で実装できます。

使用:

mysql メタデータ データベースで次のステートメントを実行します: information_schema

SELECT CONCAT('alter table ', TABLE_NAME, ' CHANGE COLUMN ', COLUMN_NAME, ' ', COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, COLUMN_COMMENT
FROM COLUMNS
WHERE TABLE_NAME = 'o_oms_statistic_profit'
) t;

Mysql および他のリレーショナル データベースから Hive テーブルにデータを抽出するときは、mysql 内のコメントを同期する必要があります。 table の場合、次のスクリプトで Hive create table ステートメントを生成できます。ハイブ テーブルのメイン フィールド情報のみが生成され、その他の情報は手動で追加する必要があります。

mysql メタデータ データベースで次のステートメントを実行します: information_schema

SELECT CONCAT('create table ', TABLE_NAME, '(', substring(column_info, 1, length(column_info) - 1), ')', ' comment ', '"', TABLE_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, TABLE_COMMENT, group_concat(CONCAT(COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"')) AS column_info
FROM (SELECT t1.TABLE_NAME, CASE WHEN t2.TABLE_COMMENT = NULL THEN t1.TABLE_NAME ELSE t2.TABLE_COMMENT END AS TABLE_COMMENT, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, CASE WHEN COLUMN_COMMENT = NULL THEN COLUMN_NAME ELSE COLUMN_COMMENT END AS COLUMN_COMMENT
FROM COLUMNS t1 JOIN TABLES t2 ON t1.TABLE_NAME = t2.TABLE_NAME
WHERE t1.TABLE_NAME = 'o_oms_statistic_profit'
) t3
GROUP BY TABLE_NAME, TABLE_COMMENT
) t4;

関連する推奨事項:

MySQL メタデータとは何ですか?メタデータとサンプルコードの紹介

MySQLメタデータに基づくHiveのインストールと簡単なテスト

[MySQL]メタデータを取得する手順

以上がMysql メタデータが Hive テーブル作成ステートメントの注釈スクリプトを生成する方法についての詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。