Analyse détaillée de l'application récursive DDL de l'analyseur lexical Java

Cet article vous apporte des connaissances pertinentes sur java. Il présente principalement l'explication détaillée de l'application récursive DDL de l'analyseur lexical Java. Les amis dans le besoin peuvent s'y référer. J'espère que cela vous sera utile. tout le monde.

Apprentissage recommandé : "Tutoriel vidéo Java"

plugin IntelliJ

Comme il n'existe pas d'outil prêt à l'emploi, écrivez-en un vous-même

Considérant que nous utilisons principalement PyCharm pour le développement , Il se trouve que jetbrains fournit également un SDK pour développer des plug-ins, il n'est donc pas nécessaire de prendre en compte le niveau UI. PyCharm开发，正好jetbrains也提供了SDK用于开发插件，所以UI层面可以不用额外考虑了。

使用流程很简单，只需要导入DDL语句就可以生成Python所需要的Model代码。

例如导入以下 DDL：

CREATE TABLE `user` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `userName` varchar(20) DEFAULT NULL COMMENT '用户名',
  `password` varchar(100) DEFAULT NULL COMMENT '密码',
  `roleId` int(11) DEFAULT NULL COMMENT '角色ID',
  PRIMARY KEY (`id`),  
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8

便会生成对应的 Python 代码：

class User(db.Model):
    __tablename__ = 'user'
    id = db.Column(db.Integer, primary_key=True, autoincrement=True)
    userName = db.Column(db.String)  # 用户名
    password = db.Column(db.String)  # 密码
    roleId = db.Column(db.Integer)  # 角色ID

词法解析

仔细对比源文件及目标代码会很容易找出规律，无非就是解析出表名、字段、及字段的属性（是否为主键、类型、长度），最后再转换为Python所需要的模板即可。

在我动手之前我认为是非常简单的，无非就是解析字符串，但实际上手后发现不是那么回事；主要是有以下几个问题：

• 如何识别出表名称？
• 同样的如何识别出字段名称，同时还得关联上该字段的类型、长度、注释。
• 如何识别出主键？

总结一句话，如何通过一系列规则识别出一段字符串中的关键信息，这同样也是 MySQL Server 所做的事情。

在开始真正解析 DDL 之前，先来看下一段简单的脚本如何解析：

x = 20

按照我们平时开发的经验，这条语句分为以下几部分：

• x表示变量
• =表示赋值符号
• 20表示赋值结果

所以我们对这段脚本的解析结果应当为：

VAR x

GE =

VAL 100

这个解析过程在编译原理中称为”词法解析“，可能大家听到编译原理这几个字就头大（我也是）；对于刚才那段脚本我们可以编写一个非常简单的词法解析器生成这样的结果。

状态迁移

再开始之前先捋一下思路，可以看到上文的结果中通过VAR表示变量、GE表示赋值符号 ”=“、VAL表示赋值结果，现在需要重点记住这三个状态。

在依次读取字符解析时，程序就是在这几个状态中来回切换，如下图：

• 默认为初始状态。
• 当字符为字母时进入VAR状态。
• 当字符为 ”=“ 符号时进入GE状态。

同理，当不满足这几个状态时候又会回到初始从而再次确认新的状态。

光看图有点抽象，直接来看核心代码：

public class Result{
    public TokenType tokenType ;
    public StringBuilder text = new StringBuilder();
}

首先定义了一个结果类，收集最终的解析结果；其中的TokenType就对应了图中的三种状态，简单的用枚举值来表示。

public enum TokenType {
    INIT,
    VAR,
    GE,
    VAL
}

首先对应到第一张图：初始化状态。

需要对当前解析的字符定义一个TokenType：

和图中描述的流程一致，判断当前字符给定一个状态即可。

接着对应到第二张图：状态之间的转换。

会根据不同的状态进入不同的case，在不同的case中判断是否应当跳转到其他状态（进入INIT状态后会重新生成状态）。

举个例子：x = 20:

首选会进入VAR状态，接着下一个字符为空格，自然在 38 行中重新进入初始状态，导致再次确定下一个字符=进入GE状态。

当脚本为ab = 30:
第一个字符为 a 也是进入VAR

Le processus d'utilisation est très simple. Il vous suffit d'importer l'instruction DDL pour générer le code Modèle requis par Python.

Par exemple, importez le DDL suivant :🎜

CREATE TABLE `user` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `userName` varchar(20) DEFAULT NULL COMMENT '用户名',
  `password` varchar(100) DEFAULT NULL COMMENT '密码',
  `roleId` int(11) DEFAULT NULL COMMENT '角色ID',
  PRIMARY KEY (`id`),  
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8

🎜Le code Python correspondant sera généré :🎜

`userName` varchar(20) DEFAULT NULL COMMENT '用户名',
`password` varchar(100) DEFAULT NULL COMMENT '密码',

🎜Analyse lexicale🎜🎜Si vous comparez soigneusement le fichier source et le code cible, il sera facile de trouver le modèle, qui n'est rien de plus que d'analyser le nom de la table, le champ et les attributs du champ (que ce soit la clé primaire, le type, la longueur), et finalement convertis en modèle requis par Python. 🎜🎜Avant de commencer, je pensais que c'était très simple. Il ne s'agissait que d'analyser une chaîne, mais en fait, après avoir commencé, j'ai découvert que ce n'était pas le cas ;

Comment identifier le nom de la table ?

De même, comment identifier le nom du champ, et également associer le type, la longueur et les commentaires du champ.

Comment identifier la clé primaire ?

🎜Pour résumer, comment identifier les informations clés dans une chaîne à travers une série de règles est également ce que fait MySQL Server. 🎜🎜Avant de commencer à analyser réellement DDL, voyons comment analyser le prochain script simple : 🎜

🎜x = 20🎜

🎜Selon notre expérience de développement habituelle, cette instruction est divisée en parties suivantes : 🎜

• x représente une variable
• = représente un symbole d'affectation
• 20 Représente le résultat de l'affectation

🎜Notre résultat d'analyse pour ce script devrait donc être : 🎜

🎜VAR x🎜🎜GE =🎜🎜VAL 100🎜

🎜Ceci le processus d'analyse est pendant la compilation Le principe est appelé "analyse lexicale". Vous pourriez être confus lorsque vous entendez les mots "principe de compilation" (moi aussi pour le script de tout à l'heure, nous pouvons écrire un analyseur lexical très simple pour générer un tel) ; résultat. 🎜

Migration d'état

🎜Réfléchissons-y avant de commencer. Vous pouvez voir que dans les résultats ci-dessus, VAR représente les variables et GE représente les symboles d'affectation. "=" et VAL représentent le résultat de l'affectation. Vous devez maintenant vous concentrer sur la mémorisation de ces trois états. 🎜🎜Lors de la lecture et de l'analyse de caractères en séquence, le programme bascule entre ces états, comme indiqué ci-dessous : 🎜

🎜

• La valeur par défaut est l'état initial.
• Lorsque le caractère est une lettre, il entre dans l'état VAR.
• Lorsque le caractère est le symbole "=", il entre dans l'état GE.

🎜🎜De même, lorsque ces états ne sont pas satisfaits, il reviendra à l'état initial pour confirmer à nouveau le nouvel état. 🎜🎜Le simple fait de regarder l'image est un peu abstrait, regardons directement le code principal : 🎜

} else if (value == '`' && pStatus == Status.BASE_INIT) {
    result.tokenType = DDLTokenType.FI;
    result.text.append(value);
}

🎜Définit d'abord une classe de résultats pour collecter les résultats de l'analyse finale ; le TokenType correspond aux trois états dans ; l’image. Simplement représenté par des valeurs d’énumération. 🎜

`userName` varchar(20) DEFAULT NULL COMMENT '用户名',

🎜First correspond à la première image : état d'initialisation. 🎜🎜Vous devez définir un TokenType pour le caractère actuellement analysé : 🎜

🎜🎜 est cohérent avec le processus décrit dans l'image. Il suffit de déterminer le caractère actuel en fonction d'un état. 🎜🎜Correspond ensuite à la deuxième image : la transition entre les états. 🎜

🎜🎜 entrera différents case selon différents états, et jugera s'il doit passer à d'autres états dans différents case (entrez l'état INIT L'état sera régénéré plus tard). 🎜🎜Par exemple : x = 20 :🎜🎜Le premier choix entrera dans l'état VAR, puis le caractère suivant est un espace. Naturellement, il entrera à nouveau. l'état initial à la ligne 38, ce qui entraîne Confirmez à nouveau le caractère suivant = pour entrer dans l'état GE. 🎜🎜Lorsque le script est ab = 30 :
le premier caractère est a, qui entre également dans l'état VAR, et le deuxième caractère est b, qui est toujours une lettre, donc entrez la ligne 36, le statut ne changera pas et le caractère b sera ajouté, les étapes suivantes seront les mêmes que dans l'exemple précédent ; 🎜🎜Inutile d'en dire plus, je vous propose de faire le test unique vous-même et vous comprendrez : 🎜

DDL 解析

简单的解析完成后来看看DDL这样的脚本应当如何解析：

CREATE TABLE `user` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `userName` varchar(20) DEFAULT NULL COMMENT '用户名',
  `password` varchar(100) DEFAULT NULL COMMENT '密码',
  `roleId` int(11) DEFAULT NULL COMMENT '角色ID',
  PRIMARY KEY (`id`),  
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8

原理类似，首先还是要看出规律（也就是语法）：

• 表名是第一行语句，同时以CREATE TABLE开头。
• 每一个字段的信息（名称、类型、长度、备注）都是以 “`” 符号开头 “,” 结尾。
• 主键是以 PRIMART 字符串开头的字段，以)结尾。

根据我们需要解析的数据种类，我这里定义了这个枚举：

然后在初始化类型时进行判断赋值：

由于需要解析的数据不少，所以这里的判断条件自然也就多了。

递归解析

针对于DDL的语法规则，我们这里还有需要有特殊处理的地方；比如解析具体字段信息时如何关联起来？

举个例子：

`userName` varchar(20) DEFAULT NULL COMMENT '用户名',
`password` varchar(100) DEFAULT NULL COMMENT '密码',

这里我们解析出来的数据得有一个映射关系：

所以我们只能一个字段的全部信息解析完成并且关联好之后才能解析下一个字段。

于是这里我采用了递归的方式进行解析（不一定是最好的，欢迎大家提出更优的方案）。

} else if (value == '`' && pStatus == Status.BASE_INIT) {
    result.tokenType = DDLTokenType.FI;
    result.text.append(value);
}

当当前字符为 ”`“ 符号时，将状态置为 “FI”(FieldInfo)，同时当解析到为 “,” 符号时便进入递归处理。

可以理解为将这一段字符串单独提取出来处理：

`userName` varchar(20) DEFAULT NULL COMMENT '用户名',

接着再将这段字符递归调用当前方法再次进行解析，这时便按照字段名称、类型、长度、注释的规则解析即可。

同时既然存在递归，还需要将子递归的数据关联起来，所以我在返回结果中新增了一个pid的字段，这个也容易理解。

默认值为 0，一旦递归后便自增 +1，保证每次递归的数据都是唯一的。

用同样的方法在解析主键时也是先将整个字符串提取出来:

PRIMARY KEY (`id`)

只不过是 “P” 打头 “)” 结尾。

} else if (value == 'P' && pStatus == Status.BASE_INIT) {
    result.tokenType = DDLTokenType.P_K;
    result.text.append(value);
}

也是将整段字符串递归解析，再递归的过程中进行状态切换P_K ---> P_K_V最终获取到主键。

所以通过对刚才那段DDL解析得到的结果如下：

这样每个字段也通过了pid进行了区分关联。

所以现在只需要对这个词法解析器进行封装，便可以提供一个简单的API来获取表中的数据了。

推荐学习：《java视频教程》

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!