PHP语法分析器：RE2C && BISON 总结

欢迎进入Linux社区论坛，与200万技术人员互动交流 >>进入 在这之前，我曾经尝试过一个项目，就是将我们的PHP代码自动生成so扩展， 编译到PHP中，我叫它 phptoc。 但是由于各种原因，暂停了此项目。 写这篇文章一是因为这方面资料太少，二是把自己的收获总结

欢迎进入Linux社区论坛，与200万技术人员互动交流 >>进入

   在这之前，我曾经尝试过一个项目，就是将我们的PHP代码自动生成so扩展，

   编译到PHP中，我叫它 phptoc。

   但是由于各种原因，暂停了此项目。

   写这篇文章一是因为这方面资料太少，二是把自己的收获总结下来，以便以后参考，如果能明白PHP语法分析

   那对PHP源码的研究会更上一层楼地 ^.^…

   我尽可能写的通俗易懂些。

   这个项目思路源于facebook的开源项目 HipHop .

   其实我对这个项目的性能提高50%-60%持怀疑态度，从根本来讲，如果PHP用到APC缓存，它的性能是否低

   于HipHop，我还没有做测试，不敢断言。

   PHPtoc,我只是想把C程序员解放出来，希望能达到，让PHPer用PHP代码就可以写出接近于PHP扩展性能的一个扩展，

   它的流程如下，读取PHP文件，解析PHP代码，对其进行语法分析器，生成对应的ZendAPI，编译成扩展。

    

   进入正题

   这里最难的就是语法分析器了，大家应该都知道，PHP也有自己的语法分析器，现在版本用到的是re2c 和 Bison。

   所以，我自然也用到了这个组合。

   如果要用PHP的语法分析器就不太现实了，因为需要修改zend_language_parser.y和 zend_language_scanner.l 并重新编译，这难度大不说，还可能影响PHP自身。

   所以决定重新写一套自己的语法分析规则，这个功能就等于是重写了PHP的语法分析器，当然会舍弃一些不常用的。

   re2c && yacc/bison，通过引用自己的对应文件，然后将他们统一编译成一个*.c文件，最后再gcc编译就会生

   成我们自己的程序。所以说，他们从根本来讲不是语法分析程序，他们只是将我们的规则生成一个独立的c文

   件，这个c文件才是真正的我们需要的语法分析程序，我更愿意叫它 语法生成器。如下图：

    

   注：图中a.c是 扫描器生成的最终代码。。

   re2c扫描器，假如我们写的扫描规则文件叫scanner.l，它会将我们写的PHP文件内容，进行扫描，然后根据

   我们写的规则，生成不同的token传递给parse。

   我们写的(f)lex语法规则，比如我们叫他Parse.y

   会通过 yacc/bison编译成一个parse.tab.h,parse.tab.c的文件，parse根据不同的token进行不同的操作

   比如我们PHP代码是 “echo 1″;

   扫描其中有一个规则：

   "echo" {

   return T_ECHO;
    }
   扫描器函数scan会拿到”echo 1″字符串，它对这一段代码进行循环，如果发现有echo字符串，那么它就作为关键字返回token：T_ECHO,

   parse.y和scanner.l会分别生成两个c文件，scanner.c和parse.tab.c，用gcc编译到一起，就成了。

   下面会具体的说一说

    感兴趣的可以去看看，我也翻译了一个中文版本，

   还么有结束，稍后我会放上来。

   re2c提供了一些宏接口，方面我们使用，我简单做了翻译，英语水平不好，可能有误，需要原文的可以去上面那个地址查看。

   接口代码：
   不像其他的扫描器程序，re2c 不会生成完整的扫描器：用户必须提供一些接口代码。用户必须定义下面的宏或者是其他相应的配置。
   YYCONDTYPE
    用-c 模式你可以使用-to参数用来生成一个文件：使用包含枚举类型的作为条件。每个值都会在规则集合里面作为条件来使用。
   YYCTYPE
    用来维持一个输入符号。通常是 char 或者unsigned char。
   YYCTXMARKER
    *YYCTYPE类型的表达式，生成的代码回溯信息的上下文会保存在 YYCTXMARKER。如果扫描器规则需要使用上下文中的一个或多个正则表达式则用户需要定义这个宏。
   YYCURSOR
    *YYCTYPE类型的表达式指针指向当前输入的符号，生成的代码作为符号相匹配，在开始的地方，YYCURSOR假定指向当前token的第一个字符。结束时，YYCURSOR将会指向下一个token的第一个字符。
   YYDEBUG(state,current)
    这个只有指定-d标示符的时候才会需要。调用用户定义的函数时可以非常容易的调试生成的代码。
    这个函数应该有以下签名：void YYDEBUG(int state,char current)。第一个参数接受 state ，默认值为-1第二个参数接受输入的当前位置。
   YYFILL(n)
    当缓冲器需要填充的时候，生成的代码将会调用YYFILL(n)：至少提供n个字符。YYFILL(n)将会根据需要调整YYCURSOR,YYLIMIT,YYMARKER 和 YYCTXMARKER。注意在典型的程序语言当中，n等于最长的关键词的长度加一。用户可以在/*!max:re2c*/一次定义YYMAXFILL来指定最长长度。如果使用了-1，YYMAXFILL将会在/*!re2c*/之后调用一次阻塞。
   YYGETCONDITION()
    如果使用了-c模式，这个定义将会在扫描器代码之前获取条件集。这个值，必须初始化为枚举YYCONDTYPE的类型。
   YYGETSTATE()
    如果-f模式指定了，用户就需要定义这个宏。如果这样，扫描器在开始时为了获取保存的状态，生成的代码将会调用YYGETSTATE()，YYGETSTATE()必须返回一个带符号的整数，这个值如果是-1，告诉扫描器这是第一次执行，否则这个值等于以前YYSETSTATE(s) 保存的状态。否则，扫描器将会恢复操作之后立即调用YYFILL(n)。
   YYLIMIT
    表达式的类型 *YYCTYPE 标记缓冲器的结尾（YYLIMIT(-1)是缓冲区的最后一个字符）。生成的代码将会不断的比较YYCORSUR 和 YYLIMIT 以决定 什么时候填充缓冲区。
   YYSETCONDITION(c)
    这个宏用来在转换规则中设置条件，它只会在指定-c模式 和 使用转换规则时有用。
   YYSETSTATE(s)
    用户只需要在指定-f模式时定义这个宏，如果是这样，生成的代码将会在YYFILL(n)之前调用YYSETSTATE(s)，YYSETSTATE的参数是一个有符号整型，被称为唯一的标示特定的YYFILL(n)实例。
   YYMARKER
    类型为*YYCTYPE的表达式，生成的代码保存回溯信息到YYMARKER。一些简单的扫描器可能用不到。
   扫描器，顾名思义，就是对文件扫描，找出关键代码来。

[1] [2] [3]