首页 > 文章 > 后端开发 > php爬虫框架怎么安装

php爬虫框架怎么安装

爱喝马黛茶的安东尼原创: 2019-09-29 17:09:092456浏览

php爬虫框架怎么安装

说到做爬虫，大家都可能第一时间想到的是python，其实php也是可以用来写爬虫程序的。php一贯简洁、易用，亲测使用PHPspider框架10分钟就能写出一个简单的爬虫程序。

一、PHP环境安装

和python一样，PHP也需要环境，可以使用官网下载的PHP，也可以使用XAMPP、PHPstudy等集成环境下的PHP。比较推荐集成环境，省去单独安装Mysql数据库。

二、composer安装

composer是PHP下的依赖包管理工具，类似于Python中的PIP。

中文官网为https://www.phpcomposer.com/

下载安装即可，win+R运行cmd，输入composer命令，出现如下图所示说明安装成功了。

1569747396(1).png

三、PHPspider安装

在任意位置建立一个文件夹，例如我们要抓取简书的数据，我们可以在D盘建立jianshu文件夹，然后cmd命令进入该文件夹，运行命令：

composer require owner888/phpspider

如下结果便是成功安装了。

1569747407(1).png

相关推荐：《php环境搭建》

四、开始写第一个爬虫

现在打开jianshu文件夹，会发现里面多了一些东西，不用管它，建立一个php文件，开始打代码。

1569747423(1).png

开发文档在这：https://doc.phpspider.org/demo-start.html

这边不讲基础，直接上代码，因为咱们是做的10分钟快速教程。

匹配方式使用XPach语法。

<?php
require &#39;/vendor/autoload.php&#39;;
use phpspider\core\phpspider;
/* Do NOT delete this comment */
/* 不要删除这段注释 */
$configs = array(
&#39;name&#39; => &#39;简书&#39;,
&#39;log_show&#39; =>false,
&#39;tasknum&#39; => 1,
//数据库配置
&#39;db_config&#39; => array(
&#39;host&#39;  => &#39;127.0.0.1&#39;,
&#39;port&#39;  => 3306,
&#39;user&#39;  => &#39;root&#39;,
&#39;pass&#39;  => &#39;&#39;,
&#39;name&#39;  => &#39;demo&#39;,
),
&#39;export&#39; => array(
&#39;type&#39; => &#39;db&#39;,
&#39;table&#39; => &#39;jianshu&#39;,  // 如果数据表没有数据新增请检查表结构和字段名是否匹配
),
//爬取的域名列表  
&#39;domains&#39; => array(
    &#39;jianshu&#39;,
    &#39;www.jianshu.com&#39;
), 
//抓取的起点
&#39;scan_urls&#39; => array(
    &#39;https://www.jianshu.com/c/V2CqjW?utm_medium=index-collections&utm_source=desktop&#39;
),
//列表页实例
&#39;list_url_regexes&#39; => array(
    "https://www.jianshu.com/c/\d+"
),
//内容页实例
//  \d+  指的是变量
&#39;content_url_regexes&#39; => array(
    "https://www.jianshu.com/p/\d+",
),
&#39;max_try&#39; => 5,
&#39;fields&#39; => array(
    array(
        &#39;name&#39; => "title",
        &#39;selector&#39; => "//h1[@class=&#39;title&#39;]",
        &#39;required&#39; => true,
    ),
    array(
        &#39;name&#39; => "content",
        &#39;selector&#39; => "//div[@class=&#39;show-content-free&#39;]",
        &#39;required&#39; => true,
    ),
),
);
$spider = new phpspider($configs);
$spider->start();

稍微解释一下一下句法的含义：

//h1[@class=&#39;title&#39;]

获取所有class值为title的h1节点

//div[@class=&#39;show-content-free&#39;]

获取所有class值为show-content-free的div节点

打完代码后，记得根据要抓取的内容建立对应的数据库、数据表，字段要能对对上。

1569747439(1).png

接着cmd，输入：

php -f d:\jianshu\spider.php

运行如下：

1569747451(1).png

1569747461(1).png

打开数据看一下，是不是都抓取到了呢？

1569747472(1).png

以上是php爬虫框架怎么安装的详细内容。更多信息请关注PHP中文网其他相关文章！

声明：

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn

上一篇：php如何判断一个变量是否为空值下一篇：php扩展怎么卸载

查看更多