搜索
首页后端开发php教程PHP 抽取网页题目并剔除不相关的seo关键字

PHP 抽取网页标题并剔除不相关的seo关键字
场景描述:

  过往我们在抽取网页标题的时候,都会直接抽取 之间的内容. 但实际情况是这样,例如javaeye 的一篇文章 http://www.iteye.com/news/21643 ,  的内容为 "10年软件开发教会我最重要的10件事 - 非技术 - ITeye资讯", 但实际引用中我们期望的标题应该为 "10年软件开发教会我最重要的10件事". 所以标题后面堆砌了很多不相关的关键字(应该是为了  seo 吧). 所以我们希望过滤掉这些关键字. 有下面的方法可以参考:


1. 查找 h1 等标签.(分析sina news 一些网站之后, 觉得不可行,会有很多干扰)

2. 从全文去标题后,将 之间的内容切割(按 _ | -)为 a1,a2,a3,a4,然后从最长的词组a3开始从全文查找. 如果查找成功,那么开始向左边迭代查询 a2,a1,直到查询失败为止 。左侧失败后,再继续向右迭代,同理. (这里我采用的是这种方法)


<?php /** * @author pqcc <[email&#160;protected]> * @date: 2011-06-18 * Description: 给定一个网页内容,提取网页的标题. 提取的标题不包括 seo 关键字. * e.g: 一篇新闻标题的从<title>直接抽取结果为 "大学英语四六级本周六开考 909万人参考_新浪教育_新浪网", *       但我们希望的结果是:"大学英语四六级本周六开考 909万人参考". * 适用范围:  文章最终页标题的提取, 不包括专题页等. */class TitlePurify{    private $matches_preg = '[-_\s|—]';    function getTitle($contents){/*{{{*/        $preg = "/<title>]*>([\w|\t|\r|\W]*?)/i";        preg_match($preg, $contents, $matches);        if(count($matches)trimTitle($title, $contents);    }/*}}}*/    function trimMeta($contents){/*{{{*/        // 首先去除 <title> 内容, <meta> 内容.        $preg       = "/<title>]*>([\w|\t|\r|\W]*?)/i";        $contents   = preg_replace($preg, '', $contents);        $preg       = "/<meta>]*>/i";        $contents   = preg_replace($preg, '', $contents);        return $contents;    }/*}}}*/    // 获取长度最长的 item?所处的index.    function getMaxIndex($titles){/*{{{*/        $maxItemIndex   = 0;        $maxLength      = 0;        $loop           = 0;        foreach($titles as $item){            if(strlen($item)>$maxLength){                $maxLength      = strlen($item);                $maxItemIndex   = $loop;            }                    $loop++;        }        return $maxItemIndex;    }/*}}}*/    function trim($title, $titles, $contents, $maxItemIndex){/*{{{*/        [email protected] : 此处可优化contents        // 如果查找成功. result = tempTitle.         $tempTitle  = $titles[$maxItemIndex];        $result     = $tempTitle;        $count      = count($titles);        // while 从当前index 向左进行迭代(直到到达第一个或者匹配失败才中止).        $leftIndex  = $maxItemIndex-1;        while(true && $leftIndex>=0){            // tempTitle+左一个.            preg_match("/({$this->matches_preg}+{$tempTitle})/i", $title, $matches);            if(count($matches)>1){                // temp 用于匹配失败后,进行回滚.                $temp       = $titles[$leftIndex] . $matches[1];                $tempTitle  = $titles[$leftIndex] . $matches[1];                // 继续拿着 tempTitle 去匹配.                preg_match("/$tempTitle/i", $contents, $matches);                // 如果查找失败....                if(count($matches)matches_preg}+)/i", $title, $matches);            if(count($matches)>1){                // temp 用于匹配失败后,进行回滚.                $temp       =  $matches[1] . $titles[$rightIndex];                $tempTitle  =  $matches[1] . $titles[$rightIndex];                // 继续拿着 tempTitle 去匹配.                preg_match("/$tempTitle/i", $contents, $matches);                // 如果查找失败....                if(count($matches)trimMeta($contents);            // 配置切割标题的规则.        $titles = preg_split("/$this->matches_preg/i", $title);        $count          = count($titles);        //var_dump($titles);exit;        // 将当前最长的 item 从全文查找.        $maxItemIndex = $this->getMaxIndex($titles);        $tempTitle   = $titles[$maxItemIndex];        preg_match("/$tempTitle/i", $contents, $matches);        // 如果查找失败....        if(count($matches)trim($title, $titles, $contents, $maxItemIndex);    }/*}}}*/}// -------------   test code ------------------------------function convertEncoding($contents){    preg_match("/charset=([\w|\-]+);?/i", $contents, $match);    $charset = isset($match[1])? $match[1] : 'UTF-8';    $contents = mb_convert_encoding($contents, 'UTF-8', $charset);    return $contents;}$url = 'http://china.nba.com/news/4/2011/0617/61383331/10451.html';$contents = file_get_contents($url);$contents = convertEncoding($contents);$startTime  = microtime();$purify     = new TitlePurify();$title      = $purify->getTitle($contents);$endTime    = microtime();echo "标题:        $title ";echo "cost: " . ($endTime-$startTime);?></title>
</title>
</title>
</title>



声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
使用数据库存储会话的优点是什么?使用数据库存储会话的优点是什么?Apr 24, 2025 am 12:16 AM

使用数据库存储会话的主要优势包括持久性、可扩展性和安全性。1.持久性:即使服务器重启,会话数据也能保持不变。2.可扩展性:适用于分布式系统,确保会话数据在多服务器间同步。3.安全性:数据库提供加密存储,保护敏感信息。

您如何在PHP中实现自定义会话处理?您如何在PHP中实现自定义会话处理?Apr 24, 2025 am 12:16 AM

在PHP中实现自定义会话处理可以通过实现SessionHandlerInterface接口来完成。具体步骤包括:1)创建实现SessionHandlerInterface的类,如CustomSessionHandler;2)重写接口中的方法(如open,close,read,write,destroy,gc)来定义会话数据的生命周期和存储方式;3)在PHP脚本中注册自定义会话处理器并启动会话。这样可以将数据存储在MySQL、Redis等介质中,提升性能、安全性和可扩展性。

什么是会话ID?什么是会话ID?Apr 24, 2025 am 12:13 AM

SessionID是网络应用程序中用来跟踪用户会话状态的机制。1.它是一个随机生成的字符串,用于在用户与服务器之间的多次交互中保持用户的身份信息。2.服务器生成并通过cookie或URL参数发送给客户端,帮助在用户的多次请求中识别和关联这些请求。3.生成通常使用随机算法保证唯一性和不可预测性。4.在实际开发中,可以使用内存数据库如Redis来存储session数据,提升性能和安全性。

您如何在无状态环境(例如API)中处理会议?您如何在无状态环境(例如API)中处理会议?Apr 24, 2025 am 12:12 AM

在无状态环境如API中管理会话可以通过使用JWT或cookies来实现。1.JWT适合无状态和可扩展性,但大数据时体积大。2.Cookies更传统且易实现,但需谨慎配置以确保安全性。

您如何防止与会议有关的跨站点脚本(XSS)攻击?您如何防止与会议有关的跨站点脚本(XSS)攻击?Apr 23, 2025 am 12:16 AM

要保护应用免受与会话相关的XSS攻击,需采取以下措施:1.设置HttpOnly和Secure标志保护会话cookie。2.对所有用户输入进行输出编码。3.实施内容安全策略(CSP)限制脚本来源。通过这些策略,可以有效防护会话相关的XSS攻击,确保用户数据安全。

您如何优化PHP会话性能?您如何优化PHP会话性能?Apr 23, 2025 am 12:13 AM

优化PHP会话性能的方法包括:1.延迟会话启动,2.使用数据库存储会话,3.压缩会话数据,4.管理会话生命周期,5.实现会话共享。这些策略能显着提升应用在高并发环境下的效率。

什么是session.gc_maxlifetime配置设置?什么是session.gc_maxlifetime配置设置?Apr 23, 2025 am 12:10 AM

thesession.gc_maxlifetimesettinginphpdeterminesthelifespanofsessiondata,setInSeconds.1)它'sconfiguredinphp.iniorviaini_set().2)abalanceIsiseededeedeedeedeedeedeedto to to avoidperformance andununununununexpectedLogOgouts.3)

您如何在PHP中配置会话名?您如何在PHP中配置会话名?Apr 23, 2025 am 12:08 AM

在PHP中,可以使用session_name()函数配置会话名称。具体步骤如下:1.使用session_name()函数设置会话名称,例如session_name("my_session")。2.在设置会话名称后,调用session_start()启动会话。配置会话名称可以避免多应用间的会话数据冲突,并增强安全性,但需注意会话名称的唯一性、安全性、长度和设置时机。

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

EditPlus 中文破解版

EditPlus 中文破解版

体积小,语法高亮,不支持代码提示功能

SublimeText3 英文版

SublimeText3 英文版

推荐:为Win版本,支持代码提示!

MinGW - 适用于 Windows 的极简 GNU

MinGW - 适用于 Windows 的极简 GNU

这个项目正在迁移到osdn.net/projects/mingw的过程中,你可以继续在那里关注我们。MinGW:GNU编译器集合(GCC)的本地Windows移植版本,可自由分发的导入库和用于构建本地Windows应用程序的头文件;包括对MSVC运行时的扩展,以支持C99功能。MinGW的所有软件都可以在64位Windows平台上运行。