如何让搜索引擎抓取AJAX内容解决方案，抓取ajax_PHP教程

如何让搜索引擎抓取AJAX内容解决方案，抓取ajax

越来越多的网站，开始采用"单页面结构"（Single-page application）。

整个网站只有一张网页，采用Ajax技术，根据用户的输入，加载不同的内容。

这种做法的好处是用户体验好、节省流量，缺点是AJAX内容无法被搜索引擎抓取。举例来说，你有一个网站。

<code>　　http://example.com 　　</code>

用户通过井号结构的URL，看到不同的内容。

<code>　　http://example.com#1　　http://example.com#2　　http://example.com#3 　　</code>

但是，搜索引擎只抓取example.com，不会理会井号，因此也就无法索引内容。

为了解决这个问题，Google提出了"井号+感叹号"的结构。

<code>　　http://example.com#!1　　</code>

当Google发现上面这样的URL，就自动抓取另一个网址：

<code>　　http://example.com/?_escaped_fragment_=1　　</code>

只要你把AJAX内容放在这个网址，Google就会收录。但是问题是，"井号+感叹号"非常难看且烦琐。Twitter曾经采用这种结构，它把

<code>　　http://twitter.com/ruanyf　　</code>

改成

<code>　　http://twitter.com/#!/ruanyf　　</code>

结果用户抱怨连连，只用了半年就废除了。

那么，有没有什么方法，可以在保持比较直观的URL的同时，还让搜索引擎能够抓取AJAX内容？

我一直以为没有办法做到，直到前两天看到了Discourse创始人之一的Robin Ward的解决方法，不禁拍案叫绝。

Discourse是一个论坛程序，严重依赖Ajax，但是又必须让Google收录内容。它的解决方法就是放弃井号结构，采用 History API。

所谓 History API，指的是不刷新页面的情况下，改变浏览器地址栏显示的URL(准确说，是改变网页的当前状态)。这里有一个例子，你点击上方的按钮，开始播放音乐。然后，再点击下面的链接，看看发生了什么事？

地址栏的URL变了，但是音乐播放没有中断！

History API 的详细介绍，超出这篇文章的范围。这里只简单说，它的作用就是在浏览器的History对象中，添加一条记录。

<code>　　window.history.pushState(state object, title, url);　　</code>

上面这行命令，可以让地址栏出现新的URL。History对象的pushState方法接受三个参数，新的URL就是第三个参数，前两个参数都可以是null。

<code>　　window.history.pushState(null, null, newURL); 　　</code>

目前，各大浏览器都支持这个方法：Chrome（26.0+），Firefox（20.0+），IE（10.0+），Safari（5.1+），Opera（12.1+）。

下面就是Robin Ward的方法。

首先，用History API替代井号结构，让每个井号都变成正常路径的URL，这样搜索引擎就会抓取每一个网页。

<code>　　example.com/1　　example.com/2　　example.com/3　　</code>

然后，定义一个JavaScript函数，处理Ajax部分，根据网址抓取内容（假定使用jQuery）。

<code>function anchorClick(link) {<br>　　　　var linkSplit = link.split('/').pop();<br>　　　　$.get('api/' + linkSplit, function(data) {<br>　　　　　　$('#content').html(data);<br>　　　　});<br>　　}</code>

再定义鼠标的click事件。

<code>　　$('#container').on('click', 'a', function(e) {<br>　　　　window.history.pushState(null, null, $(this).attr('href'));<br>　　　　anchorClick($(this).attr('href'));<br>　　　　e.preventDefault();<br>　　});　　</code>

还要考虑到用户点击浏览器的"前进 / 后退"按钮。这时会触发History对象的popstate事件。

<code>　　window.addEventListener('popstate', function(e) {     <br>　　　　anchorClick(location.pathname);  <br> 　　});</code>

定义完上面三段代码，就能在不刷新页面的情况下，显示正常路径URL和AJAX内容。

最后，设置服务器端。

因为不使用井号结构，每个URL都是一个不同的请求。所以，要求服务器端对所有这些请求，都返回如下结构的网页，防止出现404错误。

<code>　　<br>　　　　<br>　　　　　　<section id="container"></section><br>　　　　　　<noscript>
<br>　　　　　　　　... ...<br> 　　　　　　</noscript>
<br>　　　　<br>　　</code>

仔细看上面这段代码，你会发现有一个noscript标签，这就是奥妙所在。

我们把所有要让搜索引擎收录的内容，都放在noscript标签之中。这样的话，用户依然可以执行AJAX操作，不用刷新页面，但是搜索引擎会收录每个网页的主要内容！

怎让百度搜索引擎抓取我的网站内容？

如果你是新建的站点，百度收录是比较慢的。另外你可以到一些其他的网站上做推广，在“宏建双薪”做一个锚链接，链接地址直接指向你的网站，也就是反向链接的问题！
然后就是等待了……
一般都是google收录比较快，google收录后估计百度就快了！
 

怎不让搜索引擎抓取你的网站信息(摘抄)

首先是在你的网站跟目录下建立个robots.txt文件。什么是robots呢，就是：搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时，会首先会检查该网站的根域下是否有一个叫做robots.txt的纯文本文件，这个文件用于指定spider在您网站上的抓取范围。您可以在您的网站中创建一个robots.txt，在文件中声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。仅当您的网站包含不希望被搜索引擎收录的内容时，才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容，请勿建立robots.txt文件 可能你在建立好robots.txt文件后发现自己的网站内容还是会被搜索出来，但您的网页上的内容不会被抓取、建入索引和显示，百度搜索结果中展示的仅是其他网站对您相关网页的描述。禁止搜索引擎在搜索结果中显示网页快照，而只对网页建索引的方法为要防止所有搜索引擎显示您网站的快照，请将此元标记置入网页的

部分：要允许其他搜索引擎显示快照，但仅防止百度显示，请使用以下标记：robots.txt文件的格式"robots.txt"文件包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每一条记录的格式如下所示：":"。在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow和Allow行,详细情况如下：User-agent:该项的值用于描述搜索引擎robot的名字。在"robots.txt"文件中，如果有多条User-agent记录说明有多个robot会受到"robots.txt"的限制，对该文件来说，至少要有一条User-agent记录。如果该项的值设为*，则对任何robot均有效，在"robots.txt"文件中，"User-agent:*"这样的记录只能有一条。如果在"robots.txt"文件中，加入"User-agent:SomeBot"和若干Disallow、Allow行，那么名为"SomeBot"只受到"User-agent:SomeBot"后面的Disallow和Allow行的限制。Disallow:该项的值用于描述不希望被访问的一组URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被robot访问。例如"Disallow:/help"禁止robot访问/help.html、/helpabc.html、/help/index.html，而"Disallow:/help&......余下全文>>
 

http://www.bkjia.com/PHPjc/869449.htmlwww.bkjia.comtruehttp://www.bkjia.com/PHPjc/869449.htmlTechArticle如何让搜索引擎抓取AJAX内容解决方案，抓取ajax 越来越多的网站，开始采用"单页面结构"（Single-page application）。 整个网站只有一张网页，...