PHP를 사용하여 WeChat 공개 계정의 기사 페이지를 수집하는 방법에 대한 설명
- jacklove원래의
- 2018-07-07 17:49:283920검색
PHP를 사용하여 WeChat 공개 계정 기사를 수집하는 방법을 작성하고 코드를 자세히 설명하는 방법을 분석해 보겠습니다. 필요한 친구들이 배울 수 있습니다.
Sogou 검색을 통해 공개 계정의 과거 메시지를 수집하는 데 몇 가지 문제가 있습니다.
1. 인증 코드가 있습니다. 과거 메시지 목록에는 최신 10개의 대량 콘텐츠만 있습니다.
3. 기사 주소에는 유효 기간이 있습니다.
4. ;
나를 통해 이전 기사의 방법에는 이러한 문제가 없지만 수집 시스템의 구성은 기존 수집가가 크롤링하는 규칙을 작성하는 것만 큼 간단하지 않습니다. 그러나 한 번 설정한 후 일괄 수집의 효율성은 여전히 허용됩니다. 또한, 수집된 기사 주소는 영구적으로 유효하며, 공개 계정의 모든 과거 메시지를 수집할 수 있습니다.
공개 계정 글의 링크 주소부터 시작해 보겠습니다:#. 🎜🎜# http://mp.weixin.qq.com/s/fF34bERZ0je_8RWEJjoZ5A
2에서 얻은 주소: # 🎜🎜#
http://mp.weixin.qq.com/s?__biz=MjM5NDAwMTA2MA==&mid=2695729619&idx=1&sn=8be0b6bd0210cee0d492ebdf20f7371f&chksm=83d748 18b4a0c10 ef286b33bb7deb73226125f866ddb5b2781166066a69afef3705eabdb3b85&scene=4#wechat_redirect#🎜 🎜##🎜 🎜#3. 전체 실제 주소:
https://mp.weixin.qq.com/s?__biz=MjM5NDAwMTA2MA==&mid=2695729619&idx =1&sn= 8be0b6bd0210cee0d492ebdf20f7371f&chksm=83d74818b4a0c10ef286b33bb7deb73226125f866ddb5b2781166066a69afef3705eabdb3b85&scene=37&key=c81d77 271 180a0e6ce32be2d9dcaa2a7436aeba2c1d47a20d02194d1c944a8286a8eded93495ee add05da412bbfaa638a379750aeaa4cf5c00e4d7851c5710d9b9736b80e3c7277 0a57 a515c23ff2400&ascene=3&uin=MzUyOTIyNQ%3D%3D&devicetype=iOS10.1.1&version=16050120&nettype=WIFI&fontScale=100&pass_ticket=FGRyGfXLPEa4AeOsIZu7KFJo6CiXOZex83Y5YBRglW4%3D&w x_header=1
#🎜🎜 #위 3개의 주소는 같은 기사의 주소를 다른 위치에서 알아낸 결과 전혀 다른 3개의 결과가 나왔습니다. 기록 메시지 페이지와 마찬가지로 WeChat에는 매개변수를 자동으로 보완하는 메커니즘이 있습니다. 첫 번째 주소는 링크를 복사하여 얻은 것으로 위장된 인코딩인 것으로 보입니다. 사실 그것은 쓸모가 없으며 우리는 그것을 고려하지 않을 것입니다. 두 번째 주소는 이전 기사에서 소개한 방법을 통해 json 기사 기록 메시지 목록에서 얻은 링크 주소입니다. 그러면 이 주소를 통해 서버에서 기사 내용을 가져올 수 있습니다. 세 번째 링크에 매개변수를 추가한 후 기사 페이지의 읽기 볼륨 js가 읽기 볼륨 및 좋아요 볼륨의 json 결과를 얻을 수 있도록 하는 것이 목적입니다. 이전 기사의 방법에서는 클라이언트가 기사 페이지를 열고 표시하므로 기사 페이지의 js가 자동으로 읽기 볼륨을 가져오므로 프록시 서비스를 통해 이 기사의 읽기 볼륨을 얻을 수 있습니다. .
이 글의 내용은 이 칼럼의 이전 글에서 소개한 방법을 바탕으로 글의 내용과 기타 유용한 정보를 얻는 방법을 자세히 연구하는 것입니다.
(내 데이터베이스에 저장된 기사 목록, 필드의 일부)
1을 가져옵니다. 기사 소스 코드:
<? //$content_url 变量的值为文章地址 $html = file_get_contents($content_url); ?>
2 소스 코드의 유용한 정보:
1) 원본 콘텐츠: 원본 콘텐츠는 cfd680454c127ace0ad40a8afa2cb84a94b3e26ee717c64999d7867364b1b4a3 태그에 포함되어 있으며 다음 PHP 코드를 통해 가져옵니다.#🎜 🎜 #<?
preg_match_all("/id=\"js_content\">(.*)<script/iUs",$html,$content,PREG_PATTERN_ORDER);
$content = "<p id='js_content'>".$content[1][0];
?>
정규 패턴의 시작 부분은 cfd680454c127ace0ad40a8afa2cb84a를 식별하고, 끝 부분은 9065372ba52c7af4a848fed549df4a51; 제 정규 매칭 레벨이 제한되어 있어서 이렇게만 쓸 수 있습니다. 전문적인 지식이 있으신 분이 좀 더 나은 정규 매칭 방법을 지적해 주셨으면 좋겠습니다.
참고: 이 일치 규칙은 일정 기간이 지나면 변경될 수 있습니다. 이 기사는 가능한 한 많이 업데이트될 것입니다. 내 글을 기반으로 수집 시스템을 만들어 봤는데 어느 날 실패했다면, 다시 돌아와서 글이 업데이트되었는지 확인하는 것도 잊지 마세요.
2) 콘텐츠 처리:
위의 방법을 통해 기사 내용의 html을 얻었으나 기사 내용을 표시한 후에는 사진과 동영상이 제대로 표시되지 않을 수 있습니다. 이 HTML에는 여전히 약간의 처리가 필요하기 때문입니다. 우선, WeChat 기사의 a1f02c36ba31691bcfe87b2722de723b 태그에 있는 src 속성이 모두 src 속성으로 대체됩니다. 표시될 때만 교체됩니다. 따라서 소스 코드를 직접 바꾸거나 표시 중에 js를 사용하여 바꾸는 두 가지 옵션도 있습니다. 먼저 html을 직접 바꾸는 방법을 소개하겠습니다:<?
//$content变量的值是前面获取到的文章内容html
$content = str_replace("src","src",$content);
?>然后是视频，视频的显示不正常，经过长期测试后发现只要替换一个页面地址就能解决，过程就不说了，直接说结果：
<?
//$content变量的值是前面获取到的文章内容html
$content = str_replace("preview.html","player.html",$content);
?>
通过这两个替换之后，文章内容html中的图片和视频就都正常了。
3) 公众号相关信息：
通过本专栏之前的文章，介绍了我们使用微信客户端，任意打开一个公众号的历史消息页之后。系统从数据库中识别biz的值，发现数据库中没有记录，就会插入一条新的纪录。之后的采集队列就会定期根据这个biz来获取这个公众号的历史消息列表。
但是我们只获得了这个公众号的biz，公众号的名称，头像这两个重要信息还是没有获取到。主要原因是历史消息页面中没有这两个信息。但是我们可以从文章页面中获取到。
在微信文章页面html的底部，有一些js的变量赋值的代码，通过正则匹配之后我们就可以获得这两个公众号的信息：
<? //$html变量的值是前面获取到的文章全部html preg_match_all('/var nickname = \"(.*?)\";/si',$html,$m); $nickname = $m[1][0];//公众号昵称 preg_match_all('/var round_head_img = \"(.*?)\";/si',$html,$m); $head_img = $m[1][0];//公众号头像 ?>
通过这两个正则匹配，我们就能获取到公众号的头像和昵称，然后根据文章地址中的biz，可以保存到对应的微信号数据表中。
3、文章的保存和处理
前面的代码已经将文章内容获取到变量中了。如何保存其实每个人也许都有自己的想法。我这里介绍一下我的保存内容的方法：
将文章内容的html以数据库id为文件名保存成html文件，以biz字段为目录。
<?
$dir = "./".$biz."/";
$filename = $dir.$id.".html";
if(!is_dir($dir)) {
mkdir($cache_dir);
chmod($cache_dir,0777);
}
$file = fopen($filename, "w");
fwrite($file, $content);
fclose($file);
?>
以上代码是一个标准的php建立文件夹保存文件的代码，大家可以根据自己的实际情况安排保存方法。
在这之后我们就可以在自己的服务器上得到一个html文件，内容就是公众号的文章内容。我们可以从浏览器中打开看一下。这时你也许会发现图片防盗链了！无法正常显示！包括数据库中保存的文章封面图，公众号的头像都是防盗链的。
别急，这个问题很好解决，只需要将图片也保存到自己的服务器，无非是将来会占用自己的服务器空间和带宽。
图片防盗链的原理是当图片在网页中显示的时候，图片服务器会检测到引用这张图片的服务器域名，当发现服务器域名不包含http://qq.com或http://qpic.cn的时候就会被替换成防盗链图片。
但是如果检测不到引用页面的域名就会正常显示，所以我们通过php的函数file_get_content()就可以将图片的二进制代码获取过来，然后根据自己的想法起个文件名保存到自己的服务器上。在这里再介绍一个保存图片的方法，我目前使用了腾讯云的“万象优图”，通过它们提供的api将图片保存到云空间，这样的好处是读取图片时直接在图片的链接地址加上希望得到的图片尺寸大小参数，就可以直接得到一张缩略图。比存在自己的服务器方便得多。阿里云也应该有同样的产品，好像名叫对象存储。
另外，我采集公众号内容的目的是制作成一个新闻app，在app中将html代码显示出来之后，因为app同样没有域名，防盗链服务器也同样不会认为图片被盗链了。这样就可以直接显示图片出来。
以上就是我总结的公众号文章内容的采集与存储方法，希望能够帮到你。
相关推荐：
위 내용은 PHP를 사용하여 WeChat 공개 계정의 기사 페이지를 수집하는 방법에 대한 설명의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!