php教程|php手册
PHP,CURL,cookies
php教程-php手册
cc2530 源码,vscode安装启动怎么是黑的,ubuntu 多核,tomcat解压缩流程,sqlite连接名,网页设计线稿图,阿里巴巴有多少台服务器,dialogbox插件,前端框架拖拽流程,爬虫房管局,php钓鱼,中山专业seo运营方案,轴承网站源码,旅游新闻网页html源码,ecshop仿京东模板,登陆页面 安卓代码下载,php 名单管理系统,交叉小波分析的matlab程序lzw
利用PHP的curl函数实现模拟登录的方法。
微信app下载链接源码,关闭Ubuntu磁盘检测,芜湖爬虫馆价格,标题 php,重庆seo厂家lzw
磁力链网站源码,ubuntu编译会卡死,tomcat6安装闪退,慢慢买 爬虫,php版短视频源码,seo通俗答案lzw
要提取google搜索的部分数据,发现google对于软件抓取它的数据屏蔽的厉害,以前伪造下 USER-AGENT 就可以抓数据,但是现在却不行了。利用抓包数据发现,Google 判断了 cookies,当你没有cookies的时候,直接返回 302 跳转,而且是连续几十个302跳转,根本抓不了数据。
因此,在发送搜索命令时,需要先提取 cookies 并保存,然后利用保存下来的这个cookies再次发送搜索命令即可正常抓数据了。这其实和论坛的模拟登录一个道理,,先POST登录,获取cookies并保存,然后利用这个cookies访问就可以了。
PHP 代码如下:
复制代码 代码如下:
<?php
header(‘Content-Type: text/html; charset=utf-8’);
$cookie_file = dirname(__FILE__).’/cookie.txt’;
//$cookie_file = tempnam(“tmp”,”cookie”);
//先获取cookies并保存
$url = “.hk”;
$ch = curl_init($url); //初始化
curl_setopt($ch, CURLOPT_HEADER, 0); //不返回header部分
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); //返回字符串,而非直接输出
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file); //存储cookies
curl_exec($ch);
curl_close($ch);
//使用上面保存的cookies再次访问
$url = “.hk/search?oe=utf8&ie=utf8&source=uds&hl=zh-CN&q=qq”;
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file); //使用上面获取的cookies
$response = curl_exec($ch);
curl_close($ch);
echo $response;
?>