PHP抓取远程网站数据的代码
Ⅰ .抓取远程网页标题的例子:
以下是代码片段:
?php
/*
+---
+抓取网页标题的代码,直接拷贝本代码片段,另存为.php文件执行即可.+---
*/error_reporting(7) ;
$file=fopen(""r") ;if( !$file) {echo"fontcolor=redUnabletoopenremotefile./font\n";exit;
}while(!feof($file) ) {
$line=fgets($file, 1024) ;if(eregi ("title(.*)/title", $line, $out) ) {
$title=$out[1] ;echo"". $title. "";break;
}
}fclose($file) ;
//End
?
Ⅱ.抓取远程网页HTML代码的例子:
以下是代码片段:
?php
/*
+--
+DNSingSprider
+--
*/
$fp=fsockopen("www.dnsing.com",80, $errno, $errstr,30) ;if(!$fp) {echo"$errstr($errno)br/\n";
}else{
$out="GET/HTTP/1. 1\r\n";
$out.="Host:www.dnsing.com\r\n";
$out.="Connection:Close\r\n\r\n";fputs($fp, $out) ;while(!feof($fp) ) {echofgets($fp, 128) ;
}fclose($fp) ;
}
//End
?
以上两个代码片段都直接Copy回去运行就知道效果了,上面的例子只是抓取网页数据的雏形,要使其更适合自己的使用,情况有各异.所以,在此各位程序爱好者自己好好研究一下吧.
===
稍微有点意义的函数
是:get_content_by_socket() ,get_url () ,get_content_url () ,get_content_object几个函数也许能够给你点什么想法。
?php
//获取所有内容url保存到文件
functionget_index($save_file, $prefix="index_") {
$count=68;
$i=1 ;if(file_exists($save_file) )@unlink($save_file) ;
$fp=fopen($save_file, "a+")ordie("Open". $save_file. "failed") ;while($i$count) {
$url=$prefix. $i. ".htm";echo"Get". $url. ". ";
$url_str=get_content_url (get_url ($url) ) ;echo"OK\n";fwrite($fp, $url_str) ;
++$i ;
}fclose($fp) ;
}
//获取目标多媒体对象functionget_object($url_file, $save_file, $split="|--:*:--|") {if(!file_exists($url_file) )die($url_file. "notexist") ;$file_arr=file($url_file) ;
if(! is_array($file_arr) | |empty($file_arr) )die($url_file. "notcontent") ;
$url_arr=array_unique($file_arr) ;if(file_exists($save_file) )@unlink($save_file) ;
$fp=fopen($save_file, "a+")ordie("Opensavefile". $save_file. "failed") ;foreach($url_arras$url) {if(empty($url) )continue;echo"Get". $url. ". ";
$html_str=get_url ($url) ;echo$html_str;echo$url;exit;
$obj_str=get_content_object($html_str) ;echo"OK\n";fwrite($fp, $obj_str) ;
}fclose($fp) ;
}
//遍历目录获取文件内容
functionget_dir($save_file, $dir) {
$dp=opendir($dir) ;if(file_exists($save_file) )@unlink($save_file) ;
$fp=fopen($save_file, "a+")ordie("Opensavefile". $save_file. "failed") ;while( ($file=readdir($dp) ) !=false) {if($file!=". "&&$file!=". ") {echo"Readfile". $file. ". ";
$file_content=file_get_contents($dir. $file) ;
$obj_str=get_content_object($file_content) ;echo"OK\n";fwrite($fp, $obj_str) ;
}
}fclose($fp) ;
}
//获取指定url内容functionget_url ($url) {
$reg='/^http:\/\/[^\/] .+$/' ;if(!preg_match($reg, $url) )die($url. "invalid") ;
$fp=fopen($url, "r")ordie("Openurl:". $url. "failed. ") ;while($fc=fread($fp,8192) ) {
$content.=$fc;
}fclose($fp) ;if(empty($content) ) {die("Geturl:". $url. "contentfailed. ") ;
}return$content;
}
//使用socket获取指定网页functionget_content_by_socket($url, $host) {
$fp=fsockopen($host,80)ordie("Open". $url. "failed") ;
$header="GET/". $url. "HTTP/1. 1\r\n";
$header.="Accept:*/*\r\n";
$header.="Accept-Language:zh-cn\r\n";
$header.="Accept-Encoding:gzip,deflate\r\n";
$header.="User-
Agent:Mozilla/4.0(compatible;MSIE6.0;WindowsNT5. 1 ;SV1 ;Maxthon;InfoPath. 1 ; .NETCLR2.0.50727)\r\n";
$header.="Host:". $host. "\r\n";
$header.="Connection:Keep-Alive\r\n";
//$header.="Cookie:cnzz02=2;rtime=1 ; ltime=1148456424859;cnzz_eid=56601755-\r\n\r\n";
$header.="Connection:Close\r\n\r\n";fwrite($fp, $header) ;while(!feof($fp) ) {
$contents.=fgets($fp,8192) ;
}fclose($fp) ;return$contents;
}
//获取指定内容里的urlfunctionget_content_url ($host_url, $file_contents) {
//$reg='/^ (#|javascript.*?|ftp:\/\/.+|http:\/\/.+| .*?href.*?|play.*?| index.*?| .*?asp)+$/i' ;
//$reg='/^ (down.*?\.html |\d+_\d+\.htm.*?)$/i' ;
$rex="/( [hH] [rR] [eE] [Ff])\s*=\s*[' \"]*( [^' \"\s]+) [\"' ]*\s*/i";
$reg='/^ (down.*?\.html)$/i' ;preg_match_all ($rex, $file_contents, $r) ;
$result="";//array() ;
foreach($ras$c) {if(is_array($c) ) {foreach($cas$d) {if(preg_match($reg, $d) ) {$result.=$host_url. $d. "\n"; }}
}
}return$result;
}
//获取指定内容中的多媒体文件functionget_content_object($str, $split="|--:*:--|") {$regx="/href\s*=\s*[' \"]*( [^' \"\s]+) [\"' ]*\s*(b.*?\/b)/i";preg_match_all ($regx, $str, $result) ;if(count($result)==3) {
$result[2]=str_replace("b多媒体:", "", $result[2]) ;
$result[2]=str_replace("/b", "", $result[2]) ;
$result=$result[1] [0] . $split. $result[2] [0] . "\n";
}return$result;
阿里云(aliyun)在这个月又推出了一个金秋上云季活动,到9月30日前,每天两场秒杀活动,包括轻量应用服务器、云服务器、云数据库、短信包、存储包、CDN流量包等等产品,其中Aliyun轻量云服务器最低60元/年起,还可以99元续费3次!活动针对新用户和没有购买过他们的产品的老用户均可参与,每人限购1件。关于阿里云不用多说了,国内首屈一指的云服务器商家,无论建站还是学习都是相当靠谱的。活动地址:h...
3C云国内IDC/ISP资质齐全商家,与香港公司联合运营, 已超6年运营 。本次为大家带来的是双12特惠活动,香港美国日本韩国|高速精品|高防|站群|大带宽等产品齐全,欢迎咨询问价。3C云科技有限公司官方网站:http://www.3cccy.com/客服QQ:937695003网页客服:点击咨询客户QQ交流群:1042709810价目表总览升级内存 60元 8G内存升级硬盘 1T机械 90元 2...
天上云服务器怎么样?天上云是国人商家,成都天上云网络科技有限公司,专注于香港、美国海外云服务器的产品,有多年的运维维护经验。世界这么大 靠谱最重,我们7*24H为您提供服务,贴心售后服务,安心、省事儿、稳定、靠谱。目前,天上云香港大带宽物理机服务器572元;20Mbps带宽!三网CN2线路,香港沙田数据中心!点击进入:天上云官方网站地址香港沙田数据中心!线路说明 :去程中国电信CN2 +中国联通+...