php如何爬取天貓和淘寶商品數(shù)據(jù)

直接用Curl就行，具體爬取的數(shù)據(jù)可以穿參查看結(jié)果，方法不區(qū)分淘寶和天貓鏈接，但是前提是必須是PC端鏈接，另外正則寫的不規(guī)范，所以可以自己重寫正則來匹配數(shù)據(jù)。

我們提供的服務(wù)有：成都做網(wǎng)站、網(wǎng)站建設(shè)、微信公眾號(hào)開發(fā)、網(wǎng)站優(yōu)化、網(wǎng)站認(rèn)證、祁門ssl等。為1000多家企事業(yè)單位解決了網(wǎng)站和推廣的問題。提供周到的售前咨詢和貼心的售后服務(wù)，是有科學(xué)管理、有技術(shù)的祁門網(wǎng)站制作公司

求一個(gè)簡(jiǎn)易的php爬蟲提取網(wǎng)頁的title

header("Content-Type: text/html; charset=gbk");

$url = "";

$fcontents = file_get_contents($url);

if (ereg("title(.*)/title", $fcontents, $regs)){echo "ok";}else{echo "error";}

echo "br";

print_r($regs);

php中curl爬蟲 怎么樣通過網(wǎng)頁獲取所有鏈接

本文承接上面兩篇，本篇中的示例要調(diào)用到前兩篇中的函數(shù)，做一個(gè)簡(jiǎn)單的URL采集。一般php采集網(wǎng)絡(luò)數(shù)據(jù)會(huì)用file_get_contents、file和cURL。不過據(jù)說cURL會(huì)比file_get_contents、file更快更專業(yè)，更適合采集。今天就試試用cURL來獲取網(wǎng)頁上的所有鏈接。示例如下：

?php

/*

* 使用curl 采集hao123.com下的所有鏈接。

*/

include_once('function.php');

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, '');

// 只需返回HTTP header

curl_setopt($ch, CURLOPT_HEADER, 1);

// 頁面內(nèi)容我們并不需要

// curl_setopt($ch, CURLOPT_NOBODY, 1);

// 返回結(jié)果，而不是輸出它

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

$html = curl_exec($ch);

$info = curl_getinfo($ch);

if ($html === false) {

echo "cURL Error: " . curl_error($ch);

}

curl_close($ch);

$linkarr = _striplinks($html);

// 主機(jī)部分，補(bǔ)全用

$host = '';

if (is_array($linkarr)) {

foreach ($linkarr as $k = $v) {

$linkresult[$k] = _expandlinks($v, $host);

}

}

printf("p此頁面的所有鏈接為：/ppre%s/pren", var_export($linkresult , true));

?

function.php內(nèi)容如下（即為上兩篇中兩個(gè)函數(shù)的合集）：

?php

function _striplinks($document) {

preg_match_all("'s*as.*?hrefs*=s*(["'])?(?(1) (.*?)\1 | ([^s]+))'isx", $document, $links);

// catenate the non-empty matches from the conditional subpattern

while (list($key, $val) = each($links[2])) {

if (!empty($val))

$match[] = $val;

} while (list($key, $val) = each($links[3])) {

if (!empty($val))

$match[] = $val;

}

// return the links

return $match;

}

/*===================================================================*

Function: _expandlinks

Purpose: expand each link into a fully qualified URL

Input: $links the links to qualify

$URI the full URI to get the base from

Output: $expandedLinks the expanded links

*===================================================================*/

function _expandlinks($links,$URI)

{

$URI_PARTS = parse_url($URI);

$host = $URI_PARTS["host"];

preg_match("/^[^?]+/",$URI,$match);

$match = preg_replace("|/[^/.]+.[^/.]+$|","",$match[0]);

$match = preg_replace("|/$|","",$match);

$match_part = parse_url($match);

$match_root =

$match_part["scheme"]."://".$match_part["host"];

$search = array( "|^http://".preg_quote($host)."|i",

"|^(/)|i",

"|^(?!http://)(?!mailto:)|i",

"|/./|",

"|/[^/]+/../|"

);

$replace = array( "",

$match_root."/",

$match."/",

"/",

"/"

);

$expandedLinks = preg_replace($search,$replace,$links);

return $expandedLinks;

}

?

php的curl怎么爬取網(wǎng)頁內(nèi)容

創(chuàng)建一個(gè)新cURL資源

設(shè)置URL和相應(yīng)的選項(xiàng)

抓取URL并把它傳遞給瀏覽器

關(guān)閉cURL資源，并且釋放系統(tǒng)資源

代碼案例：

php 實(shí)現(xiàn)網(wǎng)絡(luò)爬蟲

pcntl_fork或者swoole_process實(shí)現(xiàn)多進(jìn)程并發(fā)。按照每個(gè)網(wǎng)頁抓取耗時(shí)500ms，開200個(gè)進(jìn)程，可以實(shí)現(xiàn)每秒400個(gè)頁面的抓取。

curl實(shí)現(xiàn)頁面抓取，設(shè)置cookie可以實(shí)現(xiàn)模擬登錄

simple_html_dom 實(shí)現(xiàn)頁面的解析和DOM處理

如果想要模擬瀏覽器，可以使用casperJS。用swoole擴(kuò)展封裝一個(gè)服務(wù)接口給PHP層調(diào)用

在這里有一套爬蟲系統(tǒng)就是基于上述技術(shù)方案實(shí)現(xiàn)的，每天會(huì)抓取幾千萬個(gè)頁面。

如何用php 編寫網(wǎng)絡(luò)爬蟲

其實(shí)用PHP來爬會(huì)非常方便，主要是PHP的正則表達(dá)式功能在搜集頁面連接方面很方便，另外PHP的fopen、file_get_contents以及l(fā)ibcur的函數(shù)非常方便的下載網(wǎng)頁內(nèi)容。