舉例:從某網(wǎng)站顯示行情圖表的頁面抓取數(shù)據(jù),用到自己的網(wǎng)站中。
成都創(chuàng)新互聯(lián)成立以來不斷整合自身及行業(yè)資源、不斷突破觀念以使企業(yè)策略得到完善和成熟,建立了一套“以技術(shù)為基點,以客戶需求中心、市場為導(dǎo)向”的快速反應(yīng)體系。對公司的主營項目,如中高端企業(yè)網(wǎng)站企劃 / 設(shè)計、行業(yè) / 企業(yè)門戶設(shè)計推廣、行業(yè)門戶平臺運營、重慶APP開發(fā)公司、手機網(wǎng)站制作設(shè)計、微信網(wǎng)站制作、軟件開發(fā)、成都服務(wù)器托管等實行標(biāo)準(zhǔn)化操作,讓客戶可以直觀的預(yù)知到從成都創(chuàng)新互聯(lián)可以獲得的服務(wù)效果。
觀察:是從 http://*****.com/HQ/Get
post:兩個參數(shù),goods,line就能返回json數(shù)據(jù)格式。
用postman,調(diào)用接口能夠返回此json數(shù)據(jù)。
那現(xiàn)在怎么使用到自己的網(wǎng)站呢?
前臺:主要代碼
后端:主要代碼
Application/Home/Controller/H*Controller.class.php中
public functionget(){ $url="http://*****.com/HQ/Get"; // 調(diào)用數(shù)據(jù)地址 // $data['goods'] = 'AG'; // $data['line'] = 1; $data['goods']= I('get.goods'); $data['line'] = I('get.line'); $datas=$this->curl_get($url,$data); $datas= json_decode($datas); // var_dump($datas);exit; // object(stdClass)[6] // var_dump($datas->open);exit; // string '1818.00' (length=7) // var_dump($datas['open']);exit; // Cannot use object of type stdClass as array $this->ajaxReturn($datas); }
private static functioncurl_get($url,$data){ $ch= curl_init(); // 初始化 curl_setopt($ch,CURLOPT_URL,$url); // 設(shè)置參數(shù),拔號 curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);//參數(shù)為1表示傳輸數(shù)據(jù),為0表示直接輸出顯示。 curl_setopt($ch,CURLOPT_HEADER,0); //參數(shù)為0表示不帶頭文件,為1表示帶頭文件 curl_setopt($ch,CURLOPT_POST,1); // 是否開啟POST提交 curl_setopt($ch,CURLOPT_POSTFIELDS,$data); $output= curl_exec($ch); curl_close($ch); return$output; }
然后highcharts圖表輸出。
===
感謝下面一篇的介紹,寫得更詳細。
PHP模擬登錄并獲取數(shù)據(jù)
CURL 是一個功能強大的PHP庫,使用PHP的cURL庫可以簡單和有效地抓取網(wǎng)頁并采集內(nèi)容,設(shè)置cookie完成模擬登錄網(wǎng)頁,curl提供了豐富的函數(shù),開發(fā)者可以從PHP手冊中獲取更多關(guān)于cURL信息。本文以模擬登錄開源中國(oschina)為例,和大家分享cURL的使用。
PHP的curl()在抓取網(wǎng)頁的效率方面是比較高的,而且支持多線程,而file_get_contents()效率就要稍低些,當(dāng)然,使用curl時需要開啟下curl擴展。
先來看登錄部分的代碼:
//模擬登錄
function login_post($url, $cookie, $post) {
$curl = curl_init();//初始化curl模塊
curl_setopt($curl, CURLOPT_URL, $url);//登錄提交的地址
curl_setopt($curl, CURLOPT_HEADER, 0);//是否顯示頭信息
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 0);//是否自動顯示返回的信息
curl_setopt($curl, CURLOPT_COOKIEJAR, $cookie); //設(shè)置Cookie信息保存在指定的文件中
curl_setopt($curl, CURLOPT_POST, 1);//post方式提交
curl_setopt($curl, CURLOPT_POSTFIELDS, http_build_query($post));//要提交的信息
curl_exec($curl);//執(zhí)行cURL
curl_close($curl);//關(guān)閉cURL資源,并且釋放系統(tǒng)資源
}
函數(shù)login_post()首先初始化curl_init(),然后使用curl_setopt()設(shè)置相關(guān)選項信息,包括要提交的url地址,保存的cookie文件,post的數(shù)據(jù)(用戶名和密碼等信息),是否返回信息等等,然后curl_exec執(zhí)行curl,最后curl_close()釋放資源。注意PHP自帶的http_build_query()可以將數(shù)組轉(zhuǎn)換成相連接的字符串。
接下來如果登錄成功后,我們要獲取登錄成功后的頁面信息。
//登錄成功后獲取數(shù)據(jù)
function get_content($url, $cookie) {
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie); //讀取cookie
$rs = curl_exec($ch); //執(zhí)行cURL抓取頁面內(nèi)容
curl_close($ch);
return $rs;
}
函數(shù)get_content()中也是先初始化curl,然后設(shè)置相關(guān)選項,執(zhí)行curl,釋放資源。其中我們設(shè)置CURLOPT_RETURNTRANSFER為1即自動返回信息,而CURLOPT_COOKIEFILE可以讀取到登錄時保存的cookie信息,最后將頁面內(nèi)容返回。
我們的最終目的是要獲取到模擬登錄后的信息,也就是只有正常登錄成功后才能獲取的有用信息。接下來我們以登錄開源中國的移動版為例,看看如何抓取到登錄成功后的信息。
//設(shè)置post的數(shù)據(jù)
$post = array (
'email' => 'oschina賬戶',
'pwd' => 'oschina密碼',
'goto_page' => '/my',
'error_page' => '/login',
'save_login' => '1',
'submit' => '現(xiàn)在登錄'
);
//登錄地址
$url = "http://m.oschina.net/action/user/login";
//設(shè)置cookie保存路徑
$cookie = dirname(__FILE__) . '/cookie_oschina.txt';
//登錄后要獲取信息的地址
$url2 = "http://m.oschina.net/my";
//模擬登錄
login_post($url, $cookie, $post);
//獲取登錄頁的信息
$content = get_content($url2, $cookie);
//刪除cookie文件
@ unlink($cookie);
//匹配頁面信息
$preg = "/(.*)<\/td>/i";
preg_match_all($preg, $content, $arr);
$str = $arr[1][0];
//輸出內(nèi)容
echo $str;
運行上述代碼后,我們會看到最終獲取到登錄用戶的頭像圖片。
使用總結(jié)
1、初始化curl;
2、使用curl_setopt設(shè)置目標(biāo)url,和其他選項;
3、curl_exec,執(zhí)行curl;
4、執(zhí)行后,關(guān)閉curl;
5、輸出數(shù)據(jù)。
參考文獻
《curl簡介及php中的curl》,作者不詳,http://www.2cto.com/kf/201208/147091.html
《使用PHP CURL的POST數(shù)據(jù)》,作者:Veda,http://www.nowamagic.net/librarys/veda/detail/124
《php 使用curl模擬登錄discuz以及模擬發(fā)帖》,作者:tianxin,http://www.cnblogs.com/tianxin2001x/archive/2009/10/28/1591311.html
文章題目:PHP模擬登錄并獲取數(shù)據(jù)
分享URL:http://weahome.cn/article/igdgsd.html
其他資訊