您好,可參考如下思路,然后結(jié)合自己的業(yè)務(wù)邏輯即可:
堅守“ 做人真誠 · 做事靠譜 · 口碑至上 · 高效敬業(yè) ”的價值觀,專業(yè)網(wǎng)站建設(shè)服務(wù)10余年為成都成都混凝土攪拌罐小微創(chuàng)業(yè)公司專業(yè)提供成都定制網(wǎng)頁設(shè)計營銷網(wǎng)站建設(shè)商城網(wǎng)站建設(shè)手機網(wǎng)站建設(shè)小程序網(wǎng)站建設(shè)網(wǎng)站改版,從內(nèi)容策劃、視覺設(shè)計、底層架構(gòu)、網(wǎng)頁布局、功能開發(fā)迭代于一體的高端網(wǎng)站建設(shè)服務(wù)。
?php
//首先鏈接數(shù)據(jù)庫
$conn = mysql_connect('主機名','數(shù)據(jù)庫登陸用戶名','數(shù)據(jù)庫登陸密碼') or die('鏈接數(shù)據(jù)庫失敗');
//選擇數(shù)據(jù)庫
mysql_select_db( 'test',$conn );
//假設(shè)test數(shù)據(jù)庫中有文章表,article,表有字段 id,title,create_time 那么可采用如下代碼循環(huán)讀出里面數(shù)據(jù)
//進行SQL查詢-查詢article中的數(shù)據(jù)并按照id倒序排列
$sql = 'SELECT *FROM article ORDER BY id DESC';
//獲取執(zhí)行結(jié)果
$result = mysql_query( $sql,$conn );
if( !$result ) die( '執(zhí)行SQL語句失敗' );
//循環(huán)讀出結(jié)果集中的數(shù)據(jù)
while( $row = mysql_fetch_assoc( $result ) )
{
//輸出數(shù)據(jù)
echo $row['id'].'--'.$row['title'].'--'.$row['create_time'].'br/';
}
//如果test中有三條數(shù)據(jù),比如下列數(shù)據(jù)
//id title create_time
//1 文章標(biāo)題1 2014/10/31 14:20
//2 文章標(biāo)題2 2014/11/01 15:12
//3 文章標(biāo)題3 2014/11/03 12:10
//那么執(zhí)行代碼后,網(wǎng)頁應(yīng)顯示如下:
//3--文章標(biāo)題3--2014/11/03 12:10
//2--文章標(biāo)題2--2014/11/01 15:12
//1--文章標(biāo)題1--2014/10/31 14:20
?
1W條數(shù)據(jù)量也不是特別大,那就直接讀取,然后在foreach入庫就可以了
如果數(shù)據(jù)量非常大的時候,那就分段讀取,然后入庫~
考慮到php超時,那就網(wǎng)頁端打開,第一部分執(zhí)行完,刷新頁面,開始執(zhí)行第二部分,依次進行...
當(dāng)然,直接在命令行下執(zhí)行也可以~
一般就兩種情況:
1. 超出腳本內(nèi)存限制
2. 超出腳本執(zhí)行時間限制
試下下面這樣:
set_time_limit(0);
ini_set('memory_limit', '1000M');//自己根據(jù)實際調(diào)整
你是cli模式還是cgi模式?cli模式不用設(shè)默認(rèn)就是無時間限制,cgi默認(rèn)是有30秒超時限制。
你可以先看看每次中斷是固定時長,還是固定次數(shù);也可以多打日志,每次循環(huán)都輸出些參考參數(shù)如循環(huán)條件、內(nèi)存使用等信息,再分析哪些可能導(dǎo)致程序中斷的原因。
你用網(wǎng)頁的方式,讓人點擊,服務(wù)器采集,簡直是弱爆了。每個人的點擊循環(huán)1000次,來個100人同時點,你要用的是普通的虛擬機就不行了。
最好是換種方式實現(xiàn),不要通過網(wǎng)頁進行采集。
可以非常簡單的在數(shù)據(jù)庫的表,創(chuàng)建一個采集隊列,后臺執(zhí)行一個crontab的計劃任務(wù),去完成隊列里的采集任務(wù)。
1.PHP基本上就是一種數(shù)組語言。時常要進行大量的數(shù)組循環(huán)操作,主要有兩種方式,
一種是foreach,另一種是while,
代碼如下:
foreach ($array as $value) {
echo $value;
}
while (list($key) = each($array)) {
echo $array[$key];
}
foreach ($array as $value) {
echo $value;
}
while (list($key) = each($array)) {
echo $array[$key];
}
2.在循環(huán)里進行的是數(shù)組“寫”操作,則while比foreach快:
foreach ($array as $key = $value) {
echo $array[$key] = $value . '...';
}
while (list($key) = each($array)) {
$array[$key] = $array[$key] . '...';
}
foreach ($array as $key = $value) {
echo $array[$key] = $value . '...';
}
while (list($key) = each($array)) {
$array[$key] = $array[$key] . '...';
}