在PHP中怎么解決大量數(shù)據(jù)處理的問題

mysql_query函數(shù)查詢的方式是查詢出全部結(jié)果后緩存到內(nèi)存中，這樣就會(huì)出現(xiàn)超內(nèi)存的現(xiàn)象，使用另外一個(gè)函數(shù)mysql_unbuffered_query可以解決這個(gè)問題，mysql_unbuffered_query不會(huì)緩存結(jié)果集，而是查詢出來數(shù)據(jù)后立馬對(duì)結(jié)果集進(jìn)行操作，也就是便查詢邊返回，這樣就不會(huì)出現(xiàn)超出內(nèi)存的現(xiàn)象，但是使用mysql_unbuffered_query的是時(shí)候不能使用 mysql_num_rows() 和 mysql_data_seek()。并且向 MySQL 發(fā)送一條新的 SQL 查詢之前，必須提取掉所有未緩存的 SQL 查詢所產(chǎn)生的結(jié)果行。例如：

創(chuàng)新互聯(lián)建站主要從事成都網(wǎng)站制作、成都做網(wǎng)站、外貿(mào)營銷網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計(jì)、企業(yè)做網(wǎng)站、公司建網(wǎng)站等業(yè)務(wù)。立足成都服務(wù)綦江,10多年網(wǎng)站建設(shè)經(jīng)驗(yàn),價(jià)格優(yōu)惠、服務(wù)專業(yè),歡迎來電咨詢建站服務(wù):18980820575

使用緩存結(jié)果集的代碼：

function selecttest()

{

try {

$pdo = new PDO("mysql:host=localhost;dbname=test", 'root', '123456');

// 不使用緩存結(jié)果集方式

// $pdo-setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);

$sth = $pdo-prepare('select * from test');

$sth-execute();

echo '最初占用內(nèi)存大?。? . memory_get_usage() . "\n";

$i = 0;

while ($result = $sth-fetch(PDO::FETCH_ASSOC)) {

$i += 1;

if ($i 10) {

break;

}

sleep(1);

print_r($result);

echo '占用內(nèi)存大小：' . memory_get_usage() . "\n";

}

} catch (Exception $e) {

echo $e-getMessage();

}

}

執(zhí)行時(shí)將會(huì)報(bào)超出內(nèi)存的錯(cuò)誤：

Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 204800000 bytes) in E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php on line 56

Call Stack:

0.0005 135392 1. {main}() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:0

0.0005 135568 2. test-selecttest() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:85

0.0050 142528 3. PDOStatement-execute() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:56

將上面代碼中的$pdo-setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);一行的注釋去掉后將不在緩存結(jié)果集，這時(shí)運(yùn)行該函數(shù)的結(jié)果如下：

最初占用內(nèi)存大?。?44808

Array

(

[id] = 1

[a] = v

[b] = w

[c] = i

)

占用內(nèi)存大小：145544

Array

(

[id] = 2

[a] = b

[b] = l

[c] = q

)

占用內(nèi)存大?。?45544

Array

(

[id] = 3

[a] = m

[b] = p

[c] = h

)

占用內(nèi)存大?。?45536

Array

(

[id] = 4

[a] = j

[b] = i

[c] = b

)

占用內(nèi)存大?。?45536

可以看到，這時(shí)返回一條數(shù)據(jù)內(nèi)存占用非常的小，也就700多字節(jié)，這樣就不會(huì)出現(xiàn)超出內(nèi)存的錯(cuò)誤了。

php處理大量數(shù)據(jù)時(shí)，運(yùn)行到一定時(shí)間就中斷了，請(qǐng)問如何解決

php處理數(shù)據(jù)時(shí)會(huì)有一個(gè)等待時(shí)間，就是所說的超時(shí)時(shí)間，而且如果使用mysql的話，它也有一個(gè)超時(shí)時(shí)間，運(yùn)行一串代碼時(shí)間如果超過配置文件的時(shí)間，會(huì)被中斷不運(yùn)行。第一種你可以修改php配置文件timeout的運(yùn)行時(shí)間，第二你可以分批處理大量數(shù)據(jù)，注意是分批處理，就OK了。

PHP 用PHPExcel往數(shù)據(jù)庫導(dǎo)入大量數(shù)據(jù)

1、首先我們準(zhǔn)備一個(gè)含有數(shù)據(jù)的Excel表格，表頭和數(shù)據(jù)表中的表字段相對(duì)應(yīng)。

2、在ThinkPHP中引入PHPExcel類庫。

3、然后我們編寫導(dǎo)入的PHP代碼。

4、然后我們編寫導(dǎo)出的PHP代碼。

5、然后我們進(jìn)行導(dǎo)出測(cè)試發(fā)現(xiàn)可以導(dǎo)出即可。

求 php 循環(huán)執(zhí)行大量數(shù)據(jù) 解決辦法。

你用網(wǎng)頁的方式，讓人點(diǎn)擊，服務(wù)器采集，簡(jiǎn)直是弱爆了。每個(gè)人的點(diǎn)擊循環(huán)1000次，來個(gè)100人同時(shí)點(diǎn)，你要用的是普通的虛擬機(jī)就不行了。

最好是換種方式實(shí)現(xiàn)，不要通過網(wǎng)頁進(jìn)行采集。

可以非常簡(jiǎn)單的在數(shù)據(jù)庫的表，創(chuàng)建一個(gè)采集隊(duì)列，后臺(tái)執(zhí)行一個(gè)crontab的計(jì)劃任務(wù)，去完成隊(duì)列里的采集任務(wù)。