1W條數(shù)據(jù)量也不是特別大,那就直接讀取,然后在foreach入庫就可以了
三元網(wǎng)站建設(shè)公司創(chuàng)新互聯(lián)公司,三元網(wǎng)站設(shè)計制作,有大型網(wǎng)站制作公司豐富經(jīng)驗。已為三元上千家提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\成都外貿(mào)網(wǎng)站制作要多少錢,請找那個售后服務(wù)好的三元做網(wǎng)站的公司定做!
如果數(shù)據(jù)量非常大的時候,那就分段讀取,然后入庫~
考慮到php超時,那就網(wǎng)頁端打開,第一部分執(zhí)行完,刷新頁面,開始執(zhí)行第二部分,依次進行...
當(dāng)然,直接在命令行下執(zhí)行也可以~
你用網(wǎng)頁的方式,讓人點擊,服務(wù)器采集,簡直是弱爆了。每個人的點擊循環(huán)1000次,來個100人同時點,你要用的是普通的虛擬機就不行了。
最好是換種方式實現(xiàn),不要通過網(wǎng)頁進行采集。
可以非常簡單的在數(shù)據(jù)庫的表,創(chuàng)建一個采集隊列,后臺執(zhí)行一個crontab的計劃任務(wù),去完成隊列里的采集任務(wù)。
大數(shù)據(jù)的話可以進行以下操作:
減少對數(shù)據(jù)庫的讀取,也就是減少調(diào)用數(shù)據(jù)庫,
進行數(shù)據(jù)緩存,
利用數(shù)據(jù)庫的自身優(yōu)化技術(shù),如索引等
精確查詢條件,有利于提高查找速度