這篇文章主要介紹了mongodb如何實(shí)現(xiàn)增量/全量備份腳本，具有一定借鑒價(jià)值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓小編帶著大家一起了解一下。
功能
定期對(duì)mongodb數(shù)據(jù)庫(kù)數(shù)據(jù)進(jìn)行全量備份或增量備份（副本集架構(gòu)），并可以壓縮上傳到阿里云oss(本地會(huì)先生成壓縮包，可以設(shè)置不上傳oss)。
腳本運(yùn)行環(huán)境
使用python語(yǔ)言編寫，需安裝python，pymongo和mongodb shell客戶端（測(cè)試時(shí)使用python 2.7.6，pymongo 3.0.3和mongodb shell 2.0.4）。
腳本部署步驟
1. 將腳本放到一臺(tái)linux主機(jī)
2. 如果是增量備份，創(chuàng)建mongodb 備份角色用戶或更高權(quán)限的admin庫(kù)用戶。（導(dǎo)出時(shí)會(huì)先切換到admin庫(kù)來(lái)驗(yàn)證權(quán)限，需有查詢local庫(kù)，mongodump local庫(kù)和mongodump目標(biāo)庫(kù)的權(quán)限）
重慶分公司
重慶分公司
use admin
db.addUser( { user: "xxxxx",
pwd: "xxxxx",
roles: [ "backup" ]
} )3. 編輯config.properties，修改oss、mongodb連接等配置信息
## 阿里云oss 連接配置 endpoint= oss.aliyuncs.com accessKeyId = xxxxxxx accessKeySecret = xxxxxxx bucket = db-backup ## mongodb 連接配置 # 建議用從庫(kù)的地址，減少對(duì)主庫(kù)壓力 db_host= localhost db_port= 27017 # 如果是增量備份方案，為步驟2中的創(chuàng)建的用戶，或更高權(quán)限的admin用戶；如果是全量備份方案，則只需有目標(biāo)庫(kù)的操作權(quán)限 db_user= testb db_passwd= testb # 目標(biāo)庫(kù) db_name= che # 備份到本地的臨時(shí)目錄 db_backup_root_path= /temp/backup/ # 如果使用mongo客戶端綠色版的，寫上mongo客戶端的絕對(duì)路徑 mongo_shell_path= /dev/hanxuetong/mongodb/mongodb-linux-x86_64-3.0.6/bin/ # 增量備份還是全量備份 1: 增量備份 0:全量備份 is_inc_backup=1 # 每多少天進(jìn)行一次全量備份 full_backup_period=7 # 是否上傳到oss，如果 1 ，上傳成功后會(huì)刪除本地備份文件；0:不上傳到oss is_upload_to_oss= 0
4. 將start.py加入linux定時(shí)任務(wù)。crontab任務(wù)配置如 0 4 * * * python /xxx/start.py >> /xxx/xxx.log 2>&1
增量時(shí)恢復(fù)步驟：
1. 創(chuàng)建mongodb 具有applyOps權(quán)限的角色 以及用此角色的用戶。（需有執(zhí)行 mongorestore --oplogReplay的用戶權(quán)限）
use admin
db.createRole(
{
role: "applyOpsRole",
privileges: [
{ resource: { anyResource: true }, actions: [ "anyAction"] }
],
roles: []
}
)
db.addUser( { user: "xxxx",
pwd: "xxxx",
roles: [ "applyOpsRole" ]
} )2. 修改 restore_inc.py里的配置
## 阿里云oss 配置 endpoint="oss.aliyuncs.com" accessKeyId="xxxxxxx" accessKeySecret="xxxxxxx" bucket="db-backup" ## mongodb導(dǎo)入的配置 db_host="localhost" db_port=27017 # 步驟1創(chuàng)建的用戶 db_user="testr" db_passwd="testr" db_name="che" # recent circle backup direactory on oss 最新備份文件的周期名，即備份臨時(shí)目錄中mongodb_inc_backup_info.json的last_circle_backup_dir_name 或 oss中文件夾名 last_circle_backup_dir_name="mongodb_cycle_backup_20151124141133" # 從oss上下載到本地的臨時(shí)目錄 restore_local_temp_path="H:\\pythoncode\\temp\\restore\\" # 如果使用mongo客戶端綠色版的，寫上mongo客戶端的絕對(duì)路徑 mongo_shell_path= "/alidata1/dev/hanxuetong/mongodb/mongodb-linux-x86_64-3.0.6/bin/" # backup file has download to local ? if True,will not download backup files from oss # 是否備份文件已經(jīng)下載到本地，如果true，則不會(huì)從oss下載和解壓，本地已有 has_download_to_local=False # 恢復(fù)時(shí)是否先刪除舊的數(shù)據(jù)庫(kù) is_drop_old_restore=True
3. 導(dǎo)入期間停止mongodb寫入
4. 執(zhí)行 restore_inc.py
全量時(shí)恢復(fù)步驟：
1. 修改 restore_full.py里的配置
## 阿里云oss 配置 endpoint="oss.aliyuncs.com" accessKeyId="xxxxxxx" accessKeySecret="xxxxxxx" bucket="db-backup" ## mongodb導(dǎo)入的配置 db_host="localhost" db_port=27017 # 數(shù)據(jù)庫(kù)對(duì)應(yīng)的用戶 db_user="test" db_passwd="test" db_name="che" # recent circle backup direactory on oss 最新備份文件的周期名， oss 上存儲(chǔ)的文件名稱是 last_circle_backup_dir_name+last_full_backup_file_suffix last_circle_backup_dir_name="mongodb_cycle_backup_20151124141133" last_full_backup_file_suffix=".tar.gz" # 備份的目錄，實(shí)際全量備份的路徑為 restore_local_temp_path+last_circle_backup_dir_name+db_name restore_local_temp_path="H:\\pythoncode\\temp\\restore\\" # 如果使用mongo客戶端綠色版的，寫上mongo客戶端的絕對(duì)路徑 mongo_shell_path="/alidata1/dev/hanxuetong/mongodb/mongodb-linux-x86_64-3.0.6/bin/" # backup file has download to local ? if True,will not download backup files from oss # 是否備份文件已經(jīng)下載到本地，如果true，則不會(huì)從oss下載和解壓，本地已有 has_download_to_local=False # 恢復(fù)時(shí)是否先刪除舊的數(shù)據(jù)庫(kù) is_drop_old_restore=True
2. 執(zhí)行 restore_full.py
相關(guān):
增量備份實(shí)現(xiàn)原理
一個(gè)周期內(nèi)（如一星期）先備份一次全量數(shù)據(jù)庫(kù)，然后后面每次備份 上次記錄點(diǎn)到最新時(shí)間內(nèi)的oplog文件。 Oplog 記錄了MongoDB數(shù)據(jù)庫(kù)的更改操作信息，其保存在local庫(kù)的oplog.rs表，在集群架構(gòu)才存在，單機(jī)不會(huì)有，故增量備份不能在單機(jī)下使用。從庫(kù)是通過異步復(fù)制主庫(kù)的Oplog文件，從而達(dá)到與主庫(kù)的同步。 oplog有大小限制，超過指定大小，新的記錄會(huì)覆蓋舊的操作記錄。
全量腳本執(zhí)行時(shí)的流程
備份mongodb數(shù)據(jù)庫(kù)到本地
進(jìn)行壓縮
上傳到oss
檢驗(yàn)oss與本地文件的大小是否相同
刪除本地備份文件
增量腳本執(zhí)行時(shí)的流程
讀取上一個(gè)周期執(zhí)行信息判斷是否需要?jiǎng)?chuàng)建新的周期
獲得mongodb上oplog最近記錄的時(shí)間點(diǎn)current timestamp position
從本地讀取上一次執(zhí)行時(shí)mongodb的oplog時(shí)間點(diǎn)
dump導(dǎo)出全量數(shù)據(jù)或增量oplog文件到本地，增量oplog文件的導(dǎo)出范圍是 上次oplog記錄點(diǎn)到最新時(shí)間內(nèi)的oplog文件
保存步驟2獲取的current timestamp position到本地，作為下一次執(zhí)行步驟3中的時(shí)間點(diǎn)
進(jìn)行壓縮
上傳到oss
刪除本地備份文件
恢復(fù)時(shí)腳本執(zhí)行的流程
從oss上下載指定周期的備份文件到本地
對(duì)全量文件和增量oplog的zip文件進(jìn)行解壓
用 mongorestore對(duì)全量文件進(jìn)行導(dǎo)入
用 mongorestore --oplogReplay 分別對(duì)各時(shí)間段的oplog文件進(jìn)行導(dǎo)入
mongodb增量備份 腳本源碼地址：
https://gitee.com/passer/mongodb_backup_script
感謝你能夠認(rèn)真閱讀完這篇文章，希望小編分享的“mongodb如何實(shí)現(xiàn)增量/全量備份腳本”這篇文章對(duì)大家有幫助，同時(shí)也希望大家多多支持創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計(jì)公司，關(guān)注創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計(jì)公司行業(yè)資訊頻道，更多相關(guān)知識(shí)等著你來(lái)學(xué)習(xí)!
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無(wú)理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、網(wǎng)站設(shè)計(jì)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。
