前言
10年積累的成都網(wǎng)站建設(shè)、成都做網(wǎng)站經(jīng)驗(yàn),可以快速應(yīng)對(duì)客戶對(duì)網(wǎng)站的新想法和需求。提供各種問(wèn)題對(duì)應(yīng)的解決方案。讓選擇我們的客戶得到更好、更有力的網(wǎng)絡(luò)服務(wù)。我雖然不認(rèn)識(shí)你,你也不認(rèn)識(shí)我。但先網(wǎng)站設(shè)計(jì)制作后付款的網(wǎng)站建設(shè)流程,更有海湖新免費(fèi)網(wǎng)站建設(shè)讓你可以放心的選擇與我們合作。Redis提供了兩種數(shù)據(jù)存儲(chǔ)方式,分別是:cache-only && persistence;cache-only顧名知義,是用與緩存服務(wù)的,數(shù)據(jù)在服務(wù)器終止后將消失,在此模式下將不存在"數(shù)據(jù)恢復(fù)"的方式,是一種安全性低、效率高、易擴(kuò)展的模式;persistence即內(nèi)存中的數(shù)據(jù)持久備份至磁盤文件中,在服務(wù)重啟之后能夠恢復(fù)數(shù)據(jù),這種模式下數(shù)據(jù)的安全性大大提高。cache-only沒(méi)有什么講的,這里主要說(shuō)明Redis的持久化存儲(chǔ)模式。對(duì)于persistence持久化存儲(chǔ),Redis提供了兩種持久化方法:"Redis DataBase"簡(jiǎn)稱"RDB",以及"Append-Only Flie"簡(jiǎn)稱"AOF",當(dāng)然了除了這兩種方式之外,Redis在早期版本中還使用虛擬內(nèi)存的方法,不過(guò)在Redis 3.0版本之后已然被廢棄掉了。
RDB持久化方式
RDB是"Redis DataBase"的簡(jiǎn)稱,RDB持久化是指按指定的策略將內(nèi)存中的數(shù)據(jù)集快照并寫(xiě)入磁盤。是默認(rèn)的持久化方式,這種方式就是將內(nèi)存中數(shù)據(jù)以快照的方式寫(xiě)入到二進(jìn)制文件中,默認(rèn)的文件名為dump.rdb??梢酝ㄟ^(guò)修改配置文件設(shè)置自動(dòng)做快照的方式。我們可以設(shè)置redis在n秒內(nèi)如果超過(guò)m次key被修改就自動(dòng)做快照,下面是默認(rèn)的快照保存配置。匹配優(yōu)先級(jí)由下到上。
save 900 1 # 900秒內(nèi)如果超過(guò)1次key被修改,則發(fā)起快照保存
save 300 10 # 300秒內(nèi)超過(guò)10次key被修改,則發(fā)起快照保存
save 60 10000 # 60s內(nèi)發(fā)生10000次可以值修改,則發(fā)起快照
1 RDB文件存儲(chǔ)過(guò)程
1)當(dāng)有相關(guān)操作時(shí),redis父進(jìn)程調(diào)用fork(),創(chuàng)建子進(jìn)程。
2)父進(jìn)程繼續(xù)處理client請(qǐng)求,子進(jìn)程負(fù)責(zé)將內(nèi)存內(nèi)容寫(xiě)入到臨時(shí)文件。由于os的寫(xiě)時(shí)復(fù)制機(jī)制(copy on write)父子進(jìn)程會(huì)共享相同的物理頁(yè)面,當(dāng)父進(jìn)程處理寫(xiě)請(qǐng)求時(shí)os會(huì)為父進(jìn)程要修改的頁(yè)面創(chuàng)建副本,而不是寫(xiě)共享的頁(yè)面。所以子進(jìn)程的地址空間中的數(shù) 據(jù)是fork()時(shí)刻整個(gè)數(shù)據(jù)庫(kù)的一個(gè)快照。
3)當(dāng)子進(jìn)程將快照寫(xiě)入臨時(shí)文件完畢后,用臨時(shí)文件替換原有的快照文件,然后子進(jìn)程退出。
Redis的client也可以使用"save"或者"bgsave"命令通知redis做一次快照持久化。save操作是在主線程中保存快照的,由于redis是用一個(gè)主線程(即單進(jìn)程)來(lái)處理所有client的請(qǐng)求,這種方式將會(huì)阻塞所有client請(qǐng)求,不推薦使用。
值得注意的是,每次RDB都是將內(nèi)存數(shù)據(jù)完整寫(xiě)入到磁盤一次,并不是增量的只同步臟數(shù)據(jù)。如果數(shù)據(jù)量大的話,而且寫(xiě)操作比較多,必然會(huì)引起大量的磁盤IO操作,可能會(huì)嚴(yán)重影響性能。
2 RDB的優(yōu)勢(shì)
1)一旦采用該方式,那么你的整個(gè)Redis數(shù)據(jù)庫(kù)將只包含一個(gè)文件,這樣非常方便進(jìn)行備份。比如你可以每1天備份一次數(shù)據(jù),而不用擔(dān)心磁盤空間不夠。而且我們可以很容易的將一個(gè)RDB文件移動(dòng)到其他的存儲(chǔ)介質(zhì)上。
2)RDB 在恢復(fù)大數(shù)據(jù)集時(shí)的速度比 AOF 的恢復(fù)速度要快。
3)RDB 可以大化Redis的性能:父進(jìn)程在保存RDB文件時(shí)唯一要做的就是調(diào)用fork()生成子進(jìn)程,然后這個(gè)子進(jìn)程就會(huì)處理接下來(lái)的所有保存工作,而父進(jìn)程無(wú)需參與磁盤IO,大大提升性能。
3 RDB的劣勢(shì)
1)如果服務(wù)器運(yùn)行時(shí)發(fā)生故障,那么RDB方式將會(huì)丟失數(shù)據(jù),雖然Redis允許你設(shè)置不同的保存點(diǎn)(save point)來(lái)控制保存RDB文件的頻率, 但是, 因?yàn)镽DB 文件需要保存整個(gè)數(shù)據(jù)集的狀態(tài),所以它并不是一個(gè)輕松的操作。 因此你可能會(huì)至少 5 分鐘才保存一次RDB文件。 在這種情況下, 一旦發(fā)生故障停機(jī), 你就可能會(huì)丟失好備份時(shí)間段中的數(shù)據(jù)。
2)每次保存 RDB 的時(shí)候,Redis都要fork()出一個(gè)子進(jìn)程,并由子進(jìn)程來(lái)進(jìn)行實(shí)際的持久化工作。在數(shù)據(jù)集比較龐大時(shí),fork() 可能會(huì)非常耗時(shí),造成服務(wù)器在某毫秒內(nèi)停止處理客戶端; 如果數(shù)據(jù)集非常巨大,并且 CPU 時(shí)間非常緊張的話,那么這種停止時(shí)間甚至可能會(huì)長(zhǎng)達(dá)整整一秒。 雖然AOF重寫(xiě)也需要進(jìn)行fork() ,但無(wú)論AOF重寫(xiě)的執(zhí)行間隔有多長(zhǎng),數(shù)據(jù)的耐久性都不會(huì)有任何損失。
4 RDB的相關(guān)配置參數(shù)
除了上面用于定義RDB快照條件的項(xiàng)之外,還有一些其他的配置參數(shù),放置在配置文件"/etc/redis.conf"中的"SNAPSHOTTING"字段中;詳細(xì)信息如下:
rdbcompression yes # 是否開(kāi)啟壓縮功能
rdbchecksum yes # 檢測(cè)數(shù)據(jù)校驗(yàn)和
dbfilename dump.rdb # 數(shù)據(jù)集文件名
dir /var/lib/redis # 數(shù)據(jù)存放目錄
stop-writes-on-bgsave-error yes # 默認(rèn)情況下,如果啟用了RDB快照(至少有一個(gè)保存點(diǎn)),而最新的數(shù)據(jù)保存失敗,將停止接受寫(xiě)入。這將使用戶(以一種困難的方式)意識(shí)到數(shù)據(jù)并不是正確地在磁盤上進(jìn)行持續(xù)的,否則很可能沒(méi)有人會(huì)注意到,并且會(huì)發(fā)生一些錯(cuò)誤,即使存在磁盤、權(quán)限等問(wèn)題,仍然照常工作。如果后臺(tái)保存進(jìn)程再次開(kāi)始工作,Redis將自動(dòng)允許再次寫(xiě)入。 但是,如果您已經(jīng)設(shè)置了對(duì)Redis服務(wù)器和持久性的正確監(jiān)視,則應(yīng)該禁用此功能,以便即使磁盤,權(quán)限等方面存在問(wèn)題,Redis也將照常繼續(xù)工作。
AOF持久化方式
AOF是"Append-Only File"的簡(jiǎn)稱,是一種將內(nèi)存中的數(shù)據(jù)以命令的方式追加保存至臨時(shí)文件中,然后依賴次此文件進(jìn)行數(shù)據(jù)重現(xiàn)的方式。
1 AOF文件保存過(guò)程
redis會(huì)將每一個(gè)收到的寫(xiě)命令都通過(guò)write函數(shù)追加到文件中(默認(rèn)是appendonly.aof)。當(dāng)redis重啟時(shí)會(huì)通過(guò)重新執(zhí)行文件中保存的寫(xiě)命令在內(nèi)存中重建整個(gè)數(shù)據(jù)庫(kù)的內(nèi)容。當(dāng)然由于os會(huì)在內(nèi)核中緩存 write做的修改,所以可能不是立即寫(xiě)到磁盤上。這樣AOF方式的持久化也還是有可能會(huì)丟失部分修改。不過(guò)我們可以通過(guò)選項(xiàng)告訴redis我們想要 通過(guò)fsync函數(shù)強(qiáng)制os寫(xiě)入到磁盤。有三種方式如下(默認(rèn)是:每秒fsync一次)
appendonly yes # 啟用aof持久化方式
appendfsync always # 每次收到寫(xiě)命令就立即強(qiáng)制寫(xiě)入磁盤,雖然保證完全的持久化,但是嚴(yán)重影響性能,不推薦使用。
appendfsync everysec # 每秒鐘強(qiáng)制寫(xiě)入磁盤一次,在性能和持久化方面做了很好的折中,推薦。
appendfsync no # 完全依賴os,即Redis在不參與。這種性能最好,但持久化沒(méi)保證。
AOF的方式也同時(shí)帶來(lái)了另一個(gè)問(wèn)題。持久化文件會(huì)變的越來(lái)越大。例如我們調(diào)用"incr count"命令100次,文件中必須保存全部的100條命令,其實(shí)前99條都是多余的。因?yàn)橐謴?fù)數(shù)據(jù)庫(kù)的狀態(tài)時(shí)只需要執(zhí)行"set test 100"就夠了。為了壓縮aof的持久化文件。redis提供了"bgrewriteaof"命令。收到此命令redis將使用與快照類似的方式將內(nèi)存中的數(shù)據(jù) 以命令的方式保存到臨時(shí)文件中(類似于Mysql中的二進(jìn)制日志),最后替換原來(lái)的文件。具體過(guò)程如下:
1)redis調(diào)用fork ,生成子進(jìn)程
2)子進(jìn)程根據(jù)內(nèi)存中的數(shù)據(jù)庫(kù)快照,向臨時(shí)文件中寫(xiě)入重建數(shù)據(jù)庫(kù)狀態(tài)的命令
3)父進(jìn)程繼續(xù)處理client請(qǐng)求,除了把寫(xiě)命令寫(xiě)入到原來(lái)的aof文件中。同時(shí)把收到的寫(xiě)命令緩存起來(lái)。這樣就能保證如果子進(jìn)程重寫(xiě)失敗的話并不會(huì)出問(wèn)題。
4)當(dāng)子進(jìn)程把快照內(nèi)容以命令的方式寫(xiě)到臨時(shí)文件中后,子進(jìn)程發(fā)信號(hào)通知父進(jìn)程。然后父進(jìn)程把緩存的寫(xiě)命令也追加寫(xiě)入到臨時(shí)文件中。
5)現(xiàn)在父進(jìn)程可以使用臨時(shí)文件替換老的aof文件,并重命名,后面收到的寫(xiě)命令也開(kāi)始往新的aof文件中追加。
值得注意的是:重寫(xiě)aof文件的操作,并沒(méi)有讀取舊的aof文件,而是將整個(gè)內(nèi)存中的數(shù)據(jù)庫(kù)內(nèi)容以命令的方式重寫(xiě)至了一個(gè)新的aof文件,這點(diǎn)和快照有點(diǎn)類似。
2 AOF持久化優(yōu)勢(shì)
1)使用 AOF 持久化會(huì)讓 Redis 變得非常耐久(much more durable):你可以設(shè)置不同的 fsync 策略,比如無(wú) fsync ,每秒鐘一次 fsync ,或者每次執(zhí)行寫(xiě)入命令時(shí) fsync 。 AOF 的默認(rèn)策略為每秒鐘 fsync 一次,在這種配置下,Redis 仍然可以保持良好的性能,并且就算發(fā)生故障停機(jī),也最多只會(huì)丟失一秒鐘的數(shù)據(jù)( fsync 會(huì)在后臺(tái)線程執(zhí)行,所以主線程可以繼續(xù)努力地處理命令請(qǐng)求)。
2)AOF文件是一個(gè)只進(jìn)行追加操作的日志文件(append only log), 因此對(duì)AOF文件的寫(xiě)入不需要進(jìn)行seek , 即使日志因?yàn)槟承┰蚨宋磳?xiě)入完整的命令(比如寫(xiě)入時(shí)磁盤已滿,寫(xiě)入中途停機(jī),等等), redis-check-aof 工具也可以輕易地修復(fù)這種問(wèn)題。
Redis 可以在 AOF 文件體積變得過(guò)大時(shí),自動(dòng)地在后臺(tái)對(duì) AOF 進(jìn)行重寫(xiě): 重寫(xiě)后的新 AOF 文件包含了恢復(fù)當(dāng)前數(shù)據(jù)集所需的最小命令集合。 整個(gè)重寫(xiě)操作是絕對(duì)安全的,因?yàn)?Redis 在創(chuàng)建新 AOF 文件的過(guò)程中,會(huì)繼續(xù)將命令追加到現(xiàn)有的 AOF 文件里面,即使重寫(xiě)過(guò)程中發(fā)生停機(jī),現(xiàn)有的 AOF 文件也不會(huì)丟失。 而一旦新 AOF 文件創(chuàng)建完畢,Redis 就會(huì)從舊 AOF 文件切換到新 AOF 文件,并開(kāi)始對(duì)新 AOF 文件進(jìn)行追加操作。
3)AOF 文件有序地保存了對(duì)數(shù)據(jù)庫(kù)執(zhí)行的所有寫(xiě)入操作, 這些寫(xiě)入操作以 Redis 協(xié)議的格式保存, 因此 AOF 文件的內(nèi)容非常容易被人讀懂, 對(duì)文件進(jìn)行分析(parse)也很輕松。 導(dǎo)出(export) AOF 文件也非常簡(jiǎn)單: 舉個(gè)例子, 如果你不小心執(zhí)行了FLUSHALL命令, 但只要 AOF 文件未被重寫(xiě),那么只要停止服務(wù)器,移除AOF文件末尾的FLUSHALL命令,并重啟Redis ,就可以將數(shù)據(jù)集恢復(fù)到FLUSHALL執(zhí)行之前的狀態(tài)。
3 AOF持久化的劣勢(shì)
1)對(duì)于相同的數(shù)據(jù)集來(lái)說(shuō),AOF 文件的體積通常要大于 RDB 文件的體積。
2)根據(jù)所使用的 fsync 策略,AOF 的速度可能會(huì)慢于 RDB 。在一般情況下,每秒 fsync 的性能依然非常高,而關(guān)閉 fsync 可以讓 AOF 的速度和 RDB 一樣快, 即使在高負(fù)荷之下也是如此。不過(guò)在處理巨大的寫(xiě)入載入時(shí),RDB 可以提供更有保證的大延遲時(shí)間(latency)。
3)AOF在過(guò)去曾經(jīng)發(fā)生過(guò)這樣的 bug : 因?yàn)閭€(gè)別命令的原因,導(dǎo)致 AOF 文件在重新載入時(shí),無(wú)法將數(shù)據(jù)集恢復(fù)成保存時(shí)的原樣。(例如,阻塞命令 BRPOPLPUSH 就曾經(jīng)引起過(guò)這樣的bug) 測(cè)試套件里為這種情況添加了測(cè)試:它們會(huì)自動(dòng)生成隨機(jī)的、復(fù)雜的數(shù)據(jù)集, 并通過(guò)重新載入這些數(shù)據(jù)來(lái)確保一切正常。雖然這種 bug 在 AOF 文件中并不常見(jiàn),但是對(duì)比來(lái)說(shuō),RDB幾乎是不可能出現(xiàn)這種bug的。
4 AOF的相關(guān)配置參數(shù)
關(guān)于Redis的持久化方式之一"AOF",與其相關(guān)的配置項(xiàng)放置在Redis配置文件"/etc/redis.conf"中的"APPEND ONLY MODE"字段中;與其相關(guān)的參數(shù)如下:
# 開(kāi)啟AOF持久化模式
appendonly no
# The name of the append only file (default: "appendonly.aof")
appendfilename "appendonly.aof"
# AOF持久化方式,只要分為三種,有寫(xiě)操作就fsync(影響性能)、每秒fync(折中方式,只丟失1s數(shù)據(jù))以及OS執(zhí)行刷寫(xiě)(持久化無(wú)保證),
# appendfsync always
appendfsync everysec
# appendfsync no
# 是否在后臺(tái)執(zhí)行aof重寫(xiě)期間不調(diào)用fsync,默認(rèn)為no,表示調(diào)用;當(dāng)AOF的fsync策略設(shè)置為always或everysec時(shí),并且后臺(tái)保存進(jìn)程(后臺(tái)保存或AOF日志背景重寫(xiě))對(duì)磁盤執(zhí)行大量I/O時(shí),Redis可能在fsync()調(diào)用上阻塞太久。目前并沒(méi)有解決此問(wèn)題的方法,因?yàn)榧词乖谄渌€程中執(zhí)行fsync也會(huì)阻止我們的同步寫(xiě)入調(diào)用。為了減輕這個(gè)問(wèn)題,可以使用下面的選項(xiàng)來(lái)防止在BGSAVE或BGREWRITEAOF進(jìn)程中在主進(jìn)程中調(diào)用fsync()。這意味著,當(dāng)另一個(gè)子進(jìn)程正在保存時(shí),Redis的持久性與"appendfsync none"相同。這意味著在最壞的情況下(使用默認(rèn)的設(shè)置),最多可能會(huì)丟失30秒的日志。 如果有延遲問(wèn)題,請(qǐng)將其轉(zhuǎn)為"yes"
no-appendfsync-on-rewrite no
# 定義文件重寫(xiě)頻度,有兩個(gè)參數(shù),一是百分不,即系列第一條命令;二是按AOF日志大小,默認(rèn)為64MB。如果日志當(dāng)前的增漲量大于預(yù)定義的增長(zhǎng)率(百分比)則觸發(fā)重寫(xiě)。此外,您還需要指定要重寫(xiě)的AOF文件的最小大小,即使達(dá)到了百分比增加但仍然非常小,這對(duì)于避免重寫(xiě)AOF文件很有用。指定百分比為零,表示禁用自動(dòng)AOF重寫(xiě)功能。
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
# 在Redis啟動(dòng)過(guò)程中,當(dāng)AOF數(shù)據(jù)被加載回內(nèi)存時(shí),可能會(huì)發(fā)現(xiàn)一個(gè)AOF文件被截?cái)唷H绻麑OF-load-truncated設(shè)置為yes,則會(huì)加載一個(gè)截?cái)嗟腁OF文件,而Redis服務(wù)器開(kāi)始發(fā)出日志,以通知該事件的用戶。如果該選項(xiàng)被設(shè)置為no,服務(wù)器將以錯(cuò)誤中止并拒絕啟動(dòng)。當(dāng)選項(xiàng)設(shè)置為no時(shí),用戶需要使用"redis-checkaof"實(shí)用程序修復(fù)AOF文件,然后再重新啟動(dòng)服務(wù)器。
aof-load-truncated yes
總結(jié):
一般來(lái)說(shuō), 如果想達(dá)到足以媲美 PostgreSQL 的數(shù)據(jù)安全性,你應(yīng)該同時(shí)使用兩種持久化功能。如果你非常關(guān)心你的數(shù)據(jù),但仍然可以承受數(shù)分鐘以內(nèi)的數(shù)據(jù)丟失,那么你可以只使用RDB持久化。
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。