MFS介紹
官網(wǎng)地址：http://www.moosefs.com/
MooseFS是一個具有容錯性的網(wǎng)絡分布式文件系統(tǒng)。
它把數(shù)據(jù)分散存放在多個物理服務器上，而呈現(xiàn)給用戶的則是一個統(tǒng)一的資源。通用文件系統(tǒng),不需要修改上層應用就可以使用，通過附加新的計算機或者硬盤可以實現(xiàn)容量的動態(tài)擴展，體系架構可伸縮性極強，刪除的文件可以根據(jù)配置的時間周期進行保留（一個文件系統(tǒng)級別的回收站），高可靠（數(shù)據(jù)的多個拷貝被存儲在不同的計算機上），提供 web 監(jiān)控接口，提高隨機讀或寫的效率，提高海量小文件的讀寫效率。但是mfs 把文件系統(tǒng)的結構緩存到 master 的內存中,文件越多,master 的內存消耗越大,8g 對應 2500w 的文件數(shù),2 億文件就得 64GB 內存。支持特殊文件（塊和字符設備、管道以及套接字），符號連接和硬連接。
包括以下四種角色：
| 角色 | 作用 |
| 管理服務器 managing server (master) | 負責各個數(shù)據(jù)存儲服務器的管理,文件讀寫調度,文件空間回收以及恢復.多節(jié)點拷貝 |
| 元數(shù)據(jù)日志服務器 Metalogger server（Metalogger） | 負責備份 master 服務器的變化日志文件，文件類型為 changelog_ml.*.mfs，以便于在 master server 出問題的時候接替其進行工作 |
| 數(shù)據(jù)存儲服務器 data servers (chunk servers ) | 聽從管理服務器調度,提供存儲空間，并為客戶提供數(shù)據(jù)傳輸.。 真正存儲用戶數(shù)據(jù)的服務器。存儲文件時，首先把文件分成塊，然后這些塊在數(shù)據(jù)服務器 chunkserver之間復 制（復制份數(shù)可以手工指定，建議設置副本數(shù)為 3）。數(shù)據(jù)服務器可以是多個，并且數(shù)量越多，可使用的“磁盤空間”越大，可靠性也越高。 |
| 客戶機掛載使用 client computers | 掛載進程 mfs 服務器共享出的存儲并使用。 通過 fuse 內核接口掛載進程管理服務器上所管理的數(shù)據(jù)存儲服務器共享出的硬盤。 共享的文件系統(tǒng)的用法和 nfs 相似。 使用 MFS 文件系統(tǒng)來存儲和訪問的主機稱為 MFS 的客戶端，成功掛接 MFS 文件系統(tǒng)以后，就可以像以前使用 NFS 一樣共享這個虛擬性的存儲了。 |
實驗環(huán)境介紹
基本環(huán)境表
| 主機 | 操作系統(tǒng) | IP地址 | 主要軟件 |
| Master Server | Centos7.3 | 192.168.137.10 | moosefs.x86_64.0.3.0.101-1 |
| Metalogger Server | Centos7.3 | 192.168.137.11 | moosefs.x86_64.0.3.0.101-1 |
| Chunk server1 | Centos7.3 | 192.168.137.12 | moosefs.x86_64.0.3.0.101-1 |
| Chunk server2 | Centos7.3 | 192.168.137.13 | moosefs.x86_64.0.3.0.101-1 |
| Client | Centos7.3 | 192.168.137.14 | moosefs.x86_64.0.3.0.101-1 |
拓撲圖
操作步驟
五臺虛擬機模擬搭建MFS文件系統(tǒng)
關閉防火墻及selinux
systemctl stop firewalld
setenforce 0
搭建Master Server
安裝軟件
curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS //添加鍵值
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo //添加適當?shù)膸鞐l目
yum install moosefs-master moosefs-cgi moosefs-cgiserv moosefs-cli –y
配置文件解釋
cd /etc/mfs/
-rw-r--r--. 1 root root 4057 9月 27 15:18 mfsexports.cfg //輸出目錄配置文件
-rw-r--r--. 1 root root 4057 7月 20 19:16 mfsexports.cfg.sample
-rw-r--r--. 1 root root 9015 9月 27 15:18 mfsmaster.cfg //Master配置文件
-rw-r--r--. 1 root root 9015 7月 20 19:16 mfsmaster.cfg.sample
-rw-r--r--. 1 root root 1052 9月 27 15:18 mfstopology.cfg //元數(shù)據(jù)日志
-rw-r--r--. 1 root root 1052 7月 20 19:16 mfstopology.cfg.sample
啟動服務
systemctl start moosefs-master
systemctl enable moosefs-master
netstat -ntap | grep mfstcp 0 0 0.0.0.0:9419 0.0.0.0:* LISTEN 6217/mfsmaster
tcp 0 0 0.0.0.0:9420 0.0.0.0:* LISTEN 6217/mfsmaster
tcp 0 0 0.0.0.0:9421 0.0.0.0:* LISTEN 6217/mfsmaster
搭建MetalLogger Server
安裝
curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS //添加鍵值
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo //添加適當?shù)膸鞐l目
yum install moosefs-metalogger –y
修改配置文件
vim /etc/mfs/mfsmetalogger.cfg
MASTER_HOST = 192.168.137.10 //第52行，去除注釋，改地址指向主服務器。
啟動服務
systemctl start moosefs-metalogger
systemctl enable moosefs-metalogger
netstat -ntap | grep mfstcp 0 0 192.168.137.11:36766 192.168.137.10:9419 ESTABLISHED 73521/mfsmetalogger
搭建Chunk Server
這兩臺Chunk Server的搭建步驟是完全相同
安裝
curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS //添加鍵值
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo //添加適當?shù)膸鞐l目
yum install moosefs-chunkserver –y
修改配置文件
修改一
vim /etc/mfs/mfschunkserver.cfg
MASTER_HOST = 192.168.137.10 //第77行，將地址指向主服務器
修改二
vim /etc/mfs/mfshdd.cfg
/gongxiang //在末行添加共享目錄mkdir /gongxiang //創(chuàng)建共享目錄
chown -R mfs:mfs /gongxiang //為共享目錄授權
啟動服務
systemctl start moosefs-chunkserver
systemctl enable moosefs-chunkserver
netstat -ntap | grep mfstcp 0 0 0.0.0.0:9422 0.0.0.0:* LISTEN 71921/mfschunkserve
tcp 0 0 192.168.137.13:59006 192.168.137.10:9420 ESTABLISHED 71921/mfschunkserve
Client的搭建
安裝
curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS //添加鍵值
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo //添加適當?shù)膸鞐l目
yum install moosefs-client –y
加載fuse模塊至內核
modprobe fuse
掛載共享目錄
mkdir /opt/mfs //創(chuàng)建掛載點
mfsmount /opt/mfs/ -H 192.168.137.10 //掛載，地址為master地址df –h
文件系統(tǒng) 容量 已用 可用 已用% 掛載點
/dev/sda6 21G 4.1G 17G 20% /
devtmpfs 896M 0 896M 0% /dev
tmpfs 911M 0 911M 0% /dev/shm
tmpfs 911M 11M 900M 2% /run
tmpfs 911M 0 911M 0% /sys/fs/cgroup
/dev/sda2 9.8G 33M 9.8G 1% /opt
/dev/sda3 4.9G 89M 4.8G 2% /home
/dev/sda1 1014M 165M 850M 17% /boot
tmpfs 183M 64K 183M 1% /run/user/1000
tmpfs 183M 0 183M 0% /run/user/0
192.168.137.10:9421 58G 8.1G 50G 14% /opt/mfs
MFS監(jiān)控
主服務器上開啟監(jiān)控
mfscgiserv
lockfile created and locked
starting simple cgi server (host: any , port: 9425 , rootpath: /usr/share/mfscgi)
訪問192.168.137.10：9425 主機地址
填寫主服務器地址
界面
另外有需要云服務器可以了解下創(chuàng)新互聯(lián)cdcxhl.cn，海內外云服務器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應用場景需求。
重慶分公司
重慶分公司
