通过Yum部署MFS分布式文件系统具体步骤

树叶云

MFS 是一个具有容错性的网络分布式文件系统, 它把数据分散存放在多个物理服务器上,而呈现给用户的则是一个统一的资源,本篇文章重点讲解一下通过Yum部署MFS分布式文件系统具体步骤。

分布式原理

分布式文件系统是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连。简单来说,就是把一些分散的(分布在局域网内各个计算机上)共享文件夹,集合到一个文件夹内(虚拟共享文件夹)。对于用户来说,要访问这些共享文件时,只要打开这个虚拟共享文件夹,就可以看到所有链接到虚拟共享文件夹内的共享文件夹,用户感觉不到这些共享文件是分布于各个计算机上的。分布式文件系统的好处是集中访问、简化操作、数据容灾,以及提高文件的存取性能。

MFS原理

MFS是一个具有容错性的网络分布式文件系统,它把数据分散存放在多个物理服务器上,而呈现给用户的则是统一的资源。

MFS文件系统的组成
元数据服务器(Master):在整个体系中负责管理文件系统,维护元数据。
元数据日志服务器(Metalogger):备份Master服务器的变化日志文件,文件类型为changelog_ml.*.mfs。当Master服务器数据丢失或损坏时,可以从日志服务器中取得文件,进行恢复。
数据存储服务器(Chunk Server):真正存储数据的服务器。存储文件时,会把文件分块保存,并在数据服务器间进行复制。数据服务器越多,能使用的“容量”也越大,可靠性越高,性能也就越好。
客户端(Client):可以直接挂载MFS文件系统。
MFS读取数据的处理过程
客户端向元数据服务器发出读请求
元数据服务器把所需数据存放的位置(Chunk Server的IP地址和Chunk编号)告知客户端
客户端向已知的Chunk Server请求发送数据
Chunk Server向客户端发送数据
MFS写入数据的处理过程
客户端向元数据服务器发送写入请求
元数据服务器与Chunk Server进行交互(只有当所需的分块Chunk存在的时候才进行交互),但元数据服务器只在某些服务器创建新的分块chunks,创建成功后由Chunk Servers告知元数据服务器操作成功
元数据服务器告知客户端,可以在哪个Chunk Server的那些chunks写入数据
客户端向指定的Chunk Server写入数据
该Chunk Server与其他Chunk Server进行数据同步,同步成功后Chunk Server告知客户端数据写入成功
客户端告知元数据服务器本次写入完毕

MFS优势

高可用性:没有单点故障也称为无SPOF配置。文件系统的元数据在物理冗余服务器上保存为两个或多个副本。用户数据冗余地分布在系统中的存储服务器上。
低成本的数据安全:MooseFS使用户能够节省大量硬盘空间,保持相同的数据冗余级别。在大多数常见情况下,将节省至少55%的硬盘空间.
可扩展性:存储可以扩展到16字节(~16000千兆字节),这使我们可以存储超过20亿个文件
高性能:旨在支持高性能I/O操作。用户数据可以在许多存储节点上同时读取/写入,从而避免单个中央服务器或单个网络连接瓶颈。

环境准备

使用五台服务器模拟搭建MFS文件系统
关闭防火墙及selinux systemctl stop firewalld setenforce 0
虚拟机规划如下

项目实施 搭建Master Server

安装软件
curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS

//添加键值

curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

//添加适当的库条目

yum install moosefs-master moosefs-cgi moosefs-cgiserv moosefs-cli -y
启动服务
systemctl start moosefs-master
systemctl enable moosefs-master
netstat -ntap | grep mfs

搭建MetalLogger Server

安装软件
curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS

//添加键值

curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

//添加适当的库条目

yum install moosefs-metalogger -y
修改配置文件
vim /etc/mfs/mfsmetalogger.cfg
MASTER_HOST = 172.16.10.21  

//地址指向主服务器

启动服务
systemctl start moosefs-metalogger
systemctl enable moosefs-metalogger
netstat -ntap | grep mfs

搭建Chunk Server

项目中的两台Chunk Server的搭建步骤是完全相同

安装软件

curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS

//添加键值

curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

//添加适当的库条目

yum install moosefs-chunkserver -y

修改配置文件

修改mfschunkserver.cfg

vim /etc/mfs/mfschunkserver.cfg
MASTER_HOST = 172.16.10.21

//在配置文件中修改,将地址指向主服务器

修改mfshdd.cfg

vim /etc/mfs/mfshdd.cfg
/chen  

//在末行添加共享目录

为共享目录授权

chown -R mfs:mfs /chen

启动服务

systemctl start moosefs-chunkserver
systemctl enable moosefs-chunkserver
netstat -ntap | grep mfs

安装Client

安装软件

curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS

//添加键值

curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

//添加适当的库条目

yum install moosefs-client -y

加载fuse模块到内核

modprobe fuse

挂载共享目录

mkdir /opt/mfs

//创建挂载点

mfsmount /opt/mfs/ -H 172.16.10.21

//挂载,地址为master地址

查看挂载

df -h

常用操作介绍

mfsgetgoal命令用来查询文件被复制的份数,利用-r命令可以对整个目录进行递归,goal是指文件被复制的份数。

mfsgetgoal -r /opt/mfs/

mfssetgoal命令同来设置文件被复制的份数,生产环境中Chunk节点数量应至少大于2,文件副本数量小于等于Chunk服务器数量。

mfssetgoal -r 2 /opt/mfs/

MFS监控

Mfscgiserv是一个用Python编写的web服务器,监听端口是9425,可以在Master Server启动监控,用户利用浏览器就可以全面监控所有客户挂载、Chunk Server、Master Server,以及客户端的各种操作等。

主服务器上开启监控

mfscgiserv

文章来源网络,作者:运维,如若转载,请注明出处:https://shuyeidc.com/wp/215973.html<

(0)
运维的头像运维
上一篇2025-04-12 12:17
下一篇 2025-04-12 12:19

相关推荐

  • SQL SERVER分区视图

    借助SQL SERVER分区视图,可以对SQL中的表进行集中管理,下文将以实例的方式为您详解SQL SERVER分区视图,希望对您学习SQL数据库能有所帮助。 SQL SERVER…

  • Mysql 复制设置的实际操作步骤

    以下的文章主要讲述的是Mysql 复制设置的实际操作步骤,如果你对Mysql 复制设置的实际操作步骤相关的实际操作有兴趣的话,你就可以对以下的文章点击观看了。以下就是相关内容的具体…

  • 教你怎样在Oracle数据库中高速导出/导入

    导读:迄今为止,导出/导入工具集仍是跨多个平台转移数据所需劳动强度最小的***实用工具,尽管人们常常抱怨它速度太慢。导入只是将每条记录从导出转储文件中读出来,然后使用常见的 INS…

  • MySQL数据库的异常处理

    MySQL数据库操作过程中难免会出现会出现一些异常情况,遇到这种情况是,下文中介绍的内容将会帮助到大家。 对于MySQL的异常处理: 标准格式 以下为引用的内容:  DECLARE…

  • SQL注入

    SQL 注入是一种攻击方式,在这种攻击方式中,恶意代码被插入到字符串中,然后将该字符串传递到 SQL Server 的实例以进行分析和执行。任何构成 SQL 语句的过程都应进行注入…

发表回复

您的邮箱地址不会被公开。必填项已用 * 标注