谁偷了我的云主机文件？！五大场景避坑指南

作者：平安云运营团队 2020-05-19 10:49:56

新闻

云计算 在云主机的日常运维工作中，我们的工程师经常会遇到用户上报的文件丢失类问题，原因多种多样，这些问题对用户造成了或大或小的困扰。现将其中较典型的场景梳理出来，希望能够帮助大家规避掉这些风险，防止重复踩坑。

 [[326625]]

在云主机的日常运维工作中，我们的工程师经常会遇到用户上报的文件丢失类问题，原因多种多样，这些问题对用户造成了或大或小的困扰。现将其中较典型的场景梳理出来，希望能够帮助大家规避掉这些风险，防止重复踩坑。

场景一：云主机重启后文件丢失

现象：

用户上报：我的云主机重启后，上面存放的数据怎么没了，是不是云主机有问题啊？！

分析：

与用户沟通后确认，是用户存储在/dev目录下面的文件不见了。很明显，用户数据存储在文件系统类型为tmpfs的/dev目录，tmpfs文件系统默认存储在内存中而非持久化的磁盘，所以重启主机后数据丢失。

解析：

1、何为tmpfs？

tmpfs是一种基于内存的临时文件系统，数据存储在ram中，性能非常好。

2、Linux系统有哪些tmpfs？

/dev、/dev/shm、/sys/fs/cgroup、/run/user/0等，tmpfs文件系统默认为内存总大小的一半。通过df 命令可以看到哪些卷是tmpfs文件系统(Filesystem列显示为tmpfs)：

建议：

1、tmpfs只用于程序/应用的缓存；

2、不建议将数据放在tmpfs中(除非可承受数据丢失的风险)。

场景二：误执行rm命令

现象：

用户上报：云主机重启后ping不通，或者系统一些服务启动不了，系统关键文件丢失等等。

分析：

1、通过虚拟化的控制台看到，OS卡在开机界面并且报大量的命令不存在；

2、挂载镜像进入系统后，通过less /root/.bash_history查看用户的操作记录，可能看到rm -rf / 、rm -rf 、rm -rf . /*(点号与斜杠之间有空格)、rm -rf ./ 等之类的命令，导致大量的系统目录及文件被删除掉；

3、执行rpm -Va |grep miss 命令校验丢失的系统文件(对于不是通过rpm包安装的文件无法校验)。

建议：

1、慎重使用rm命令，尤其时带上-r 及-f 参数时; 可以加上-i参数进行删除确认；

2、出现误操作时，要第一次时间停掉磁盘的写入，再想办法恢复，避免被删除文件的磁盘空间被覆盖；

3、对于删除的系统文件，可以从其他正常的系统通过拷贝的方式还原；

4、对于一些系统文件或配置文件，还可以通过yum reinstall 包名/yum update 包名 命令重新安装/升级安装来还原。

场景三：文件系统损坏（FIO）

现象：

用户上报：在云主机上运行的 MySQL数据库异常。

分析：

1、通过监控看到云主机的IOWAIT比较高，怀疑和IO限制有关：

2、放开云主机磁盘限制后，仍然出现异常；MySQL服务不断的在crash，并且备机与主机的现象一样，打印如下日志：

3、DBA定位，反馈 MySQL的数据文件有问题。

4、在备机上发现，mysql 数据文件所在卷的文件系统有异常并且异常比较严重，在该卷上创建创建文件也会失败：

5、通过history命令分析root用户操作记录，发现用户使用fio命令对/dev/vdb磁盘(/data卷所在的磁盘)直接进行压测，压测有随机写、顺序写，而不是写/data目录：

6、MySQL主节点也有执行相同的 fio 操作，由于fio是绕过文件系统层直接对块设备进行操作，磁盘的真实数据已经被覆盖，导致文件已经严重破坏，MySQL数据库无法解析错误的数据文件，从而crash。

7、2台MySQL主机的/data卷数据已经不可靠，需要重新格式化/data卷，并通过备份节点进行恢复数据。

建议：

1、生产环境要慎用 fio 工具，应该在上线前进行压测；

2、使用 fio 命令时，—filename 参数一定不要直接指定块设备(如/dev/sda、/dev/vdb等)，而要指定一个普通文件，可以先touch一个空文件，再指定这个文件名。

测试完成后，再删除该文件即可，不然会占用 -size 参数所指定的空间。

场景四：文件系统损坏(DD)

现象：

用户上报：云主机文件访问异常。

分析：

1、云主机数据卷上的文件无访问，并且ls也异常，报【Structure needs cleaning】错误：

2、通过dmesg及 /var/log/messages日志文件看到有大量xfs文件系统的报错：

3、通过history命令分析root用户操作记录，发现root用户有使用dd 命令对 /dev/vdb 磁盘(/data卷所在的磁盘)直接进行压测，对/dev/vdb磁盘写零：

建议：

1、生产环境要慎用 dd 工具，应该在上线前进行压测；

2、使用 dd 命令时 of 参数一定不要直接指定块设备(如/dev/sda、/dev/vdb等)要指定一个普通文件。

如下：

场景五：数据盘被误删除

现象：

用户上报：云磁盘被误删除。

分析：

1、登录云门户查看云磁盘的删除时间，由于云资源是延迟一段时间再删除的，短时间内还可以找回被删除的资源：

2、在虚拟化控制台，确认磁盘是否已经删除（State状态要为Ready）：

3、如果尚未删除，可以将云磁盘重新attach到主机；

4、在云门户同步云磁盘信息。

建议：

1、云磁盘的删除操作请谨慎，误删后数据真得无法恢复；

2、删除操作前先确认：

A. 在主机上通过lsof -n、df  -h、lvs/pvs/vgs、lsblk等工具确认磁盘是否在使用、是否用于扩容的卷；

B. 对于非用于扩容的卷，确认后，先umount卷、并且清除/etc/fstab中挂载点的信息；

C. 用于扩容的卷无法直接删除，删除会导致原卷出现异常；

3、出现误操作时，要第一时间联系恢复，否则磁盘会被物理清理。