一次心惊肉跳的服务器误删文件的恢复过程

经历了两天不懈努力,终于恢复了一次误操作删除的生产服务器数据。对本次事故过程和解决办法记录在此,警醒自己,也提示别人莫犯此错。也希望遇到问题的朋友能找到一丝灵感解决问题。

事故背景

安排一个妹子在一台生产服务器上安装Oracle,妹子边研究边安装,感觉装的不对,准备卸载重新安装。从网上找到卸载方法,其中要执行一行命令删除Oracle的安装目录,命令如下:

如果ORACLE_BASE这个变量没有赋值,那命令就变成了

==||,妹子使用的可是root账户啊。就这样,把整个盘的文件全部删除了,包括应用Tomcat、MySQL数据库 and so on……

(mysql数据库不是在运行吗?linux 能删除正在执行的文件?反正是彻底删除了,最后还剩一个tomcat的log文件,估计是文件过大,一时没有删除成功)

看着妹子自责的眼神,又是因为这事是我安排她做的,也没有跟她讲清厉害关系,没有任何培训,责任只能一个人背了,况且怎么能让美女背负这个责任呢?

打电话到机房,将盘挂到另一台服务器上,ssh上去查看文件全部被清,这台服务器运行的可是一个客户的生产系统啊,已经运行大半年了,得尽快恢复啊。于是找来脱机备份的数据库,发现备份文件只有1kb,里面只有几行熟悉的mysqldump注释(难道是crontab执行的备份脚本有问题),最接尽的备份也是2013年12月份的了,真是屋漏偏逢连夜雨啊。

想起来一位领导说过的案例:当一个生产系统挂掉以后,发现所有备份都有问题,刻录的光盘也有划痕,磁带机也坏了(一个业界前辈,估计以前还用光盘做备份了),没想到今天真的应验到我的身上了,怎么办??

部门领导知道情况后,已经做了最坏的B计划:领导亲自带队和产品AA周日赶到客户所在的地市,星期一去领导层沟通;BB和CC去客户管理员那边想办法说服客户……

救命稻草–ext3grep

赶快到网上去查资料进行误删数据恢复,还真找到一款ext3grep能够恢复通过 rm -rf 删除的文件,我们磁盘也是ext3格式,且网上有不少的成功案例。于是燃起了一丝希望,赶快对盘umount,防止重新写入补删文件扇区。下载ext3grep,安装(编译安装过程艰辛暂且不表)。

先执行扫描文件名命令:

打印出了所有被删除文件及路径,心中狂喜,不用执行B计划了,文件都在呢。

这款软件不能按目录恢复文件,只能执行恢复全部命令:

结果当前盘空间不足,没办法只能恢复文件,尝试了几个文件,居然部分成功部分失败

心里不禁一凉,难道是删除磁盘上被写过文件了?恢复机率不大了啊,能恢复几个算几个吧,说不定重要数据文件刚好在能恢复的MYD文件中。于是先将所有文件名重定向到一个文件文件中

过滤出来所有mysql数据库的文件名存成,mysqltbname.txt

编写脚本恢复文件:

执行,大概运行了20分钟,恢复了40多个文件,但不够啊,我们将近100张表,每张表frm,myd,myi三个文件,怎么说也有300多个左右啊!!将找回来的文件附到现有数据库上,更要文件权限为777后,重启mysql,也算是找回一部分数据了,但客户重要的考勤签到数据、手机端上报数据(据说客户按这些数据做员工绩效的)还没找回来啊。

咋 办?中间又试了另一款工具extundelete,跟ext3grep语法基本一致,原理应该也一样了,但是据说能按目录恢复,好吧试一试。

果然不出所料,恢复不出来!!!!!!!!那些文件已被破坏了。跟领导汇报,执行B计划吧。。。无奈之下下班回家(周末了,回去休息一下,想想办法吧)

灵机一动:binlog

第二天早晨一早就醒了(心里有事啊),背上电脑,去公司(这个周末算是报销了,不挨批,通报,罚款,开除就不错了,还过什么周末啊)。

依旧运行ext3grep,extundelete,也就那几招啊,把系统架到测试服务器上,看看数据能不能想办法补一补吧。在测试服务器上进行mysqldump,恢复文件,覆盖恢复回来的文件,给文件加权限,重启mysql。

wait,wait,不是有binlog吗?我们服务都要求开启binlog,说不定能通过binlog里恢复数据呢?

于是从dump出来的文件名里找到binlog的文件,一共三个,mysql-binlog0001,mysql-bin.000009,mysql-bin.000010,恢复一下0001

居然失败了。。。。。。

再看另两个文件,mysql-bin.000010大概几百MB,应该靠谱一点,执行还原命令,居然成功了!!!!!!!!!!!!!

赶快scp到测试服务器。执行binlog还原。

输入密码,卡住了(好现象),经过漫长的等待,终于结束了。打开应用,哦,感谢cctv,mtv,数据回来了!!!

后记

经过此次事故,虽然数据很幸运能找回来了,但是过程却是惊心动迫。也为自己的错误所带来的后果,给同事和领导带来的连带责任而后怕。也希望谨记此次事故,以后不再犯同样的错误。事故反思如下:

1.本次安排MM进行服务器维护时没有提前对她进行说明厉害情况,自己也未重视,管理混乱,流程混乱。一个在线的生产系统,任何一个改动一定要先谋而后动。

2.自动备份出现问题,没有任何人检查。脱机备份人员每次从服务器上下载1k的文件却从未重视。需要明确大家在工作岗位上的责任。

3.事故发生后,没有及时发现,造成部分数据写入磁盘,造成不可恢复问题。需要编写应用监控程序,服务一旦有异常,短信告警相关责任人。

根据评论提醒,再加一条:

4.不能使用root用户来操作。应该在服务器上开设不同权限级别的用户。

通过本次事故,几位跟这个项目和事故没有任何关系的同事,主动前来帮忙,查资料,帮测试,有一位同事还帮忙到晚上1点多钟进行数据恢复测试。同时产品经理在想到面向客户的巨大压力的情况下,没有慌乱而责怪开发人员和具体操作人,而让大家能静下心来想解决方案。部门领导也积极主动的帮忙想办法,陪我们加班测试,实时跟踪事情进程。

通过大家的共同努力,终于事情相对圆满结束,接下来,周一上午进行集体反思,总结经验教训,这类事故一定尽量大努力进行避免。

/**************************************传送门************************************************/

本文所用到的工具链接:

1.ext3grep:https://code.google.com/p/ext3grep/

编译安装依赖包比较多,可以到网上搜索如何安装。可惜的是作者给出的howto被墙了,我FQ将how to 的pdf文档下载下来了,读完后你将会对linux的文件系统有进一步的认识。下载howto

这个工具有一个bug,出错后不会向下执行ext3grep: init_directories.cc:534: void init_directories(): Assertion `lost_plus_found_directory_iter != all_directories.end()’ failed.,从而造成恢复失败,作者放出了一个补丁,下载地址:补丁下载。不明白为什么作者新版没有把这个补丁加进去。

2.extundelete:http://extundelete.sourceforge.net/

功能跟ext3grep差不多,原理应该也差不多。只是号称可以还原目录,我这里没有试验成功。


【伯小乐补充网友评论】:

这篇文章在「数据库开发」(微信号:DBDevs)和「Linux爱好者」(微信号:LinuxHub)推送后,评论非常激烈。下面摘录一些:

Alex Zheng:
反思还是没有抓住关键问题!这种练手就应该在pc上装一个虚拟机随便折腾,用production server练手以后还得出事!另外ORACLE的安装绝不容易也绝不是用root来安装的,一般都是新建一个oracle用户,组群为dba和oinstall,oracle目录结构要满足OFA标准,设置好环境变量后,run OUI, NETCA , DBCA,其中character set和block size要格外小心设置,所以,新手在linux上装oracle,没人指导没有看书,那几乎百分百会出问题!

fairychild:
我体验过卸载iptables忘加nodeps

宣:
不是删除正在执行的文件,而是加了flag同时记数减一,等到所有对这个文件的ref为0才真正干掉

巨额:
还边研究边安装 用生产环境 用root

闫军辉:
夸大了单个binlog文件的作用 单纯的恢复一个binlog日志文件就可以恢复整库数据? 或许只有一个解释说得通 该业务写入量极少 从上线到故障只产生了一个binlog

张学彪:
很奇怪,既然是这么重要的生产环境,竟然还能让新人来练手,竟然还是root

安民:
客户的生产系统,厂家工程师居然有root密码,也是醉了

振豪:
两个月前某省部门也发生过类似事情,一个某厂商新手把某服务器的内容都删除了,还涉及不同厂商的业务系统的数据,当时我没法理解为什么会删掉其它业务系统数据,现在明白了

二十四桥明月夜:
在生产环境试安装oracle,你们就没有个测试环境么,可见你们公司多么不规范,领导有多傻

yi🌸👻:
能写出来警示他人,点赞,这个还是严格规范起来吧,做得专业牛逼对得起团队成员的不指责

视线相接:
误删过,那一瞬间心凉的感觉,感同身受

辉哥:
rm -rf /删过一次,还好是测试机,直接重装了,这命令每次用的吓人

半亩荷塘:
一直要求 rm 文件名 确认 yes

盎力:
生产服务器还敢一边查资料,一边摸索着弄。真是太大意了,建议安装内网虚拟服务器,这样保证生产安全!mo-呲牙 不过做一次经验教训,也学到了不少东西~还有你们领导和团队真的很棒mo-强mo-强mo-OK

蓝鹰:
我想说:rf -rm的正确使用方法是“rf 文件名 -rm”,在确认需要删除的文件后输入-rm,然后敲回车,就会避免误删除,这个方法值得推广!

马强:
所以 删除时候路径从来不用变量… 还有。脚本CD到目录 然后删除…也要注意,一定要判断是否进入目录。

东虫夏草:
上次在生产和测试数据库之间切换 误以为在测试环境 删除表数据直接用了truncate命令 直接把生产oracle中几张清算表清空了 里面记录着商户账户资金数据 当时脑子真是一片空白 后面幸亏运维同事从oracle文件中恢复过来 从那次后 删数据都是看好几遍 不敢大意

Leno:
只说一句,直接让一个不熟悉的人在生产上做操作,不专业,作死!

小安静:
我昨天线上测试,主要看日志记录的内容,关键操作部分要进行注释,结果我少注释了一行代码,就导致线上数据库一天多了一千多条废数据,心情真的是想哭到爆,虽然昨天真的也哭了。。。警告,所有程序员在进行开发的时候,不要思考任何以前的感情相关!!!

离宗:
你让新手去弄生产服务器,无监管,还给root权限,就是作死。这是最大的问题

雷:
有一次,把服务器的配置文件对比成了测试的,当时正式的配置还没有版本控制,结果,当时就一身冷汗,吓死宝宝了

Orclcast:
两件事:生产环境怎么能随便root权限给别人呢!还有每次备份都需要监控的,最近的备份数据居然是3年之前的,真不造你这sa怎么做的!

4 21 收藏 7 评论

相关文章

可能感兴趣的话题



直接登录
最新评论
  • pepysh   2016/08/19

    linux下运行的数据库文件如果删除了,通过dbwr判断句柄,然后恢复,这个算是对上面文档一个小补充吧.

  • 小蚂蚁10010 Java 2016/08/19

    收藏了,希望我以后用不到!另外感谢楼主po出经历

  • springsummer 软件工程师 2016/08/19

    删除之前先用ls把要删除的文件列出来再做决定吧,不然真删除的不明不白

  • 我执行hive 命令insert overwrite的时候没指定目录,直接把文件覆盖掉了,找都找不回来,那心情忐忑啊。。。

  • 全全 学生一枚 2016/08/21

    楼主哪家公司,同事间关系如此和谐。

  • apang1992   2016/08/22

    我曾经在客户的一台ubuntu服务器上,安装了yum,并且刷新了yum资源(因为事先我习惯了用CentOS,忘记了客户的服务器是ubuntu)。然后包括glibc.so等底层库在内的文件的版本都变了,ssh等已经无法登陆。然后GG。我那时候是一年的小菜鸟。还好这个服务器的作用不是很大。现在想起来都后怕。

  • it男那点事 php 2016/09/06

    太牛了,居然还能恢复

跳到底部
返回顶部