作者:zhouyu
链接:
http://www.cnblogs.com/zhouyu629/p/3734494.html
经历了两天不懈努力,终于规复了一次误操作删除的生产做事器数据。对本次事件过程和解决办法记录在此,警觉自己,也提示别人莫犯此错。也希望碰着问题的朋友能找到一丝灵感办理问题。
事件背景
安排一个妹子在一台生产做事器上安装Oracle,妹子边研究边安装,觉得装的不对,准备卸载重新安装。从网上找到卸载方法,个中要实行一行命令删除Oracle的安装目录,命令如下:
rm -rf $ORACLE_BASE/
如果ORACLE_BASE这个变量没有赋值,那命令就变成了:
rm -rf /
==||,妹子利用的可是root账户啊。就这样,把全体盘的文件全部删除了,包括运用Tomcat、MySQL数据库 and so on。。。。
(mysql数据库不是在运行吗?linux能删除正在实行的文件?反正是彻底删除了,末了还剩一个tomcat的log文件,估计是文件过大,一时没有删除成功)
看着妹子自责的眼神,又是由于这事是我安排她做的,也没有跟她讲清短长关系,没有任何培训,任务只能一个人背了,况且怎么能让美女背负这个任务呢?
打电话到机房,将盘挂到另一台做事器上,ssh上去查看文件全部被清,这台做事器运行的可是一个客户的生产系统啊,已经运行大半年了,得尽快规复啊。于是找来脱机备份的数据库,创造备份文件只有1kb,里面只有几行熟习的mysqldump注释(难道是crontab实行的备份脚本有问题),最靠近的备份也是2013年12月份的了,真是屋漏偏逢连夜雨啊。
想起来一位领导说过的案例:当一个生产系统挂掉往后,创造所有备份都有问题,刻录的光盘也有划痕,磁带机也坏了(一个业界前辈,估计以前还用光盘做备份了),没想到今天真的应验到我的身上了,怎么办??
部门领导知道情形后,已经做了最坏的B操持:领导亲自带队和产品AA周日赶到客户所在的地市,星期一去领导层沟通;BB和CC去客户管理员那边想办法说服客户。。。
救命稻草--ext3grep
赶紧到网上去查资料进行误删数据规复,还真找到一款ext3grep能够规复通过rm -rf删除的文件,我们磁盘也是ext3格式,且网上有不少的成功案例。于是燃起了一丝希望,赶紧对盘umount,防止重新写入补删文件扇区。下载ext3grep,安装(编译安装过程艰辛暂且不表)。
先实行扫描文件名命令:
ext3grep /dev/vgdata/LogVol00 --dump-names打印出了所有被删除文件及路径,心中狂喜,不用实行B操持了,文件都在呢。
这款软件不能按目录规复文件,只能实行规复全部命令:
ext3grep /dev/vgdata/LogVol00 --restore-all结果当前盘空间不敷,没办法只能规复文件,考试测验了几个文件,居然部分成功部分失落败。
ext3grep /dev/vgdata/LogVol00 --restore-file var/lib/mysql/aqsh/tb_b_attench.MYD心里不禁一凉,难道是删除磁盘上被写过文件了?规复机率不大了啊,能规复几个算几个吧,说不定主要数据文件刚好在能规复的MYD文件中。于是先将所有文件名重定向到一个文件中:
ext3grep /dev/vgdata/LogVol00 --dump-names >/usr/allnames.txt过滤出来所有mysql数据库的文件名存成mysqltbname.txt
编写脚本规复文件:
while read LINE
do
echo \"大众begin to restore file \"大众 $LINE
ext3grep /dev/vgdata/LogVol00 --restore-file $LINE
if [ $? != 0 ]
then
echo \公众restore failed, exit\"大众
# exit 1
fi
done < ./mysqltbname.txt
实行,大概运行了20分钟,规复了40多个文件,但不足啊,我们将近100张表,每张表frm,myd,myi三个文件,怎么说也有300多个旁边啊!
!
将找回来的文件附到现有数据库上,变动文件权限为777后,重启mysql,也算是找回一部分数据了,但客户主要的考勤签到数据、手机端上报数据(听说客户按这些数据做员工绩效的)还没找回来啊。咋办?中间又试了另一款工具extundelete,跟ext3grep语法基本同等,事理该当也一样了,但是听说能按目录规复,好吧试一试。
extundelete /dev/vgdata/LogVol00 --restore-directory var/lib/mysql/aqsh果真不出所料,规复不出来!
!
!
!
!
!
!
!
那些文件已被毁坏了。跟领导申报请示,实行B操持吧。。。无奈之下放工回家(周末了,回去安歇一下,想想办法吧)灵机一动:binlog
第二天清晨一早就醒了(心里有事啊),背上电脑,去公司(这个周末算是报销了,不挨批、通报、罚款、开除就不错了,还过什么周末啊)。
依旧运行ext3grep,extundelete,也就那几招啊,把系统架到测试做事器上,看看数据能不能想办法补一补吧。在测试做事器上进行mysqldump,规复文件,覆盖规复回来的文件,给文件加权限,重启mysql。
wait,wait,不是有binlog吗?我们做事都哀求开启binlog,说不定能通过binlog里规复数据呢?
于是从dump出来的文件名里找到binlog的文件,一共三个,mysql-binlog0001,mysql-bin.000009,mysql-bin.000010,规复一下0001
ext3grep /dev/vgdata/LogVol00 --restore-file var/lib/mysql/mysql-bin.000001居然失落败了。。。。。。
再看另两个文件,mysql-bin.000010大概几百MB,该当靠谱一点,实行还原命令,居然成功了!
!
!
!
!
!
!
!
!
!
!
!
!赶紧scp到测试做事器。实行binlog还原。
mysqlbinlog /usr/mysql-bin.000010 | mysql -uroot -p输入密码,卡住了(好征象),经由漫长的等待,终于结束了。打开运用,哦,感谢cctv、mtv,数据回来了!
!
!
!
!
!
!
!
!
!
!
!
!
!
!后记
经由这次事件,虽然数据很幸运能找回来了,但是过程却是触目惊心。也为自己的缺点所带来的后果,给同事和领导带来的连带任务而后怕。也希望服膺这次事件,往后不再犯同样的缺点。事件反思如下:
本次安排MM进行做事器掩护时没有提前对她进行解释短长情形,自己也未重视,管理混乱,流程混乱。一个在线的生产系统,任何一个改动一定要先谋而后动。
自动备份涌现问题,没有任何人检讨。脱机备份职员每次从做事器高下载1k的文件却从未重视。须要明确大家在事情岗位上的任务。
事件发生后,没有及时创造,造成部分数据写入磁盘,造成不可规复问题。须要编写运用监控程序,做事一旦有非常,短信告警干系任务人。
不能利用root用户来操作。该当在做事器上开设不同权限级别的用户。
通过本次事件,几位跟这个项目和事件没有任何关系的同事,主动前来帮忙,查资料,帮测试,有一位同事还帮忙到晚上1点多钟进行数据规复测试。同时产品经理在想到面向客户的巨大压力的情形下,没有慌乱而责怪开拓职员和详细操作人,而让大家能静下心来想办理方案。部门领导也积极主动地帮忙想办法,陪我们加班测试,实时跟踪事情进展。
通过大家的共同努力,事情终于相对圆满结束,接下来,周一上午进行集体反思,总结履历教训,这类事件一定尽最大努力进行避免。
/传送门/
本文所用到的工具链接:
1.ext3grep:https://code.google.com/p/ext3grep/
编译安装依赖包比较多,可以到网上搜索如何安装。可惜的是作者给出的howto被墙了,我FQ将how to 的pdf文档下载下来了,读完后你将会对linux的文件系统有进一步的认识。
这个工具有一个bug,出错后不会向下实行ext3grep: init_directories.cc:534: void init_directories: Assertion `lost_plus_found_directory_iter != all_directories.end' failed.,从而造成规复失落败,作者放出了一个补丁。不明白为什么作者新版没有把这个补丁加进去。
2.extundelete:http://extundelete.sourceforge.net/
功能跟ext3grep差不多,事理该当也差不多。只是号称可以还原目录,我这里没有试验成功。
来源:博客园(老周's 布落格)
链接:http://www.cnblogs.com/zhouyu629/p/3734494.html
作者先容:zhouyu,高等研发工程师,熟习JAVA、PHP等开拓措辞及ORACLE等主流数据库,闇练节制相应式软件开拓,跨平台APP开拓。熟习CMMI和SCRUM软件开拓模型,有多年外企开拓和管理履历。