「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!( 二 )


本文插图
测试 拷贝arrival_record表到测试实例上进行删除重新索引操作XX实例arrival_record表信息
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
磁盘占用空间48G , mysql中该表大小为31G , 存在17G左右的碎片 , 大多由于删除操作造成的(记录被删除了 , 空间没有回收)
备份还原该表到新的实例中 , 删除原来的复合索引 , 重新添加索引进行测试
mydumper并行压缩备份
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
并行压缩备份所花时间(52s)和占用空间(1.2G , 实际该表占用磁盘空间为48G , mydumper并行压缩备份压缩比相当高!)
Started dump at: 2019-03-26 12:46:04........Finished dump at: 2019-03-26 12:46:56du -sh/datas/dump_arrival_record/1.2G/datas/dump_arrival_record/ 拷贝dump数据到测试节点scp -rp /datas/dump_arrival_record root@10.230.124.19:/datas
多线程导入数据
time myloader -u root -S /datas/mysql/data/3308/mysqld.sock -P 3308 -p root -B test -d /datas/dump_arrival_record -t 32
real 126m42.885suser 1m4.543ssys 0m4.267s
逻辑导入该表后磁盘占用空间
du -h -d 1 /datas/mysql/data/3308/test/arrival_record.
12K /datas/mysql/data/3308/test/arrival_record.frm30G /datas/mysql/data/3308/test/arrival_record.ibd没有碎片 , 和mysql的该表的大小一致*
cp -rp /datas/mysql/data/3308 /datas
分别使用online DDL和 pt-osc工具来做删除重建索引操作先删除外键 , 不删除外键 , 无法删除复合索引 , 外键列属于复合索引中第一列
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
做DDL 参考
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
实施由于是一主一从实例 , 应用是连接的vip , 删除重建索引采用online ddl来做 。 停止主从复制后 , 先在从实例上做(不记录binlog) , 主从切换 , 再在新切换的从实例上做(不记录binlog)

「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
执行时间
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
再次查看delete 和select语句的执行计划
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
索引优化后
delete 还是花费了77s时间
delete from arrival_record where receive_time < STR_TO_DATE('2019-03-10', '%Y-%m-%d')\G
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
delete 语句通过receive_time的索引删除300多万的记录花费77s时间*
delete大表优化为小批量删除应用端已优化成每次删除10分钟的数据(每次执行时间1s左右) , xxx中没在出现SLA(主从延迟告警)
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
另一个方法是通过主键的顺序每次删除20000条记录
「MySQL」一开工,就遇到上亿(MySQL)大表的优化,我的天啊!
本文插图
总结