百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

数据库告警不可用,增删改受阻(数据库限制删除)

nanshan 2025-07-08 21:43 4 浏览 0 评论

前言:

昨晚,突然出现服务不可用告警,查看日志上线报文入库到数据库很慢并受阻,出现数据不同步问题。

排查问题

查看发现服务都是在执行update、insert这些DML命令的时候,报的数据库执行超时。经过一系列的分析发现由于服务器资源不足导致的。

问题由于数据库一直在服务,binlog日志记录的DML和DDL的操作都会被记录下来,日积月累,binlog日志竟然比mysql数据文件所占用的空间还多。binlog日志变大导致占用资源比较多出现资源不足问题。

下面我们说说mysql的三个日志文件。

undo log、redo log以及binlog

在MySQL数据库中,binlog、redolog和undolog都是日志类型文件,但它们各自的作用和实现方式有所不同。

binlog主要用来对数据库进行数据备份、崩溃恢复和数据复制等操作,redolog和undolog主要用于事务管理,记录的是数据修改操作和回滚操作。redolog用来做恢复,undolog用来做回滚。

在MySQL中,redolog和undolog只适用于InnoDB存储引擎,因为要支持事务。而不适用于MyISAM等其他存储引擎。而binlog则适用于所有存储引擎。

binlog是MySQL用于记录数据库中的所有DDL语句和DML

语句的一种二进制日志。它记录了所有对数据库结构和数据的修改操作,如INSERT、UPDATE和DELETE等。binlog主要用来对数据库进行数据备份、灾难恢复和数据复制等操作。binlog的格式分为基于语句的格式和基于行的格式。

例子:继续上面的转账操作例子,当事务成功提交后,MySQL会将这个转账操作(包括账户A的扣款和账户B的加款)记录到binlog中。如果数据库发生故障,管理员可以使用binlog来恢复数据;同时,在MySQL的主从复制环境中,从服务器会读取主服务器上的binlog来同步数据。

Redo Log是MySQL用于实现崩溃恢复和数据持久性的一种机制。在事务进行过程中MySQL会将事务做了什么改动到Redo Log中。当系统崩溃或者发生异常情况时,MySQL会利用Redo Log中的记录信息来进行恢复操作,将事务所做的修改持久化到磁盘中。

例子:还是以转账操作为例,当InnoDB存储引擎更新账户A和账户B的余额时,这些更新操作会先写入redo log中。即使数据库在更新过程中崩溃,只要redo log没有损坏,MySQL就可以在重启后通过重放redo log中的操作来恢复数据,确保数据的持久性。

Undo Log则用于在事务回滚或系统崩溃时撤销(回滚)事务所做的修改。当一个事务执行过程中,MySQL会将事务修改前的数据记录到Undo Log中。如果事务需要回滚,则会从Undo Log中找到相应的记录来撤销事务所做的修改。另外,ndoLog还支持MVCC(多版本并发控制)机制,用于在并发事务执行时提供一定的隔离性。

例子:假设有一个转账操作,从账户A转账100元到账户B。在事务提交前,MySQL会记录账户A和账户B在转账前的余额到undo log中。如果转账过程中发生错误或需要回滚,MySQL会根据undo log中的记录,将账户A和账户B的余额恢复到转账前的状态。

三个日志文件大小

在MySQL中,哪个日志文件会比较大,这个问题并没有一个绝对的答案,因为它取决于多种因素,包括数据库的负载、事务的频繁程度、配置参数的设置等。根据一般情况和其它参考文章中的信息,对这三个日志文件(undo_log、binlog、redo log)的大小进行一些分析和归纳。

binlog(二进制日志)

大小因素:binlog记录了数据库中所有的DDL和DML语句(除了SELECT和SHOW),因此它的大小可能会随着数据库活动的增加而迅速增长。特别是当数据库中存在大量数据更新操作时,binlog会迅速变大。

  • 配置参数max_binlog_size参数可以控制单个binlog文件的大小,当文件达到这个大小时,会自动切换到下一个文件。但是,这并不意味着binlog的总体大小会受到限制,因为随着数据库活动的持续进行,会不断产生新的binlog文件。
  • 过期时间binlog_expire_logs_seconds参数可以设置binlog文件的过期时间,超过这个时间的binlog文件会被自动删除,但这需要管理员手动执行清理操作或配置相应的自动清理机制。

redo log(重做日志)

大小因素:redo log的大小通常是由配置参数innodb_log_file_size决定的,每个redo log文件的大小是固定的。但是,MySQL允许配置多个redo log文件组成一个redo log组(innodb_log_files_in_group参数),以支持更大的日志空间。

  • 循环使用:当redo log文件被写满后,MySQL会开始覆盖最旧的日志记录,以实现日志的循环使用。这意味着redo log的大小虽然受到配置参数的限制,但在实际使用中,其占用的磁盘空间并不会持续增加。

undo_log(回滚日志)

大小因素:undo_log的大小主要取决于事务的频繁程度和每个事务中修改的数据量。如果事务非常频繁,且每个事务修改的数据量很大,那么undo_log可能会占用较多的空间。

  • 空间回收:MySQL会定期通过purge线程来清理不再需要的undo日志,以释放空间。因此,undo_log的大小并不会无限制地增长。

总结

线上问题是由于binlog日志太大了,没有通过参数配置binlog的日志大小和过期时间,导致服务器磁盘硬件资源不足,导致服务不可用,数据库操作受阻。

相关推荐

删库之后不要着急跑路,教你神不知鬼不觉找回数据

在工作中,我们误删数据或者数据库,我们一定需要跑路吗?我看未必,程序员一定要学会自救,神不知鬼不觉的将数据找回。在mysql数据库中,我们知道binlog日志记录了我们对数据库的所有操作,所以...

数据库告警不可用,增删改受阻(数据库限制删除)

前言:昨晚,突然出现服务不可用告警,查看日志上线报文入库到数据库很慢并受阻,出现数据不同步问题。排查问题查看发现服务都是在执行update、insert这些DML命令的时候,报的数据库执行超时。经过一...

Binlog实现MySQL复制,5个关键步骤,务必掌握!

复制是MySQL最重要的功能之一,MySQL集群的高可用、负载均衡和读写分离都是基于复制来实现的。Binlog就是实现主从复制的关键,主数据库将修改操作记录到Binlog中,从数据库通过解...

MySQL数据实时增量同步到Elasticsearch

Mysql到Elasticsearch的数据同步,一般用ETL来实现,但性能并不理想,目前大部分的ETL是定时查询Mysql数据库有没有新增数据或者修改数据,如果数据量小影响不大,但如果几百万上千万的...

MySQL 数据库恢复:如何执行时间点恢复(PITR)以挽救受损数据?

天津鸿萌科贸发展有限公司从事数据安全服务二十余年,致力于为各领域客户提供专业的数据恢复、数据备份、数据取证、数据迁移、网络安全、数据清除等解决方案,并针对企业面临的数据安全风险,提供专业的相关数据安全...

阿里面试:MySQL Binlog有哪些格式?底层原理?优缺点?

binlog的格式也有三种:STATEMENT、ROW、MIXED,下面我详解binlog三种模式@mikechenStatement模式Statement模式:是基于SQL语句的复制(statem...

快速带你读懂MySQL的binlog写入机制

深入讲解MySQL中的重要日志binlog的写入机制以及影响IO性能的关键配置,并且介绍了如何利用binlog去恢复数据,保证MySQL的可靠性。Q:binlog写入时机binlog的写入逻辑并...

MySQL 误删除数据恢复全攻略:基于 Binlog 的实战指南

在MySQL的世界里,二进制日志(Binlog)就是我们的"时光机"。它默默记录着数据库的每一个重要变更,就像一位忠实的史官,为我们在数据灾难中提供最后的救命稻草。本文将带您深入掌握如...

一文了解MySQL Binlog(一文了解肝脏有益和有害的食物)

MySQL的Binlog日志是一种二进制格式的日志,Binlog记录所有的DDL和DML语句(除了数据查询语句SELECT、SHOW等),以Event的形式记录,同时记录语句执行时...

数据丢失?别慌!MySQL备份恢复攻略

想象一下,某个晴朗的午后,你正享受着咖啡,突然接到紧急电话:你的网站或APP彻底挂了!系统崩溃,界面全白。虽然心头一紧,但你或许还能安慰自己:系统崩溃只是暂停服务,数据还在,修复修复就好了。然而,如果...

Mysql中的bin log、redo log、undo log的区别

最近在整理面试题,在看mvcc的时候看到了undolog,今天索性把这三个log都记录一遍。MySQL的逻辑架构说之前先说一下MySQL的基本架构,MySQL主要分为两层:Server层和存储引...

binlog日志定时清理(binlog清理规则)

binlog日志binlog是MySQL数据库的一种日志文件,用于记录所有对数据的修改操作。binlog全称为binarylog,它以二进制格式记录MySQL服务器上所有的修改操作,包括对哪个数据库...

茶水间炸锅了!菜鸟误删用户表,运维老张的MySQL救命三招!

(公司茶水间,运维老张、开发小王和新人小李围着咖啡机)小李:(紧张兮兮)张哥!我...我好像把测试库的用户表删了!下午演示咋办啊?老张:(淡定喝咖啡)慌啥?昨晚的备份是吃干饭的?走,教你恢复!一、基础...

解决运维痛点,提高运维安全性-雷池 SafeLine WAF新功能身份认证

雷池介绍使用雷池SafeLineWAF已经两年多了,在1.5.x版本时就已经开始测试使用,并在推出LTS版本后转入LTS分支。近期雷池SafeLineWAF重点更新了身份认证功能,并提供了SS...

【Docker 新手入门指南】第十五章:常见故障排除

一、前期准备:收集关键信息在排查问题前,建议先获取以下系统数据,便于精准定位故障:1.系统基础信息#查看Docker版本(确认是否为最新稳定版)dockerversion#查看...

取消回复欢迎 发表评论: