百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Python异步 操作MySQL 连接池,打破数据库瓶颈!提升性能

nanshan 2024-12-30 05:59 25 浏览 0 评论

引言:

AsyncMysql 类实现的功能是通过异步方式连接、查询、操作 MySQL 数据库,利用 aiomysql 库提供的异步支持来提升数据库操作的效率,尤其适用于需要高并发访问数据库的场景。

准备(mysql数据库信息):

D盘或者其他路径 创建一个文件Database.yaml内容如下:

host: 127.0.0.1
port: 3306
user: sa
password: 密码1
database: mysql

封装代码如下:

import asyncio  # 导入 asyncio 库,用于异步编程
import aiomysql  # 导入 aiomysql 库,用于异步 MySQL 操作
from Public_Config.PublicConfig import ConfigYaml  # 导入配置文件模块,获取 MySQL 配置信息

class AsyncMysql:

    def __init__(self):
        # 获取 MySQL 配置信息
        mysql = self.load_config(r'D:\Database.yaml')  # 从配置文件中读取 MySQL 配置
        self.host = mysql.get('host')  # 主机地址
        self.port = int(mysql.get('port'))  # 端口,转为整数
        self.user = mysql.get('user')  # 用户名
        self.password = mysql.get('password')  # 密码
        self.database = mysql('database')  # 数据库名
        self.pool = None  # 初始化连接池为 None,稍后创建连接池
       
    def load_config(self, config_file):   #todo 加载配置文件的方法
        with open(config_file, 'r') as file:  #todo 以只读模式打开配置文件
            return yaml.safe_load(file)  #todo 使用 yaml.safe_load 解析 YAML 文件内容

    async def create_pool(self):
        """ 创建 MySQL 连接池 """
        try:
            # 创建 MySQL 连接池,设置最小连接数 minsize 和最大连接数 maxsize
            self.pool = await aiomysql.create_pool(
                host=self.host,  # 主机
                port=self.port,  # 端口
                user=self.user,  # 用户名
                password=self.password,  # 密码
                db=self.database,  # 数据库名
                autocommit=True,  # 自动提交事务
                minsize=2,  # 设置最小连接数
                maxsize=10  # 设置最大连接数
            )
        except Exception as e:
            # 如果创建连接池失败,捕获异常并输出错误信息
            print(f"Failed to create MySQL connection pool: {str(e)}")

    async def execute_query(self, query):
        """ 执行增删改操作 """
        try:
            # 从连接池中获取一个连接对象
            async with self.pool.acquire() as conn:
                # 使用连接对象创建游标,用于执行 SQL 查询
                async with conn.cursor() as cursor:
                    await cursor.execute(query)  # 执行 SQL 查询
                    return True  # 返回执行成功标志
        except Exception as e:
            # 如果执行 SQL 失败,捕获异常并输出错误信息
            print(f"Failed to execute query: {query}")
            print(f"Error: {str(e)}")
            return False  # 执行失败时返回 False

    async def execute_select(self, query):
        """ 执行查询操作 """
        try:
            # 从连接池中获取一个连接对象
            async with self.pool.acquire() as conn:
                # 使用连接对象创建游标,用于执行 SQL 查询
                async with conn.cursor() as cursor:
                    await cursor.execute(query)  # 执行 SQL 查询
                    results = await cursor.fetchall()  # 获取所有查询结果
                    return results  # 返回查询结果
        except Exception as e:
            # 如果执行查询失败,捕获异常并输出错误信息
            print(f"Failed to execute select query: {query}")
            print(f"Error: {str(e)}")
            return None  # 执行失败时返回 None

    async def close_pool(self):
        """ 关闭 MySQL 连接池 """
        if self.pool:
            self.pool.close()  # 关闭连接池
            await self.pool.wait_closed()  # 等待连接池完全关闭
            print("MySQL connection pool closed.")  # 输出连接池已关闭的信息

# 测试异步操作
async def main():
    mysql = AsyncMysql()  # 创建 AsyncMysql 实例
    await mysql.create_pool()  # 异步创建连接池

    # 定义 SQL 查询语句
    query1 = "SELECT * FROM USERLOGINLOG LIMIT 5"  # 查询 USERLOGINLOG 表的前 5 条记录
    query2 = "SELECT COUNT(*) FROM USERLOGINLOG"  # 查询 USERLOGINLOG 表的记录总数
    
    # 使用 asyncio.gather 同时执行多个查询操作
    results = await asyncio.gather(
        mysql.execute_select(query1),  # 执行第一个查询
        mysql.execute_select(query2)   # 执行第二个查询
    )

    # 打印查询结果
    print("Query 1 results:", results[0])  # 输出第一个查询的结果
    print("Query 2 results:", results[1])  # 输出第二个查询的结果

    # 关闭连接池
    await mysql.close_pool()  # 异步关闭连接池

# 运行异步任务
if __name__ == '__main__':
    asyncio.run(main())  # 启动并运行 main 异步任务

功能总结

该AsyncMysql 类主要用于处理 MySQL 数据库的连接池管理和异步数据库操作,具有以下特点:

  1. 连接池管理:通过异步创建和关闭数据库连接池,提高连接的复用性和操作效率。
  2. 异步操作:使用 aiomysql 和 asyncio 实现非阻塞的数据库操作,可以同时执行多个查询或操作,不会阻塞主程序,适用于高并发环境。
  3. 增删改查操作支持:支持执行数据库的增删改查操作,且能处理 SQL 查询结果。
  4. 自动提交事务:每次执行 SQL 操作时,自动提交事务,避免需要手动调用 commit()。

应用场景

这个类适用于以下几种情况:

  • 高并发场景:比如需要频繁访问数据库的 Web 应用或服务,异步操作可以有效提高数据库操作的并发性,提升性能。
  • 大规模数据查询和操作:尤其是在需要大量数据库查询或更新操作的场景,使用连接池可以减少连接的建立和销毁开销,提升整体效率。
  • 异步 Web 框架的数据库访问:比如在使用 FastAPI、Sanic 等异步框架时,通过 aiomysql 可以方便地执行数据库操作,保持程序的高效运行。

相关推荐

雷军1994年写的老代码曝光,被称像诗一样优雅

大数据文摘授权转载自程序员的那些事雷军的代码像诗一样优雅↓↓↓有些网友在评论中质疑,说雷军代码不会是“屎”一样优雅吧。说这话的网友,也许是开玩笑的,也许是真没看过雷军写过的代码。在2011年的时候,我...

原创经验分享:低级bug耗费12小时Fix

调试某程序非常简单的程序,简单到认为不可能存在缺陷,但该BUG处理时间超过12小时:程序属于后台进程,监控系统每隔15秒检查外设IO状态,IO异常后发出报警或复位外设,外设都在linux下有/sys/...

SpringBoot实现的简单停车位管理系统附带导入和演示教程视频

这一次为大家带来的是简单的停车位管理系统,基于SpringBoot+Thymeleaf+Mybatis框架,这个系统相对来说比较简单,很容易学习并快速上手,因为逻辑很清晰,没有太复杂的代码逻辑,所以学...

一个开箱即用的代码生成器(代码自动生成工具开源)

今天给大家推荐一个好用的代码生成器,名为renren-generator,该项目附带前端页面,可以很方便的选择我们所需要生成代码的表。首先我们通过git工具克隆下来代码(地址见文末),导入idea。...

【免费开源】JeecgBoot单点登录源码全部开源了

JeecgBoot单点登录源码全部开源了,有需要的朋友可以来薅羊毛了。一、JeecgBoot介绍JeecgBoot是一款企业级的低代码平台!前后端分离架构SpringBoot2.x,SpringCl...

SpringBoot+JWT+Shiro+Mybatis实现Restful快速开发后端脚手架

作者:lywJee来源:cnblogs.com/lywJ/p/11252064.html一、背景前后端分离已经成为互联网项目开发标准,它会为以后的大型分布式架构打下基础。SpringBoot使编码配置...

为什么越来越多的人选择使用idea软件

IDEA软件是什么?IDEA软件是干什么的?为什么越来越多的人选择使用IDEA软件?IDEA软件,全称IntelliJIDEA,它是由JetBrains公司开发开发的一款功能强大的集成开发环境(ID...

开题报告大学生互助系统(附源码)java毕设

本系统(程序+源码)带文档lw万字以上文末可获取一份本项目的java源码和数据库参考。系统程序文件列表开题报告内容选题背景随着互联网技术的飞速发展,大学生群体对信息共享与互助的需求日益增长。关于大...

SpringBoot项目快速开发框架JeecgBoot——项目简介及系统架构!

项目简介及系统架构JeecgBoot是一款基于SpringBoot的开发平台,它采用前后端分离架构,集成的框架有SpringBoot2.x、SpringCloud、AntDesignof...

新手配电脑13代CPU怎么选择(新手配电脑13代cpu怎么选择好)

Intel第13代酷睿i3、i5、i7、i9系列处理器的核心参数、性能差异及适用群体的详细说明(以桌面端为例):一、13代酷睿全系参数对比(桌面端主流型号)参数i3-13100i5-13600Ki7-...

加速 SpringBoot 应用开发,官方热部署神器真带劲

平时使用SpringBoot开发应用时,修改代码后需要重新启动才能生效。如果你的应用足够大的话,启动可能需要好几分钟。有没有什么办法可以加速启动过程,让我们开发应用代码更高效呢?今天给大家推荐一款Sp...

基于微信小程序的移动端物流系统-计算机毕业设计源码+LW文档

摘要随着Internet的发展,人们的日常生活已经离不开网络。未来人们的生活与工作将变得越来越数字化,网络化和电子化。网上管理,它将是直接管理移动端物流系统app的最新形式。本论文是以构建移动端物流系...

springboot教务管理系统+微信小程序云开发附带源码

今天给大家分享的程序是基于springboot的管理,前端是小程序,系统非常的nice,不管是学习还是毕设都非常的靠谱。本系统主要分为pc端后台管理和微信小程序端,pc端有三个角色:管理员、学生、教师...

SpringBoot全家桶:23篇博客加23个可运行项目让你对它了如指掌

SpringBoot现在已经成为Java开发领域的一颗璀璨明珠,它本身是包容万象的,可以跟各种技术集成。本项目对目前Web开发中常用的各个技术,通过和SpringBoot的集成,并且对各种技术通...

Maven+JSP+Servlet+C3P0+Mysql实现的音乐库管理系统

本系统基于Maven+JSP+Servlet+C3P0+Mysql实现的音乐库管理系统。简单实现了充值、购买歌曲、poi数据导入导出、歌曲上传下载、歌曲播放、用户注册登录注销等功能。难度等级:简单技术...

取消回复欢迎 发表评论: