python数据库连接池工具类_Python数据库连接池DBUtils
DBUtils簡介
DBUtils是Python的一個用于實現數據庫連接池的模塊。
此連接池有兩種連接模式:
模式一:為每個線程創建一個連接,線程即使調用了close方法,也不會關閉,只是把連接重新放到連接池,供自己線程再次使用。當線程終止時,連接自動關閉。
POOL =PersistentDB(
creator=pymysql, #使用鏈接數據庫的模塊
maxusage=None, #一個鏈接最多被重復使用的次數,None表示無限制
setsession=[], #開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
ping=0,#ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
closeable=False,#如果為False時, conn.close() 實際上被忽略,供下次使用,再線程關閉時,才會自動關閉鏈接。如果為True時, conn.close()則關閉鏈接,那么再次調用pool.connection時就會報錯,因為已經真的關閉了連接(pool.steady_connection()可以獲取一個新的鏈接)
threadlocal=None, #本線程獨享值得對象,用于保存鏈接對象,如果鏈接對象被重置
host='127.0.0.1',
port=3306,
user='root',
password='123',
database='pooldb',
charset='utf8')deffunc():
conn= POOL.connection(shareable=False)
cursor=conn.cursor()
cursor.execute('select * from tb1')
result=cursor.fetchall()
cursor.close()
conn.close()
func()
View Code
模式二:創建一批連接到連接池,供所有線程共享使用。
PS:由于pymysql、MySQLdb等threadsafety值為1,所以該模式連接池中的線程會被所有線程共享。
importtimeimportpymysqlimportthreadingfrom DBUtils.PooledDB importPooledDB, SharedDBConnection
POOL=PooledDB(
creator=pymysql, #使用鏈接數據庫的模塊
maxconnections=6, #連接池允許的最大連接數,0和None表示不限制連接數
mincached=2, #初始化時,鏈接池中至少創建的空閑的鏈接,0表示不創建
maxcached=5, #鏈接池中最多閑置的鏈接,0和None不限制
maxshared=3, #鏈接池中最多共享的鏈接數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模塊的 threadsafety都為1,所有值無論設置為多少,_maxcached永遠為0,所以永遠是所有鏈接都共享。
blocking=True, #連接池中如果沒有可用連接后,是否阻塞等待。True,等待;False,不等待然后報錯
maxusage=None, #一個鏈接最多被重復使用的次數,None表示無限制
setsession=[], #開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
ping=0,#ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
host='127.0.0.1',
port=3306,
user='root',
password='123',
database='pooldb',
charset='utf8')deffunc():#檢測當前正在運行連接數的是否小于最大鏈接數,如果不小于則:等待或報raise TooManyConnections異常
#否則
#則優先去初始化時創建的鏈接中獲取鏈接 SteadyDBConnection。
#然后將SteadyDBConnection對象封裝到PooledDedicatedDBConnection中并返回。
#如果最開始創建的鏈接沒有鏈接,則去創建一個SteadyDBConnection對象,再封裝到PooledDedicatedDBConnection中并返回。
#一旦關閉鏈接后,連接就返回到連接池讓后續線程繼續使用。
conn =POOL.connection()#print(th, '鏈接被拿走了', conn1._con)
#print(th, '池子里目前有', pool._idle_cache, '\r\n')
cursor=conn.cursor()
cursor.execute('select * from tb1')
result=cursor.fetchall()
conn.close()
func()
View Code
在flask中使用DBUtils
flask中是沒有ORM的,如果在flask里面連接數據庫有兩種方式
一:pymysql
二:SQLAlchemy
是python 操作數據庫的一個庫。能夠進行 orm 映射官方文檔 sqlchemy
SQLAlchemy“采用簡單的Python語言,為高效和高性能的數據庫訪問設計,實現了完整的企業級持久模型”。SQLAlchemy的理念是,SQL數據庫的量級和性能重要于對象集合;而對象集合的抽象又重要于表和行。
鏈接池原理
-BDUtils數據庫鏈接池-模式一:基于threaing.local實現為每一個線程創建一個連接,關閉是
偽關閉,當前線程可以重復-模式二:連接池原理- 可以設置連接池中最大連接數 9
- 默認啟動時,連接池中創建連接 5
-如果有三個線程來數據庫中獲取連接:-如果三個同時來的,一人給一個鏈接-如果一個一個來,有時間間隔,用一個鏈接就可以為三個線程提供服務-說不準
有可能:1個鏈接就可以為三個線程提供服務
有可能:2個鏈接就可以為三個線程提供服務
有可能:3個鏈接就可以為三個線程提供服務
PS、:maxshared在使用pymysql中均無用。鏈接數據庫的模塊:只有threadsafety>1的時候才有用
那么我們用pymysql來做。
為什么要使用數據庫連接池呢?不用連接池有什么不好的地方呢?
方式一、每次操作都要鏈接數據庫,鏈接次數過多
#!usr/bin/env python#-*- coding:utf-8 -*-
importpymysqlfrom flask importFlask
app= Flask(__name__)#方式一:這種方式每次請求,反復創建數據庫鏈接,多次鏈接數據庫會非常耗時#解決辦法:放在全局,單例模式
@app.route('/index')defindex():#鏈接數據庫
conn = pymysql.connect(host="127.0.0.1",port=3306,user='root',password='123', database='pooldb',charset='utf8')
cursor=conn.cursor()
cursor.execute("select * from td where id=%s", [5, ])
result= cursor.fetchall() #獲取數據
cursor.close()
conn.close()#關閉鏈接
print(result)return "執行成功"
if __name__ == '__main__':
app.run(debug=True)
方式二、不支持并發
#!usr/bin/env python#-*- coding:utf-8 -*-
importpymysqlfrom flask importFlaskfrom threading importRLock
app= Flask(__name__)
CONN= pymysql.connect(host="127.0.0.1",port=3306,user='root',password='123', database='pooldb',charset='utf8')#方式二:放在全局,如果是單線程,這樣就可以,但是如果是多線程,就得加把鎖。這樣就成串行的了#不支持并發,也不好。所有我們選擇用數據庫連接池
@app.route('/index')defindex():
with RLock:
cursor=CONN.cursor()
cursor.execute("select * from td where id=%s", [5, ])
result= cursor.fetchall() #獲取數據
cursor.close()print(result)return "執行成功"
if __name__ == '__main__':
app.run(debug=True)
方式三:由于上面兩種方案都不完美,所以得把方式一和方式二聯合一下(既讓減少鏈接次數,也能支持并發)所有了方式三,需要
導入一個DButils模塊
基于DButils實現的數據庫連接池有兩種模式:
模式一:為每一個線程創建一個鏈接(是基于本地線程來實現的。thread.local),每個線程獨立使用自己的數據庫鏈接,該線程關閉不是真正的關閉,本線程再次調用時,還是使用的最開始創建的鏈接,直到線程終止,數據庫鏈接才關閉
注:?模式一:如果線程比較多還是會創建很多連接,模式二更常用
#!usr/bin/env python#-*- coding:utf-8 -*-
from flask importFlask
app= Flask(__name__)from DBUtils.PersistentDB importPersistentDBimportpymysql
POOL=PersistentDB(
creator=pymysql, #使用鏈接數據庫的模塊
maxusage=None, #一個鏈接最多被重復使用的次數,None表示無限制
setsession=[], #開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
ping=0,#ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
closeable=False,#如果為False時, conn.close() 實際上被忽略,供下次使用,再線程關閉時,才會自動關閉鏈接。如果為True時, conn.close()則關閉鏈接,那么再次調用pool.connection時就會報錯,因為已經真的關閉了連接(pool.steady_connection()可以獲取一個新的鏈接)
threadlocal=None, #本線程獨享值得對象,用于保存鏈接對象,如果鏈接對象被重置
host='127.0.0.1',
port=3306,
user='root',
password='123',
database='pooldb',
charset='utf8')
@app.route('/func')deffunc():
conn=POOL.connection()
cursor=conn.cursor()
cursor.execute('select * from tb1')
result=cursor.fetchall()
cursor.close()
conn.close()#不是真的關閉,而是假的關閉。 conn = pymysql.connect() conn.close()
conn=POOL.connection()
cursor=conn.cursor()
cursor.execute('select * from tb1')
result=cursor.fetchall()
cursor.close()
conn.close()if __name__ == '__main__': app.run(debug=True)
模式二:創建一個鏈接池,為所有線程提供連接,使用時來進行獲取,使用完畢后在放回到連接池。
PS:假設最大鏈接數有10個,其實也就是一個列表,當你pop一個,人家會在append一個,鏈接池的所有的鏈接都是按照排隊的這樣的方式來鏈接的。
鏈接池里所有的鏈接都能重復使用,共享的,?即實現了并發,又防止了鏈接次數太多
importtimeimportpymysqlimportthreadingfrom DBUtils.PooledDB importPooledDB, SharedDBConnection
POOL=PooledDB(
creator=pymysql, #使用鏈接數據庫的模塊
maxconnections=6, #連接池允許的最大連接數,0和None表示不限制連接數
mincached=2, #初始化時,鏈接池中至少創建的空閑的鏈接,0表示不創建
maxcached=5, #鏈接池中最多閑置的鏈接,0和None不限制
maxshared=3, #鏈接池中最多共享的鏈接數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模塊的 threadsafety都為1,所有值無論設置為多少,_maxcached永遠為0,所以永遠是所有鏈接都共享。
blocking=True, #連接池中如果沒有可用連接后,是否阻塞等待。True,等待;False,不等待然后報錯
maxusage=None, #一個鏈接最多被重復使用的次數,None表示無限制
setsession=[], #開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
ping=0,#ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
host='127.0.0.1',
port=3306,
user='root',
password='123',
database='pooldb',
charset='utf8')deffunc():#檢測當前正在運行連接數的是否小于最大鏈接數,如果不小于則:等待或報raise TooManyConnections異常
#否則
#則優先去初始化時創建的鏈接中獲取鏈接 SteadyDBConnection。
#然后將SteadyDBConnection對象封裝到PooledDedicatedDBConnection中并返回。
#如果最開始創建的鏈接沒有鏈接,則去創建一個SteadyDBConnection對象,再封裝到PooledDedicatedDBConnection中并返回。
#一旦關閉鏈接后,連接就返回到連接池讓后續線程繼續使用。
#PooledDedicatedDBConnection
conn =POOL.connection()#print(th, '鏈接被拿走了', conn1._con)
#print(th, '池子里目前有', pool._idle_cache, '\r\n')
cursor=conn.cursor()
cursor.execute('select * from tb1')
result=cursor.fetchall()
conn.close()
conn=POOL.connection()#print(th, '鏈接被拿走了', conn1._con)
#print(th, '池子里目前有', pool._idle_cache, '\r\n')
cursor=conn.cursor()
cursor.execute('select * from tb1')
result=cursor.fetchall()
conn.close()
func()
使用時我們可以將數據庫連接池寫到配置文件中
from datetime importtimedeltafrom redis importRedisimportpymysqlfrom DBUtils.PooledDB importPooledDB, SharedDBConnectionclassConfig(object):
DEBUG=True
SECRET_KEY= "umsuldfsdflskjdf"PERMANENT_SESSION_LIFETIME= timedelta(minutes=20)
SESSION_REFRESH_EACH_REQUEST=True
SESSION_TYPE= "redis"PYMYSQL_POOL=PooledDB(
creator=pymysql, #使用鏈接數據庫的模塊
maxconnections=6, #連接池允許的最大連接數,0和None表示不限制連接數
mincached=2, #初始化時,鏈接池中至少創建的空閑的鏈接,0表示不創建
maxcached=5, #鏈接池中最多閑置的鏈接,0和None不限制
maxshared=3,#鏈接池中最多共享的鏈接數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模塊的 threadsafety都為1,所有值無論設置為多少,_maxcached永遠為0,所以永遠是所有鏈接都共享。
blocking=True, #連接池中如果沒有可用連接后,是否阻塞等待。True,等待;False,不等待然后報錯
maxusage=None, #一個鏈接最多被重復使用的次數,None表示無限制
setsession=[], #開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
ping=0,#ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
host='127.0.0.1',
port=3306,
user='root',
password='123456',
database='s8day127db',
charset='utf8')
然后寫一個類來幫我們完成pymql的操作
importpymysqlfrom settings importConfigclassSQLHelper(object):
@staticmethoddefopen(cursor):
POOL=Config.PYMYSQL_POOL
conn=POOL.connection()
cursor= conn.cursor(cursor=cursor)returnconn,cursor
@staticmethoddefclose(conn,cursor):
conn.commit()
cursor.close()
conn.close()
@classmethoddef fetch_one(cls,sql,args,cursor =pymysql.cursors.DictCursor):
conn,cursor=cls.open(cursor)
cursor.execute(sql, args)
obj=cursor.fetchone()
cls.close(conn,cursor)returnobj
@classmethoddef fetch_all(cls,sql, args,cursor =pymysql.cursors.DictCursor):
conn, cursor=cls.open(cursor)
cursor.execute(sql, args)
obj=cursor.fetchall()
cls.close(conn, cursor)return obj
然后在視圖函數中就可以使用這個類來進行數據庫操作了
obj = SQLHelper.fetch_one('select id from users where name=%s',[field.data,])
小知識
1、子類繼承父類的三種方式
class Dog(Animal): #子類 派生類
def __init__(self,name,breed, life_value,aggr):#Animal.__init__(self,name,breed, life_value,aggr)#讓子類執行父類的方法 就是父類名.方法名(參數),連self都得傳
super().__init__(name,life_value,aggr) #super關鍵字 ,都不用傳self了,在新式類里的
#super(Dog,self).__init__(name,life_value,aggr) #上面super是簡寫
self.breed =breeddef bite(self,person): #狗的派生方法
person.life_value -=self.aggrdef eat(self): #父類方法的重寫
super().eat()print('dog is eating')
2、對象通過索引設置值的三種方式
方式一:重寫__setitem__方法
classFoo(object):def __setitem__(self, key, value):print(key,value)
obj=Foo()
obj["xxx"] = 123 #給對象賦值就會去執行__setitem__方法
方式二:繼承dict
classFoo(dict):passobj=Foo()
obj["xxx"] = 123
print(obj)
方式三:繼承dict,重寫__init__方法的時候,記得要繼承父類的__init__方法
classFoo(dict):def __init__(self,val):#dict.__init__(self, val)#繼承父類方式一
#super().__init__(val) #繼承父類方式二
super(Foo,self).__init__(val)#繼承父類方式三
obj = Foo({"xxx":123})print(obj)
總結:如果遇到obj["xxx"] = xx? ,
- 重寫了__setitem__方法
- 繼承dict
3、測試__name__方法
示例:
app1中:importapp2print('app1', __name__)
app2中:print('app2', __name__)
現在app1是主程序,運行結果截圖
總結:如果是在自己的模塊中運行,__name__就是__main__,如果是從別的文件中導入進來的,就不是__name__了
flask配置文件的幾種使用方式
==========方式一:============app.config['SESSION_COOKIE_NAME'] = 'session_lvning' #這種方式要把所有的配置都放在一個文件夾里面,看起來會比較亂,所以選擇下面的方式
==========方式二:==============app.config.from_pyfile('settings.py') #找到配置文件路徑,創建一個模塊,打開文件,并獲取所有的內容,再將配置文件中的所有值,都封裝到上一步創建的配置文件模板中
print(app.config.get("CCC"))=========方式三:對象的方式============
importos
os.environ['FLAKS-SETTINGS'] = 'settings.py'app.config.from_envvar('FLAKS-SETTINGS')===============方式四(推薦):字符串的方式,方便操作,不用去改配置,直接改變字符串就行了 ==============app.config.from_object('settings.DevConfig')----------settings.DevConfig----------
from app importappclassBaseConfig(object):
NNN= 123 #注意是大寫
SESSION_COOKIE_NAME = "session_sss"
classTestConfig(BaseConfig):
DB= "127.0.0.1"
classDevConfig(BaseConfig):
DB= "52.5.7.5"
classProConfig(BaseConfig):
DB= "55.4.22.4"
要想在視圖函數中獲取配置文件的值,都是通過app.config來拿。但是如果視圖函數和Flask創建的對象app不在一個模塊。就得
導入來拿。可以不用導入,。直接導入一個current_app,這個就是當前的app對象,用current_app.config就能查看到了當前app的所有的配置文件
from flask importFlask,current_app
@app.route('/index',methods=["GET","POST"])defindex():print(current_app.config) #當前的app的所有配置
session["xx"] = "fdvbn"
return "index"
總結
以上是生活随笔為你收集整理的python数据库连接池工具类_Python数据库连接池DBUtils的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 离职交接文档_关于工作交接
- 下一篇: python多维数据分析_Python