day12 Python操作rabbitmq及pymsql
一、rabbitmq介紹
RabbitMQ簡(jiǎn)介
AMQP，即Advanced Message Queuing Protocol，高級(jí)消息隊(duì)列協(xié)議，是應(yīng)用層協(xié)議的一個(gè)開(kāi)放標(biāo)準(zhǔn)，為面向消息的中間件設(shè)計(jì)。消息中間件主要用于組件之間的解耦，消息的發(fā)送者無(wú)需知道消息使用者的存在，反之亦然。
AMQP的主要特征是面向消息、隊(duì)列、路由（包括點(diǎn)對(duì)點(diǎn)和發(fā)布/訂閱）、可靠性、安全。
RabbitMQ是一個(gè)開(kāi)源的AMQP實(shí)現(xiàn)，服務(wù)器端用Erlang語(yǔ)言編寫(xiě)，支持多種客戶端，如：Python、Ruby、.NET、Java、JMS、C、PHP、ActionScript、XMPP、STOMP等，支持AJAX。用于在分布式系統(tǒng)中存儲(chǔ)轉(zhuǎn)發(fā)消息，在易用性、擴(kuò)展性、高可用性等方面表現(xiàn)不俗。
下面將重點(diǎn)介紹RabbitMQ中的一些基礎(chǔ)概念，了解了這些概念，是使用好RabbitMQ的基礎(chǔ)。
ConnectionFactory、Connection、Channel
ConnectionFactory、Connection、Channel都是RabbitMQ對(duì)外提供的API中最基本的對(duì)象。Connection是RabbitMQ的socket鏈接，它封裝了socket協(xié)議相關(guān)部分邏輯。ConnectionFactory為Connection的制造工廠。
Channel是我們與RabbitMQ打交道的最重要的一個(gè)接口，我們大部分的業(yè)務(wù)操作是在Channel這個(gè)接口中完成的，包括定義Queue、定義Exchange、綁定Queue與Exchange、發(fā)布消息等。
?
Connection： 就是一個(gè)TCP的連接。Producer和Consumer都是通過(guò)TCP連接到RabbitMQ Server的。以后我們可以看到，程序的起始處就是建立這個(gè)TCP連接。
Channels： 虛擬連接。它建立在上述的TCP連接中。數(shù)據(jù)流動(dòng)都是在Channel中進(jìn)行的。也就是說(shuō)，一般情況是程序起始建立TCP連接，第二步就是建立這個(gè)Channel。
那么，為什么使用Channel，而不是直接使用TCP連接？
??? 對(duì)于OS來(lái)說(shuō)，建立和關(guān)閉TCP連接是有代價(jià)的，頻繁的建立關(guān)閉TCP連接對(duì)于系統(tǒng)的性能有很大的影響，而且TCP的連接數(shù)也有限制，這也限制了系統(tǒng)處理高并發(fā)的能力。但是，在TCP連接中建立Channel是沒(méi)有上述代價(jià)的。對(duì)于Producer或者Consumer來(lái)說(shuō)，可以并發(fā)的使用多個(gè)Channel進(jìn)行Publish或者Receive。有實(shí)驗(yàn)表明，1s的數(shù)據(jù)可以Publish10K的數(shù)據(jù)包。當(dāng)然對(duì)于不同的硬件環(huán)境，不同的數(shù)據(jù)包大小這個(gè)數(shù)據(jù)肯定不一樣，但是我只想說(shuō)明，對(duì)于普通的Consumer或者Producer來(lái)說(shuō)，這已經(jīng)足夠了。如果不夠用，你考慮的應(yīng)該是如何細(xì)化split你的設(shè)計(jì)。
?
對(duì)于一個(gè)數(shù)據(jù)從Producer到Consumer的正確傳遞，還有三個(gè)概念需要明確：exchanges, queues and bindings。
Queue： Queue（隊(duì)列）是RabbitMQ的內(nèi)部對(duì)象，用于存儲(chǔ)消息。
RabbitMQ中的消息都只能存儲(chǔ)在Queue中，生產(chǎn)者（下圖中的P）生產(chǎn)消息并最終投遞到Queue中，消費(fèi)者（下圖中的C）可以從Queue中獲取消息并消費(fèi)。
多個(gè)消費(fèi)者可以訂閱同一個(gè)Queue，這時(shí)Queue中的消息會(huì)被平均分?jǐn)偨o多個(gè)消費(fèi)者進(jìn)行處理，而不是每個(gè)消費(fèi)者都收到所有的消息并處理。
Exchange： 在上面的queue中我們看到生產(chǎn)者將消息投遞到Queue中，實(shí)際上這在RabbitMQ中這種事情永遠(yuǎn)都不會(huì)發(fā)生。實(shí)際的情況是，生產(chǎn)者將消息發(fā)送到Exchange（交換器，下圖中的X），由Exchange將消息路由到一個(gè)或多個(gè)Queue中（或者丟棄）。
Binding：RabbitMQ中通過(guò)Binding將Exchange與Queue關(guān)聯(lián)起來(lái)，這樣RabbitMQ就知道如何正確地將消息路由到指定的Queue了。
routing key：
生產(chǎn)者在將消息發(fā)送給Exchange的時(shí)候，一般會(huì)指定一個(gè)routing key，來(lái)指定這個(gè)消息的路由規(guī)則，而這個(gè)routing key需要與Exchange Type及binding key聯(lián)合使用才能最終生效。
在Exchange Type與binding key固定的情況下（在正常使用時(shí)一般這些內(nèi)容都是固定配置好的），我們的生產(chǎn)者就可以在發(fā)送消息給Exchange時(shí)，通過(guò)指定routing key來(lái)決定消息流向哪里。
RabbitMQ為routing key設(shè)定的長(zhǎng)度限制為255 bytes。
Binding key：
在綁定（Binding）Exchange與Queue的同時(shí)，一般會(huì)指定一個(gè)binding key；消費(fèi)者將消息發(fā)送給Exchange時(shí)，一般會(huì)指定一個(gè)routing key；當(dāng)binding key與routing key相匹配時(shí)，消息將會(huì)被路由到對(duì)應(yīng)的Queue中。這個(gè)將在
RabbitMQ常用的Exchange Type有fanout、direct、topic、headers這四種：
fanout
fanout類(lèi)型的Exchange路由規(guī)則非常簡(jiǎn)單，它會(huì)把所有發(fā)送到該Exchange的消息路由到所有與它綁定的Queue中。
上圖中，生產(chǎn)者（P）發(fā)送到Exchange（X）的所有消息都會(huì)路由到圖中的兩個(gè)Queue，并最終被兩個(gè)消費(fèi)者（C1與C2）消費(fèi)。
direct
direct類(lèi)型的Exchange路由規(guī)則也很簡(jiǎn)單，它會(huì)把消息路由到那些binding key與routing key完全匹配的Queue中。
以上圖的配置為例，我們以routingKey=”error”發(fā)送消息到Exchange，則消息會(huì)路由到Queue1（amqp.gen-S9b…，這是由RabbitMQ自動(dòng)生成的Queue名稱(chēng)）和Queue2（amqp.gen-Agl…）；如果我們以routingKey=”info”或routingKey=”warning”來(lái)發(fā)送消息，則消息只會(huì)路由到Queue2。如果我們以其他routingKey發(fā)送消息，則消息不會(huì)路由到這兩個(gè)Queue中。
topic
前面講到direct類(lèi)型的Exchange路由規(guī)則是完全匹配binding key與routing key，但這種嚴(yán)格的匹配方式在很多情況下不能滿足實(shí)際業(yè)務(wù)需求。topic類(lèi)型的Exchange在匹配規(guī)則上進(jìn)行了擴(kuò)展，它與direct類(lèi)型的Exchage相似，也是將消息路由到binding key與routing key相匹配的Queue中，但這里的匹配規(guī)則有些不同，它約定：
- routing key為一個(gè)句點(diǎn)號(hào)“. ”分隔的字符串（我們將被句點(diǎn)號(hào)“. ”分隔開(kāi)的每一段獨(dú)立的字符串稱(chēng)為一個(gè)單詞），如“stock.usd.nyse”、“nyse.vmw”、“quick.orange.rabbit”
- binding key與routing key一樣也是句點(diǎn)號(hào)“. ”分隔的字符串
- binding key中可以存在兩種特殊字符“*”與“#”，用于做模糊匹配，其中“*”用于匹配一個(gè)單詞，“#”用于匹配多個(gè)單詞（可以是零個(gè)）
以上圖中的配置為例，routingKey=”quick.orange.rabbit”的消息會(huì)同時(shí)路由到Q1與Q2，routingKey=”lazy.orange.fox”的消息會(huì)路由到Q1，routingKey=”lazy.brown.fox”的消息會(huì)路由到Q2，routingKey=”lazy.pink.rabbit”的消息會(huì)路由到Q2（只會(huì)投遞給Q2一次，雖然這個(gè)routingKey與Q2的兩個(gè)bindingKey都匹配）；routingKey=”quick.brown.fox”、routingKey=”orange”、routingKey=”quick.orange.male.rabbit”的消息將會(huì)被丟棄，因?yàn)樗鼈儧](méi)有匹配任何bindingKey。
headers
headers類(lèi)型的Exchange不依賴于routing key與binding key的匹配規(guī)則來(lái)路由消息，而是根據(jù)發(fā)送的消息內(nèi)容中的headers屬性進(jìn)行匹配。
在綁定Queue與Exchange時(shí)指定一組鍵值對(duì)；當(dāng)消息發(fā)送到Exchange時(shí)，RabbitMQ會(huì)取到該消息的headers（也是一個(gè)鍵值對(duì)的形式），對(duì)比其中的鍵值對(duì)是否完全匹配Queue與Exchange綁定時(shí)指定的鍵值對(duì)；如果完全匹配則消息會(huì)路由到該Queue，否則不會(huì)路由到該Queue。
該類(lèi)型的Exchange沒(méi)有用到過(guò)（不過(guò)也應(yīng)該很有用武之地），所以不做介紹。
?
關(guān)于代碼示例，給大家推薦一個(gè)很棒的博客：
http://blog.csdn.net/chenjiebin/article/details/8253433
這篇博客里代碼及注釋很清晰的描述了以上的技術(shù)內(nèi)容。
?
以上內(nèi)容借鑒博客：
http://blog.csdn.net/whycold/article/details/41119807
http://blog.csdn.net/column/details/rabbitmq.html
感謝大神們的技術(shù)分享
?
二、pymsql
1、執(zhí)行SQL#!/usr/bin/env python # -*- coding:utf-8 -*- import pymysql# 創(chuàng)建連接 conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1') # 創(chuàng)建游標(biāo) cursor = conn.cursor()# 執(zhí)行SQL，并返回收影響行數(shù) effect_row = cursor.execute("update hosts set host = '1.1.1.2'")# 執(zhí)行SQL，并返回受影響行數(shù) #effect_row = cursor.execute("update hosts set host = '1.1.1.2' where nid > %s", (1,))# 執(zhí)行SQL，并返回受影響行數(shù) #effect_row = cursor.executemany("insert into hosts(host,color_id)values(%s,%s)", [("1.1.1.11",1),("1.1.1.11",2)])# 提交，不然無(wú)法保存新建或者修改的數(shù)據(jù) conn.commit()# 關(guān)閉游標(biāo) cursor.close() # 關(guān)閉連接 conn.close()2、獲取新創(chuàng)建數(shù)據(jù)自增ID#!/usr/bin/env python # -*- coding:utf-8 -*- import pymysqlconn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1') cursor = conn.cursor() cursor.executemany("insert into hosts(host,color_id)values(%s,%s)", [("1.1.1.11",1),("1.1.1.11",2)]) conn.commit() cursor.close() conn.close()# 獲取最新自增ID new_id = cursor.lastrowid3、獲取查詢數(shù)據(jù)#!/usr/bin/env python # -*- coding:utf-8 -*- import pymysqlconn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1') cursor = conn.cursor() cursor.execute("select * from hosts")# 獲取第一行數(shù)據(jù) row_1 = cursor.fetchone()# 獲取前n行數(shù)據(jù) # row_2 = cursor.fetchmany(3) # 獲取所有數(shù)據(jù) # row_3 = cursor.fetchall() conn.commit() cursor.close() conn.close() 注：在fetch數(shù)據(jù)時(shí)按照順序進(jìn)行，可以使用cursor.scroll(num,mode)來(lái)移動(dòng)游標(biāo)位置，如：cursor.scroll(1,mode='relative') # 相對(duì)當(dāng)前位置移動(dòng) cursor.scroll(2,mode='absolute') # 相對(duì)絕對(duì)位置移動(dòng) 4、fetch數(shù)據(jù)類(lèi)型關(guān)于默認(rèn)獲取的數(shù)據(jù)是元祖類(lèi)型，如果想要或者字典類(lèi)型的數(shù)據(jù)，即：#!/usr/bin/env python # -*- coding:utf-8 -*- import pymysqlconn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1')# 游標(biāo)設(shè)置為字典類(lèi)型 cursor = conn.cursor(cursor=pymysql.cursors.DictCursor) r = cursor.execute("call p1()")result = cursor.fetchone()conn.commit() cursor.close() conn.close()轉(zhuǎn)載于:https://www.cnblogs.com/xuanouba/p/5718371.html
總結(jié)
以上是生活随笔為你收集整理的day12 Python操作rabbitmq及pymsql的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇： Android Canvas 绘图
- 下一篇： 枚举，二分