PHP 如何实现多进程 and mysql查询效率
首先我來說說這個(gè)我的需求吧。
需求:
有極少的用戶來訪問我的網(wǎng)頁(yè),但是一旦有用戶訪問,就會(huì)查詢數(shù)據(jù)庫(kù),數(shù)據(jù)庫(kù)是極大的。如果直接查詢的話,那么耗時(shí)很長(zhǎng),為了節(jié)約時(shí)間,有很多工作需要做,其中一個(gè)就是多進(jìn)程(多線程)。比如,一個(gè)進(jìn)程查詢一個(gè)table,這樣可以提高效率。然后將滿足要求的數(shù)據(jù)返回。
之前我轉(zhuǎn)了一篇如何進(jìn)行多線程的,那個(gè)我最后還是沒有做成,就是技術(shù)沒過關(guān)。呵呵了。用php在linux命令行沒有問題,做的非常好,多進(jìn)程也運(yùn)行成功,就是不知道怎么移植到網(wǎng)頁(yè)上去。網(wǎng)上有人說php不支持多線程,我想這個(gè)說法不妥吧。這就為本文拉開了序幕。
好了,我的用法呢,走了一個(gè)巧。不是你只讓我在php命令行下運(yùn)行這個(gè)多線程嗎。那么還有一個(gè)讓命令行運(yùn)行的命令,不是嗎?system。
我的流程:
數(shù)據(jù)--->分析數(shù)據(jù)---->將數(shù)據(jù)傳送到運(yùn)行多線程的php里面--->多線程php進(jìn)行多線程分配查詢數(shù)據(jù)--->回顯。
下面是一個(gè)例子:
比如我查詢一個(gè)關(guān)鍵字,首先是php界面,讓輸入界面(很簡(jiǎn)陋):
[php] view plain copy這個(gè)時(shí)候進(jìn)入data_process.php了。這個(gè)主要是分析一下數(shù)據(jù),防止一些惡意的數(shù)據(jù)。當(dāng)然我這里沒有這么做,留著以后改善。 [php] view plain copy
重點(diǎn)來了。fenxi.php是如何做的呢。
[php] view plain copy這樣,將這個(gè)關(guān)鍵字就在這里進(jìn)行了分流。一個(gè)一個(gè)自己進(jìn)去自己的php執(zhí)行。每一個(gè)php的代碼應(yīng)該是類似的。 [php] view plain copy
這樣就進(jìn)行了多線程操作。繞過了瀏覽器不能直接執(zhí)行帶有Thread代碼的缺陷。
這樣呢,到底好不好真不好說。我也就學(xué)習(xí)php2天不到,為了解決這個(gè)問題也是網(wǎng)上找了很多資料,絕大部分時(shí)間都是在安裝Thread環(huán)境,可惜還是不能再網(wǎng)頁(yè)上進(jìn)行多線程,我想應(yīng)該是可以的,只是我才疏學(xué)淺沒有找到門道啊。只好用這個(gè)辦法先來解決一下了。希望高手能夠提出有益意見。
附錄:
如何提高查詢的效率:(前提,都是查,不插入刪除等,mysql數(shù)據(jù)庫(kù))
第一:改變引擎,不用InnoDB,用MyISAM。這個(gè)網(wǎng)上一查就知道原因。
MyISAM是MySQL的存儲(chǔ)引擎。MyISAM不支持事務(wù)、也不支持外鍵,但其訪問速度快,對(duì)事務(wù)完整性沒有要求。?
InnoDB存儲(chǔ)引擎提供了具有提交、回滾和崩潰恢復(fù)能力的事務(wù)安全。但是比起MyISAM存儲(chǔ)引擎,InnoDB寫的處理效率差一些并且會(huì)占用更多的磁盤空間以保留數(shù)據(jù)和索引。?
第二:建立索引
提高效率這個(gè)應(yīng)該立馬考慮。我來說一下數(shù)據(jù)就知道這個(gè)提高有多少了。
我的一個(gè)測(cè)試table有400W數(shù)據(jù)(沒建立索引),用InnoDB,需要17秒左右,用MyISAM需要12秒。(我的查詢語(yǔ)句比較特別)
建立索引,要不到1秒。
注意一些sql語(yǔ)句,會(huì)讓索引無效的語(yǔ)句。
下面來自網(wǎng)頁(yè):
有幾個(gè)問題我想我之前沒有想清楚。就是mysql什么情況下才會(huì)使用索引。。所以or鏈接,索引不起作用。
1.對(duì)查詢進(jìn)行優(yōu)化,應(yīng)盡量避免全表掃描,首先應(yīng)考慮在?where?及?order?by?涉及的列上建立索引。?
2.應(yīng)盡量避免在?where?子句中使用!=或<>操作符,否則將引擎放棄使用索引而進(jìn)行全表掃描。?
3.應(yīng)盡量避免在?where?子句中對(duì)字段進(jìn)行?null?值判斷,否則將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描,如:?
select?id?from?t?where?num?is?null?
可以在num上設(shè)置默認(rèn)值0,確保表中num列沒有null值,然后這樣查詢:?
select?id?from?t?where?num=0?
4.應(yīng)盡量避免在?where?子句中使用?or?來連接條件,否則將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描,如:?
select?id?from?t?where?num=10?or?num=20?
可以這樣查詢:?
select?id?from?t?where?num=10?
union?all?
select?id?from?t?where?num=20?
5.下面的查詢也將導(dǎo)致全表掃描:?
select?id?from?t?where?name?like?'%abc%'?
若要提高效率,可以考慮全文檢索。?
6.in?和?not?in?也要慎用,否則會(huì)導(dǎo)致全表掃描,如:?
select?id?from?t?where?num?in(1,2,3)?
對(duì)于連續(xù)的數(shù)值,能用?between?就不要用?in?了:?
select?id?from?t?where?num?between?1?and?3?
7.如果在?where?子句中使用參數(shù),也會(huì)導(dǎo)致全表掃描。因?yàn)镾QL只有在運(yùn)行時(shí)才會(huì)解析局部變量,但優(yōu)化程序不能將訪問計(jì)劃的選擇推遲到運(yùn)行時(shí);它必須在編譯時(shí)進(jìn)行選擇。然而,如果在編譯時(shí)建立訪問計(jì)劃,變量的值還是未知的,因而無法作為索引選擇的輸入項(xiàng)。如下面語(yǔ)句將進(jìn)行全表掃描:?
select?id?from?t?where?num=@num?
可以改為強(qiáng)制查詢使用索引:?
select?id?from?t?with(index(索引名))?where?num=@num?
8.應(yīng)盡量避免在?where?子句中對(duì)字段進(jìn)行表達(dá)式操作,這將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描。如:?
select?id?from?t?where?num/2=100?
應(yīng)改為:?
select?id?from?t?where?num=100*2?
9.應(yīng)盡量避免在where子句中對(duì)字段進(jìn)行函數(shù)操作,這將導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描。如:?
select?id?from?t?where?substring(name,1,3)='abc'--name以abc開頭的id?
select?id?from?t?where?datediff(day,createdate,'2005-11-30')=0--'2005-11-30'生成的id?
應(yīng)改為:?
select?id?from?t?where?name?like?'abc%'?
select?id?from?t?where?createdate>='2005-11-30'?and?createdate<'2005-12-1'?
10.不要在?where?子句中的“=”左邊進(jìn)行函數(shù)、算術(shù)運(yùn)算或其他表達(dá)式運(yùn)算,否則系統(tǒng)將可能無法正確使用索引。?
11.在使用索引字段作為條件時(shí),如果該索引是復(fù)合索引,那么必須使用到該索引中的第一個(gè)字段作為條件時(shí)才能保證系統(tǒng)使用該索引,否則該索引將不會(huì)被使用,并且應(yīng)盡可能的讓字段順序與索引順序相一致。?
12.不要寫一些沒有意義的查詢,如需要生成一個(gè)空表結(jié)構(gòu):?
select?col1,col2?into?#t?from?t?where?1=0?
這類代碼不會(huì)返回任何結(jié)果集,但是會(huì)消耗系統(tǒng)資源的,應(yīng)改成這樣:?
create?table?#t(...)?
13.很多時(shí)候用?exists?代替?in?是一個(gè)好的選擇:?
select?num?from?a?where?num?in(select?num?from?b)?
用下面的語(yǔ)句替換:?
select?num?from?a?where?exists(select?1?from?b?where?num=a.num)?
14.并不是所有索引對(duì)查詢都有效,SQL是根據(jù)表中數(shù)據(jù)來進(jìn)行查詢優(yōu)化的,當(dāng)索引列有大量數(shù)據(jù)重復(fù)時(shí),SQL查詢可能不會(huì)去利用索引,如一表中有字段sex,male、female幾乎各一半,那么即使在sex上建了索引也對(duì)查詢效率起不了作用。?
15.索引并不是越多越好,索引固然可以提高相應(yīng)的?select?的效率,但同時(shí)也降低了?insert?及?update?的效率,因?yàn)?insert?或?update?時(shí)有可能會(huì)重建索引,所以怎樣建索引需要慎重考慮,視具體情況而定。一個(gè)表的索引數(shù)最好不要超過6個(gè),若太多則應(yīng)考慮一些不常使用到的列上建的索引是否有必要。?
16.應(yīng)盡可能的避免更新?clustered?索引數(shù)據(jù)列,因?yàn)?clustered?索引數(shù)據(jù)列的順序就是表記錄的物理存儲(chǔ)順序,一旦該列值改變將導(dǎo)致整個(gè)表記錄的順序的調(diào)整,會(huì)耗費(fèi)相當(dāng)大的資源。若應(yīng)用系統(tǒng)需要頻繁更新?clustered?索引數(shù)據(jù)列,那么需要考慮是否應(yīng)將該索引建為?clustered?索引。?
17.盡量使用數(shù)字型字段,若只含數(shù)值信息的字段盡量不要設(shè)計(jì)為字符型,這會(huì)降低查詢和連接的性能,并會(huì)增加存儲(chǔ)開銷。這是因?yàn)橐嬖谔幚聿樵兒瓦B接時(shí)會(huì)逐個(gè)比較字符串中每一個(gè)字符,而對(duì)于數(shù)字型而言只需要比較一次就夠了。?
18.盡可能的使用?varchar/nvarchar?代替?char/nchar?,因?yàn)槭紫茸冮L(zhǎng)字段存儲(chǔ)空間小,可以節(jié)省存儲(chǔ)空間,其次對(duì)于查詢來說,在一個(gè)相對(duì)較小的字段內(nèi)搜索效率顯然要高些。?
19.任何地方都不要使用?select?*?from?t?,用具體的字段列表代替“*”,不要返回用不到的任何字段。?
20.盡量使用表變量來代替臨時(shí)表。如果表變量包含大量數(shù)據(jù),請(qǐng)注意索引非常有限(只有主鍵索引)。?
21.避免頻繁創(chuàng)建和刪除臨時(shí)表,以減少系統(tǒng)表資源的消耗。?
22.臨時(shí)表并不是不可使用,適當(dāng)?shù)厥褂盟鼈兛梢允鼓承├谈行?#xff0c;例如,當(dāng)需要重復(fù)引用大型表或常用表中的某個(gè)數(shù)據(jù)集時(shí)。但是,對(duì)于一次性事件,最好使用導(dǎo)出表。?
23.在新建臨時(shí)表時(shí),如果一次性插入數(shù)據(jù)量很大,那么可以使用?select?into?代替?create?table,避免造成大量?log?,以提高速度;如果數(shù)據(jù)量不大,為了緩和系統(tǒng)表的資源,應(yīng)先create?table,然后insert。?
24.如果使用到了臨時(shí)表,在存儲(chǔ)過程的最后務(wù)必將所有的臨時(shí)表顯式刪除,先?truncate?table?,然后?drop?table?,這樣可以避免系統(tǒng)表的較長(zhǎng)時(shí)間鎖定。?
25.盡量避免使用游標(biāo),因?yàn)橛螛?biāo)的效率較差,如果游標(biāo)操作的數(shù)據(jù)超過1萬行,那么就應(yīng)該考慮改寫。?
26.使用基于游標(biāo)的方法或臨時(shí)表方法之前,應(yīng)先尋找基于集的解決方案來解決問題,基于集的方法通常更有效。?
27.與臨時(shí)表一樣,游標(biāo)并不是不可使用。對(duì)小型數(shù)據(jù)集使用?FAST_FORWARD?游標(biāo)通常要優(yōu)于其他逐行處理方法,尤其是在必須引用幾個(gè)表才能獲得所需的數(shù)據(jù)時(shí)。在結(jié)果集中包括“合計(jì)”的例程通常要比使用游標(biāo)執(zhí)行的速度快。如果開發(fā)時(shí)間允許,基于游標(biāo)的方法和基于集的方法都可以嘗試一下,看哪一種方法的效果更好。?
28.在所有的存儲(chǔ)過程和觸發(fā)器的開始處設(shè)置?SET?NOCOUNT?ON?,在結(jié)束時(shí)設(shè)置?SET?NOCOUNT?OFF?。無需在執(zhí)行存儲(chǔ)過程和觸發(fā)器的每個(gè)語(yǔ)句后向客戶端發(fā)送?DONE_IN_PROC?消息。?
29.盡量避免向客戶端返回大數(shù)據(jù)量,若數(shù)據(jù)量過大,應(yīng)該考慮相應(yīng)需求是否合理。?
30.盡量避免大事務(wù)操作,提高系統(tǒng)并發(fā)能力。?
我的regexp語(yǔ)句,如果這么兩條語(yǔ)句進(jìn)行比較(在建立了索引的條件下)
select * from table where name = 'name'
select * from table where name regexp 'name'
時(shí)間可不一樣了,前面用時(shí)0.2秒,后面用時(shí)5秒多。
匹配沒有用索引?????
csdn上面的一些回答:
索引主要兩類:
1?基于樹的,訪問索引時(shí),判斷是否需要繼續(xù)訪問某個(gè)節(jié)點(diǎn)的時(shí)候,需要比較大小。所以,這類索引對(duì)等于大于小于,以及LIKE?'XXX%'之類有效果
2?基于散列的,無論是否用正則,都只能用精確值,對(duì)等于,不等于之類有效
查詢分析的時(shí)候,只要看到REGEXP或者函數(shù)之類,數(shù)據(jù)庫(kù)一律認(rèn)為無法索引,因?yàn)檫@個(gè)可能性太多了,即使REGEXP?'^ABC$',分析器也不可能花費(fèi)時(shí)間去解析相關(guān)的正則、函數(shù)體,否則代價(jià)還不如不用索引
regexp這個(gè)千萬不要用。這個(gè)相當(dāng)浪費(fèi)時(shí)間,用like,而且like的匹配字符%不要在關(guān)鍵字前面。
第三、多線程,這個(gè)效果肯定是有的。 第四、重新規(guī)劃數(shù)據(jù)庫(kù),分表分庫(kù),這樣就好了,查詢自然就更快。比如,查詢一個(gè)關(guān)鍵字,我在代碼中就提前知道了會(huì)查詢那張數(shù)據(jù)表,就不會(huì)去查無用的數(shù)據(jù)表,這個(gè)速度自然會(huì)更好。這個(gè)就是邏輯的問題了。這個(gè)我想,在數(shù)據(jù)非常大的時(shí)候,是最有效果的,比建立索引應(yīng)該更加有效。索引占的空間也是不小的。
第五、使用limit,這個(gè),用戶查詢,我先顯示前100條數(shù)據(jù),這個(gè)自然是奇快無比的,當(dāng)用戶想繼續(xù)看的時(shí)候,再查詢后面的100條數(shù)據(jù),這樣,交互自然是沒的說啦。 第六、其他,比如臨時(shí)表等。
我目前對(duì)mysql認(rèn)識(shí)還不深,目前就總結(jié)這么一點(diǎn)點(diǎn)了。記錄學(xué)習(xí)。
來源:http://blog.csdn.net/cogbee/article/details/34885425/
總結(jié)
以上是生活随笔為你收集整理的PHP 如何实现多进程 and mysql查询效率的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: php利用openssl实现RSA非对称
- 下一篇: 刘芳(说一说刘芳的简介)