MySQL 处理海量数据时的一些优化查询速度方法
在參與實際項目中，當 MySQL 表的數據量達到百萬級時，普通的 SQL 查詢效率呈直線下降，而且如果 where 中的查詢條件較多時，其查詢速度無法容忍。想想可知，假如我們查詢淘寶的一個訂單詳情，如果查詢時間高達幾十秒，這么高的查詢延時，任何用戶都會抓狂。因此如何提高 SQL 語句查詢效率，顯得十分重要。
查詢速度慢的原因
1、沒有索引或者沒有用到索引（這是查詢慢最常見的問題，是程序設計的缺陷）
2、I/O 吞吐量小，形成了瓶頸效應。
3、沒有創建計算列導致查詢不優化。
4、內存不足
5、網絡速度慢
6、查詢出的數據量過大（可采用多次查詢，其他的方法降低數據量）
7、鎖或者死鎖（這是查詢慢最常見的問題，是程序設計的缺陷）
8、sp_lock,sp_who,活動的用戶查看,原因是讀寫競爭資源。
9、返回了不必要的行和列
10、查詢語句不好，沒有優化
30 種 SQL 查詢語句的優化方法：
1、應盡量避免在 where 子句中使用 != 或者 <> 操作符，否則將引擎放棄使用索引而進行全表掃描。
2、應盡量避免在 where 子句中對字段進行 null 值判斷，否則將導致引擎放棄使用索引而進行全表掃描，如：
| 1 | select?id?from?t?where?num?is?null; |
可以在 num 上設置默認值 0 ，確保表中 num 列沒有 null 值，然后這樣查詢：
| 1 | select?id?from?t?where?num?=?0; |
3、對查詢進行優化，應盡量避免全表掃描，首先應考慮在 where 及 order by 涉及的列上建立索引。
4、盡量避免在 where 子句中使用 or 來連接條件，否則將導致引擎放棄使用索引而進行全表掃描，如：
| 1 | select?id?from?t?where?num?=?10?or?num?=?20; |
可以這樣查詢：
| 1 2 3 | select?id?from?t?where?num?=?10 union?all select?id?from?t?where?num?=?20; |
5、下面的查詢也將導致全表掃描：（不能前置百分號）
| 1 | select?id?from?t?where?name?like?'%abc%'; |
若要提高效率，可以考慮全文檢索。
6、in 和 not in 也要慎用，否則會導致全表掃描，如：
| 1 | select?id?from?t?where?num?in(1,?2,?3); |
對于連續的數值，能用 between 就不要用 in 了：
| 1 | select?id?from?t?where?num?between?1?and?3; |
| 1 2 3 4 5 | select?xx,phone?FROM?send a?JOIN?( select?'13891030091'?phone?union?select?'13992085916'?…………?UNION?SELECT?'13619100234'?) b on?a.Phone=b.phone --替代下面 很多數據隔開的時候 in('13891030091','13992085916','13619100234'…………) |
7、如果在 where 子句中使用參數，也會導致全表掃描。因為 SQL 只有在運行時才會解析局部變量，但優化程序不能將訪問計劃的選擇到運行時；它必須在編譯時進行選擇。然而，如果在編譯時簡歷訪問計劃，變量的值還是未知的，因而無法作為索引選擇的輸入項。如下面語句將進行全表掃描：
| 1 | select?id?from?t?where?num?= @num; |
可以改為強制查詢使用索引：
| 1 | select?id?from?t?with(index(索引名))?where?num?= @num; |
8、應盡量避免在 where 子句中對字段進行表達式操作，這將導致引擎放棄使用索引而進行全表掃描。如：
| 1 | select?id?from?t?where?num/2?=?100; |
應改為：
| 1 | select?id?from?t?where?num?=?100?*?2; |
9、應盡量避免在 where 子句中對字段進行函數操作，這將導致引擎放棄使用索引而進行全表掃描。如：
| 1 2 | select?id?from?t?where?substring(name,?1,?3) = ’abc’–name; //以abc開頭的id select?id?from?t?where?datediff(day,createdate,’2005-11-30′) =?0–’2005-11-30′; //生成的id |
應改為:
| 1 2 | select?id?from?t?where?name?like?‘abc%’ select?id?from?t?where?createdate >= ’2005-11-30′?and?createdate < ’2005-12-1′; |
10、不要在 where 子句中的 “=” 左邊進行函數，算術運算或者其他表達式運算，否則系統將可能無法正確使用索引。
11、在使用索引字段作為條件時，如果該索引是復合索引，那么必須使用到該索引的第一個字段作為條件時才能保證系統使用該索引，否則該索引將不會被使用，并且應盡可能的讓字段順序與索引順序相一致。
12、不要些一些沒有意義的查詢，如需要生成一個空表結構：
| 1 | select?col1,col2?into?#t?from?t?where?1=0; |
這類代碼不會返回任何結果集，但是會消耗系統資源的，應改成這樣：
| 1 | create?table?#t(…) |
13、很多時候用 exists 代替 in 是一個好的選擇：
| 1 | select?num?from?a?where?num?in(select?num?from?b); |
用下面的語句替換：
| 1 | select?num?from?a?where?exists(select?1?from?b?where?num=a.num); |
14、并不是所有索引對查詢都有效，SQL是根據表中數據來進行查詢優化的，當索引列有大量數據重復時，SQL查詢可能不會去利用索引，如一表中有字段 sex，male、female幾乎各一半，那么即使在sex上建了索引也對查詢效率起不了作用。
15、索引并不是越多越好，索引固然可以提高相應的 select 的效率，但同時也降低了 insert 及 update 的效率，因為 insert 或 update 時有可能會重建索引，所以怎樣建索引需要慎重考慮，視具體情況而定。一個表的索引數最好不要超過6個，若太多則應考慮一些不常使用到的列上建的索引是否有必要。
16、應盡可能的避免更新 clustered 索引數據列，因為 clustered 索引數據列的順序就是表記錄的物理存儲順序，一旦該列值改變將導致整個表記錄的順序的調整，會耗費相當大的資源。若應用系統需要頻繁更新 clustered 索引數據列，那么需要考慮是否應將該索引建為 clustered 索引。
17、盡量使用數字型字段，若只含數值信息的字段盡量不要設計為字符型，這會降低查詢和連接的性能，并會增加存儲開銷。這是因為引擎在處理查詢和連接時會 逐個比較字符串中每一個字符，而對于數字型而言只需要比較一次就夠了。
18、盡可能的使用 varchar/nvarchar 代替 char/nchar ，因為首先變長字段存儲空間小，可以節省存儲空間，其次對于查詢來說，在一個相對較小的字段內搜索效率顯然要高些。
19、任何地方都不要使用?select * from t?，用具體的字段列表代替?*，不要返回用不到的任何字段。
20、盡量使用表變量來代替臨時表。如果表變量包含大量數據，請注意索引非常有限（只有主鍵索引）。
21、避免頻繁創建和刪除臨時表，以減少系統表資源的消耗。
22、臨時表并不是不可使用，適當地使用它們可以使某些例程更有效，例如，當需要重復引用大型表或常用表中的某個數據集時。但是，對于一次性事件，最好使用導出表。
23、在新建臨時表時，如果一次性插入數據量很大，那么可以使用 select into 代替 create table，避免造成大量 log ，以提高速度；如果數據量不大，為了緩和系統表的資源，應先 create table，然后 insert。
24、如果使用到了臨時表，在存儲過程的最后務必將所有的臨時表顯式刪除，先 truncate table ，然后 drop table ，這樣可以避免系統表的較長時間鎖定。
25、盡量避免使用游標，因為游標的效率較差，如果游標操作的數據超過1萬行，那么就應該考慮改寫。
26、使用基于游標的方法或臨時表方法之前，應先尋找基于集的解決方案來解決問題，基于集的方法通常更有效。
27、與臨時表一樣，游標并不是不可使用。對小型數據集使用 FAST_FORWARD 游標通常要優于其他逐行處理方法，尤其是在必須引用幾個表才能獲得所需的數據時。在結果集中包括“合計”的例程通常要比使用游標執行的速度快。如果開發時 間允許，基于游標的方法和基于集的方法都可以嘗試一下，看哪一種方法的效果更好。
28、在所有的存儲過程和觸發器的開始處設置 SET NOCOUNT ON ，在結束時設置 SET NOCOUNT OFF 。無需在執行存儲過程和觸發器的每個語句后向客戶端發送 DONE_IN_PROC 消息。
29、盡量避免向客戶端返回大數據量，若數據量過大，應該考慮相應需求是否合理。
30、盡量避免大事務操作，提高系統并發能力。
總結
以上是生活随笔為你收集整理的MySQL 处理海量数据时的一些优化查询速度方法的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： mysql大数据量处理
- 下一篇： 一次mysql大数据量查询 慢查询导致服