涨知识了!阿里规定超过三张表禁止join,为啥?
點(diǎn)擊上方“菜鳥學(xué)Python”,選擇“星標(biāo)”公眾號
重磅干貨,第一時(shí)間送達(dá)
作者:e71hao
blog.itpub.net/30393770/viewspace-2650450/
一、 問題提出
《阿里巴巴JAVA開發(fā)手冊》里面寫超過三張表禁止join,這是為什么?
二、問題分析
對這個(gè)結(jié)論,你是否有懷疑呢?也不知道是哪位先哲說的不要人云亦云,今天我設(shè)計(jì)sql,來驗(yàn)證這個(gè)結(jié)論。(實(shí)驗(yàn)沒有從代碼角度分析,目前達(dá)不到。可以把mysql當(dāng)一個(gè)黑盒,使用角度來驗(yàn)證這個(gè)結(jié)論) 驗(yàn)證結(jié)論的時(shí)候,會有很多發(fā)現(xiàn),各位往后看。
三、 實(shí)驗(yàn)環(huán)境
vmware10+centos7.4+mysql5.7.22
centos7內(nèi)存4.5G,4核,50G硬盤。
mysql配置為2G,特別說明硬盤是SSD。
四、我概述下我的實(shí)驗(yàn)
有4張表,student學(xué)生表,teacher老師表,course課程表,sc中間關(guān)系表,記錄了學(xué)生選修課程以及分?jǐn)?shù)。具體sql腳本,看文章結(jié)尾,我附上。中間我自己寫了造數(shù)據(jù)的腳本,也在結(jié)尾。
實(shí)驗(yàn)是為解決一個(gè)問題的:查詢選修“tname553”老師所授課程的學(xué)生中,成績最高的學(xué)生姓名及其成績。
查詢sql是:
select?Student.Sname,course.cname,score?from?Student,SC,Course?,Teacher?where?Student.s_id=SC.s_id?and?SC.c_id=Course.c_id??and?sc.t_id=teacher.t_id?and?Teacher.Tname='tname553'?and?SC.score=(select?max(score)from?SC?where?sc.t_id=teacher.t_Id);我來分析一下這個(gè)語句:4張表等值join,還有一個(gè)子查詢。算是比較簡單的sql語句了(相比ERP動就10張表的哦,已經(jīng)很簡單了)。我 還會分解這個(gè)語句成3個(gè)簡
單的sql:
?select?max(score)??from?SC?,Teacher?where?sc.t_id=teacher.t_Id?and?Teacher.Tname='tname553';select?sc.t_id,sc.s_id,score???from?SC?,Teacher?where?sc.t_id=teacher.t_Id?and?score=590??and?Teacher.Tname='tname553';select?Student.Sname,course.cname,score?from?Student,SC?,coursewhere?Student.s_id=SC.s_id?and??sc.s_id?in?(20769800,48525000,26280200)?and?course.c_id?=?sc.c_id;我來分析下:第一句,就是查詢最高分,得到最高分590分。第二句就是查詢出最高分的學(xué)生id,得到
20769800,48525000,26280200第三句就是查詢出學(xué)生名字和分?jǐn)?shù)。這樣這3個(gè)語句的就可以查詢出來 成績最高的學(xué)生姓名及其成績 。
接下來我會分別造數(shù)據(jù):1千萬選課記錄(一個(gè)學(xué)生選修2門課),造500萬學(xué)生,100萬老師(一個(gè)老師帶5個(gè)學(xué)生,挺高端的吧),1000門課,。用上面查詢語句查詢。其中sc表我測試了下有索引和沒有索引情況,具體見下表。
再接下來,我會造1億選課記錄(一個(gè)學(xué)生選修2門課),5000萬學(xué)生,1000萬老師,1000門課。然后分別執(zhí)行上述語句。最后我會在oracle數(shù)據(jù)庫上執(zhí)行上述語句。
五、下面兩張表是測試結(jié)果
六、仔細(xì)看上表,可以發(fā)現(xiàn):
1).步驟3.1沒有在連接鍵上加索引,查詢很慢,說明:“多表關(guān)聯(lián)查詢時(shí),保證被關(guān)聯(lián)的字段需要有索引”;
2).步驟6.1,6.2,6.3,換成簡單sql,在數(shù)據(jù)量1億以上, 查詢時(shí)間還能勉強(qiáng)接受。此時(shí)說明mysql查詢有些吃力了,但是仍然嫩查詢出來。
3).步驟5.1,mysql查詢不出來,4表連接,對我本機(jī)mysql來說,1.5億數(shù)據(jù)超過極限了(我調(diào)優(yōu)過這個(gè)SQL,執(zhí)行計(jì)劃和索引都走了,沒有問題,show profile顯示在sending data.這個(gè)問題另外文章詳談)。
4).對比1.1 和5.1 步驟sql查詢,4表連接,對我本機(jī)mysql來說 ,1.5千萬數(shù)據(jù)查詢很流利,是一個(gè)mysql數(shù)據(jù)量流利分水嶺。(這個(gè)只是現(xiàn)象,不太準(zhǔn)確,需要同時(shí)計(jì)算表的容量)。
5).步驟5.1對比6.1,6.2,6.3,多表join對mysql來說,處理有些吃力。
6).超過三張表禁止join,這個(gè)規(guī)則是針對mysql來說的。后續(xù)會看到我用同樣機(jī)器,同樣數(shù)據(jù)量,同樣內(nèi)存,可以完美計(jì)算 1.5億數(shù)據(jù)量join。針對這樣一個(gè)規(guī)則,對開發(fā)來說 ,需要把一些邏輯放到應(yīng)用層去查詢。
總結(jié):?這個(gè)規(guī)則 超過三張表禁止join ,由于數(shù)據(jù)量太大的時(shí)候,mysql根本查詢不出來,導(dǎo)致阿里出了這樣一個(gè)規(guī)定。(其實(shí)如果表數(shù)據(jù)量少,10張表也不成問題,你自己可以試試)而我們公司支付系統(tǒng)朝著大規(guī)模高并發(fā)目標(biāo)設(shè)計(jì)的,所以,遵循這個(gè)規(guī)定。
在業(yè)務(wù)層面來講,寫簡單sql,把更多邏輯放到應(yīng)用層,我的需求我會更了解,在應(yīng)用層實(shí)現(xiàn)特定的join也容易得多。
七、讓我們來看看oracle數(shù)據(jù)庫的優(yōu)秀表現(xiàn):
看步驟7.1,就是沒有索引,join表很多的情況下,oracle仍然26秒查詢出結(jié)果來。所以我會說mysql的join很弱。那么問題來了,為什么現(xiàn)在使用很多人使用mysql呢?這是另外一個(gè)問題,我會另外說下我的思考。
看完本篇文章,另外我還附加贈送,所謂摟草打兔子。就是快速造數(shù)據(jù)。你可以自己先寫腳本造數(shù)據(jù),看看我是怎么造數(shù)據(jù)的,就知道我的技巧了。
八、附上部分截圖
九、附上sql語句和造數(shù)據(jù)腳本
use?stu; drop?table?if?exists?student; create?table?student?(??s_id?int(11)?not?null?auto_increment?,sno????int(11),?sname?varchar(50),?sage??int(11),?ssex??varchar(8)?,father_id?int(11),mather_id?int(11),note?varchar(500),primary?key?(s_id),unique?key?uk_sno?(sno))?engine=innodb?default?charset=utf8mb4; truncate?table?student;delimiter?$$ drop?function?if?exists???insert_student_data?$$ create?function?insert_student_data()returns??int?deterministicbegindeclare??i?int;set?i=1;while??i<50000000?do?insert?into?student??values(i?,i,?concat('name',i),i,case?when?floor(rand()*10)%2=0?then?'f'?else?'m'?end,floor(rand()*100000),floor(rand()*1000000),concat('note',i)?);set?i=i+1;end?while;return?1;end$$ delimiter?;???? select??insert_student_data(); select?count(*)?from?student; use?stu; create?table?course?(?c_id?int(11)?not?null?auto_increment?,cname?varchar(50)note?varchar(500),?primary?key?(c_id))??engine=innodb?default?charset=utf8mb4; truncate?table?course;delimiter?$$ drop?function?if?exists???insert_course_data?$$ create?function?insert_course_data()returns??int?deterministicbegindeclare??i?int;set?i=1;while??i<=1000?do?insert?into?course??values(i?,?concat('course',i),floor(rand()*1000),concat('note',i)?);set?i=i+1;end?while;return?1;end$$ delimiter?;???? select??insert_course_data(); select?count(*)?from?course; use?stu; drop?table?if?exists?sc; create?table?sc?(?s_id????int(11),?c_id????int(11),?t_id????int(11),score?int(11)?)??engine=innodb?default?charset=utf8mb4; truncate?table?sc;delimiter?$$ drop?function?if?exists???insert_sc_data?$$ create?function?insert_sc_data()returns??int?deterministicbegindeclare??i?int;set?i=1;while??i<=50000000?do?insert?into?sc??values(?i,floor(rand()*1000),floor(rand()*10000000),floor(rand()*750))?;set?i=i+1;end?while;return?1;end$$ delimiter?;???? select??insert_sc_data(); commit; select??insert_sc_data(); commit; create?index?idx_s_id??on?sc(s_id)???;? create?index?idx_t_id??on?sc(t_id)???;? create?index?idx_c_id??on?sc(c_id)???;? select?count(*)?from?sc; use?stu; drop?table?if?exists?teacher; create?table?teacher?(?t_id??int(11)?not?null?auto_increment?,tname?varchar(50)?,note?varchar(500),primary?key?(t_id))??engine=innodb?default?charset=utf8mb4;truncate?table?teacher;delimiter?$$ drop?function?if?exists???insert_teacher_data?$$ create?function?insert_teacher_data()returns??int?deterministicbegindeclare??i?int;set?i=1;while??i<=10000000?do?insert?into?teacher??values(i?,?concat('tname',i),concat('note',i)?);set?i=i+1;end?while;return?1;end$$ delimiter?;???? select??insert_teacher_data(); commit; select?count(*)?from?teacher;這個(gè)是oracle的測試和造數(shù)據(jù)腳本
create?tablespace?scott_data??datafile??'/home/oracle/oracle_space/sitpay1/scott_data.dbf'??size?1024m?autoextend?on;? create?tablespace?scott_index???datafile??'/home/oracle/oracle_space/sitpay1/scott_index.dbf'??size?64m??autoextend?on;? create?temporary?tablespace?scott_temp??tempfile??'/home/oracle/oracle_space/sitpay1/scott_temp.dbf'??size?64m?autoextend?on;? drop?user??scott?cascade; create?user??scott??identified?by??tiger??default?tablespace?scott_data??temporary?tablespace?scott_temp??; grant?resource,connect,dba?to??scott; drop?table?student; create?table?student??(??s_id?number(11)?,sno????number(11)?,?sname?varchar2(50),?sage??number(11),?ssex??varchar2(8)?,father_id?number(11),mather_id?number(11),note?varchar2(500))?nologging; truncate?table?student; create?or?replace?procedure?insert_student_datais?q?number(11);begin?q:=0;for?i?in??1..50?loop?insert?/*+append*/?into?student???select?rownum+q?as?s_id,rownum+q??as?sno,?concat('sutdent',rownum+q?)?as?sname,floor(dbms_random.value(1,100))?as?sage,'f'?as?ssex,rownum+q??as?father_id,rownum+q??as?mather_id,concat('note',rownum+q?)?as?note?from?dual?connect?by?level<=1000000;q:=q+1000000;commit;end?loop;? end?insert_student_data; / call?insert_student_data(); alter?table?student??add?constraint??pk_student?primary?key?(s_id); commit;???? select?count(*)?from?student; create?table?course?(?c_id?number(11)?primary?key,cname?varchar2(50),note?varchar2(500)?)??; truncate?table?course;create?or?replace?procedure?insert_course_datais?q?number(11);begin?for?i?in??1..1000?loop?insert?/*+append*/?into?course??values(i?,?concat('name',i),concat('note',i)?);??????end?loop;? end?insert_course_data; / call?insert_course_data(); commit;???? select?count(*)?from?course; create?table?sc?(?s_id????number(11),?c_id????number(11),?t_id????number(11),score?number(11)?)?nologging; truncate?table?sc;create?or?replace?procedure?insert_sc_datais?q?number(11);begin?q:=0;for?i?in??1..50?loop?insert?/*+append*/?into?sc???select?rownum+q?as?s_id,?floor(dbms_random.value(0,1000))??as?c_id,floor(dbms_random.value(0,10000000))?t_id,floor(dbms_random.value(0,750))?as?score?from?dual?connect?by?level<=1000000;q:=q+1000000;commit;end?loop;? end?insert_sc_data; / call?insert_sc_data(); create?index?idx_s_id??on?sc(s_id)???;? create?index?idx_t_id??on?sc(t_id)???;? create?index?idx_c_id??on?sc(c_id)???;? select?count(*)?from?sc; create?table?teacher?(?t_id??number(11)?,tname?varchar2(50)?,note?varchar2(500))nologging?;truncate?table?teacher; create?or?replace?procedure?insert_teacher_datais?q?number(11);begin?q:=0;for?i?in??1..10?loop?insert?/*+append*/?into?teacher???select?rownum+q?as?t_id,?concat('teacher',rownum+q?)?as?tname,concat('note',rownum+q?)?as?note?from?dual?connect?by?level<=1000000;q:=q+1000000;commit;end?loop;? end?insert_teacher_data; / call?insert_teacher_data(); alter?table?teacher??add?constraint??pk_teacher?primary?key?(t_id); select?count(*)?from?teacher; end近期八大熱門: 發(fā)現(xiàn)一個(gè)舔狗福利!這個(gè)Python爬蟲神器太爽了,自動下載妹子圖片! 盜墓熱再起!我爬取了6萬條《重啟之極海聽雷》的評論,發(fā)現(xiàn)了這些秘密 用Python一鍵生成炫酷九宮格圖片,火了朋友圈 菜鳥也瘋狂!8分鐘用Python做一個(gè)酷炫的家庭隨手記 Github獲8300星!用Python開發(fā)的一個(gè)命令行的網(wǎng)易云音樂 一道Python面試題,硬是沒憋出來,最后憋出一身汗!臥槽!Pdf轉(zhuǎn)Word用Python輕松搞定!教你6招,不錯(cuò)的Python代碼技巧! 由菜鳥學(xué)Python原班人馬打造的公眾號:菜鳥編程大本營,現(xiàn)已正式上線!每個(gè)程序員都是從菜鳥開始成長起來的,沒有人一開始就是程序員高手。菜鳥愛編程,專注于分享趣味的編程技巧,不限于Java, Python ,Go, Javascript等語言,讓菜鳥愛上編程,進(jìn)階成為高手。我們在B站上錄制了大量的視頻,歡迎大家交流學(xué)習(xí)
1). 花木蘭到底好看不,我用Python爬取上萬條評論
2). 80行Python代碼一鍵輕松把Pdf轉(zhuǎn)word
3). 用Python一鍵把圖片轉(zhuǎn)漫畫
4). 再見付費(fèi)軟件,我用70行Python搞定
5). 用Python分析“青春有你2”
6). 用Python三步制作短視頻
7).?用Python實(shí)現(xiàn)一個(gè)彈球游戲
8). 10行代碼實(shí)現(xiàn)美圖秀秀
9). 50行代碼用Python批量做海量小姐姐素描圖
點(diǎn)這里,直達(dá)菜鳥B站總結(jié)
以上是生活随笔為你收集整理的涨知识了!阿里规定超过三张表禁止join,为啥?的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 计算机班级学生分析,【本班学生学业成绩状
- 下一篇: Elasticsearch JestCl