一,、數(shù)據(jù)庫命令規(guī)范
二、數(shù)據(jù)庫基本設(shè)計(jì)規(guī)范 1,、所有表必須使用Innodb存儲引擎 沒有特殊要求(即Innodb無法滿足的功能如:列存儲,,存儲空間數(shù)據(jù)等)的情況下,所有表必須使用Innodb存儲引擎(mysql5.5之前默認(rèn)使用Myisam,,5.6以后默認(rèn)的為Innodb)Innodb 支持事務(wù),,支持行級鎖,更好的恢復(fù)性,,高并發(fā)下性能更好 2,、數(shù)據(jù)庫和表的字符集統(tǒng)一使用UTF8 兼容性更好,統(tǒng)一字符集可以避免由于字符集轉(zhuǎn)換產(chǎn)生的亂碼,,不同的字符集進(jìn)行比較前需要進(jìn)行轉(zhuǎn)換會造成索引失效 3,、所有表和字段都需要添加注釋 使用comment從句添加表和列的備注 從一開始就進(jìn)行數(shù)據(jù)字典的維護(hù) 4、盡量控制單表數(shù)據(jù)量的大小,,建議控制在500萬以內(nèi) 500萬并不是MySQL數(shù)據(jù)庫的限制,,過大會造成修改表結(jié)構(gòu),備份,,恢復(fù)都會有很大的問題 可以用歷史數(shù)據(jù)歸檔(應(yīng)用于日志數(shù)據(jù)),,分庫分表(應(yīng)用于業(yè)務(wù)數(shù)據(jù))等手段來控制數(shù)據(jù)量大小 5、謹(jǐn)慎使用MySQL分區(qū)表 分區(qū)表在物理上表現(xiàn)為多個(gè)文件,,在邏輯上表現(xiàn)為一個(gè)表 謹(jǐn)慎選擇分區(qū)鍵,,跨分區(qū)查詢效率可能更低 建議采用物理分表的方式管理大數(shù)據(jù) 6,、盡量做到冷熱數(shù)據(jù)分離,減小表的寬度 MySQL限制每個(gè)表最多存儲4096列,,并且每一行數(shù)據(jù)的大小不能超過65535字節(jié) 減少磁盤IO,保證熱數(shù)據(jù)的內(nèi)存緩存命中率(表越寬,,把表裝載進(jìn)內(nèi)存緩沖池時(shí)所占用的內(nèi)存也就越大,也會消耗更多的IO) 更有效的利用緩存,避免讀入無用的冷數(shù)據(jù) 經(jīng)常一起使用的列放到一個(gè)表中(避免更多的關(guān)聯(lián)操作) 7,、禁止在表中建立預(yù)留字段 預(yù)留字段的命名很難做到見名識義 預(yù)留字段無法確認(rèn)存儲的數(shù)據(jù)類型,,所以無法選擇合適的類型 對預(yù)留字段類型的修改,會對表進(jìn)行鎖定 8,、禁止在數(shù)據(jù)庫中存儲圖片,,文件等大的二進(jìn)制數(shù)據(jù) 通常文件很大,會短時(shí)間內(nèi)造成數(shù)據(jù)量快速增長,,數(shù)據(jù)庫進(jìn)行數(shù)據(jù)庫讀取時(shí),通常會進(jìn)行大量的隨機(jī)IO操作,,文件很大時(shí),,IO操作很耗時(shí) 通常存儲于文件服務(wù)器,數(shù)據(jù)庫只存儲文件地址信息 9,、禁止在線上做數(shù)據(jù)庫壓力測試 10,、禁止從開發(fā)環(huán)境,測試環(huán)境直接連接生成環(huán)境數(shù)據(jù)庫 三,、數(shù)據(jù)庫字段設(shè)計(jì)規(guī)范 1,、優(yōu)先選擇符合存儲需要的最小的數(shù)據(jù)類型
列的字段越大,建立索引時(shí)所需要的空間也就越大,,這樣一頁中所能存儲的索引節(jié)點(diǎn)的數(shù)量也就越少也越少,,在遍歷時(shí)所需要的IO次數(shù)也就越多, 索引的性能也就越差
1)將字符串轉(zhuǎn)換成數(shù)字類型存儲,,如:將IP地址轉(zhuǎn)換成整形數(shù)據(jù),。 mysql提供了兩個(gè)方法來處理ip地址: inet_aton 把ip轉(zhuǎn)為無符號整型(4-8位) inet_ntoa 把整型的ip轉(zhuǎn)為地址 插入數(shù)據(jù)前,先用inet_aton把ip地址轉(zhuǎn)為整型,,可以節(jié)省空間,。顯示數(shù)據(jù)時(shí),使用inet_ntoa把整型的ip地址轉(zhuǎn)為地址顯示即可,。 2)對于非負(fù)型的數(shù)據(jù)(如自增ID,、整型IP)來說,要優(yōu)先使用無符號整型來存儲 因?yàn)椋簾o符號相對于有符號可以多出一倍的存儲空間 SIGNED INT -2147483648~2147483647 UNSIGNED INT 0~4294967295 VARCHAR(N)中的N代表的是字符數(shù),,而不是字節(jié)數(shù) 使用UTF8存儲255個(gè)漢字 Varchar(255)=765個(gè)字節(jié),。過大的長度會消耗更多的內(nèi)存 2、避免使用TEXT,、BLOB數(shù)據(jù)類型,,最常見的TEXT類型可以存儲64k的數(shù)據(jù)
Mysql內(nèi)存臨時(shí)表不支持TEXT、BLOB這樣的大數(shù)據(jù)類型,如果查詢中包含這樣的數(shù)據(jù),,在排序等操作時(shí),,就不能使用內(nèi)存臨時(shí)表,必須使用磁盤臨時(shí)表進(jìn)行,。 而且對于這種數(shù)據(jù),,Mysql還是要進(jìn)行二次查詢,會使sql性能變得很差,,但是不是說一定不能使用這樣的數(shù)據(jù)類型,。 如果一定要使用,建議把BLOB或是TEXT列分離到單獨(dú)的擴(kuò)展表中,,查詢時(shí)一定不要使用select * 而只需要取出必要的列,,不需要TEXT列的數(shù)據(jù)時(shí)不要對該列進(jìn)行查詢。
因?yàn)镸ySQL對索引字段長度是有限制的,,所以TEXT類型只能使用前綴索引,,并且TEXT列上是不能有默認(rèn)值的。 3,、避免使用ENUM類型
4、盡可能把所有列定義為NOT 原因:
5、使用TIMESTAMP(4個(gè)字節(jié))或DATETIME類型(8個(gè)字節(jié))存儲時(shí)間 TIMESTAMP 占用4字節(jié)和INT相同,,但比INT可讀性高 超出TIMESTAMP取值范圍的使用DATETIME類型存儲,。 經(jīng)常會有人用字符串存儲日期型的數(shù)據(jù)(不正確的做法):
6、同財(cái)務(wù)相關(guān)的金額類數(shù)據(jù)必須使用decimal類型
Decimal類型為精準(zhǔn)浮點(diǎn)數(shù),,在計(jì)算時(shí)不會丟失精度,。占用空間由定義的寬度決定,每4個(gè)字節(jié)可以存儲9位數(shù)字,,并且小數(shù)點(diǎn)要占用一個(gè)字節(jié),。可用于存儲比bigint更大的整型數(shù)據(jù),。 四,、索引設(shè)計(jì)規(guī)范 1、限制每張表上的索引數(shù)量,,建議單張表索引不超過5個(gè) 索引并不是越多越好,!索引可以提高效率同樣可以降低效率。 索引可以增加查詢效率,,但同樣也會降低插入和更新的效率,,甚至有些情況下會降低查詢效率,。 因?yàn)閙ysql優(yōu)化器在選擇如何優(yōu)化查詢時(shí),會根據(jù)統(tǒng)一信息,,對每一個(gè)可以用到的索引來進(jìn)行評估,,以生成出一個(gè)最好的執(zhí)行計(jì)劃,如果同時(shí)有很多個(gè)索引都可以用于查詢,,就會增加mysql優(yōu)化器生成執(zhí)行計(jì)劃的時(shí)間,,同樣會降低查詢性能。 2,、禁止給表中的每一列都建立單獨(dú)的索引 5.6版本之前,,一個(gè)sql只能使用到一個(gè)表中的一個(gè)索引,5.6以后,,雖然有了合并索引的優(yōu)化方式,,但是還是遠(yuǎn)遠(yuǎn)沒有使用一個(gè)聯(lián)合索引的查詢方式好 3、每個(gè)Innodb表必須有個(gè)主鍵 Innodb是一種索引組織表:數(shù)據(jù)的存儲的邏輯順序和索引的順序是相同的,。 每個(gè)表都可以有多個(gè)索引,,但是表的存儲順序只能有一種 Innodb是按照主鍵索引的順序來組織表的。 不要使用更新頻繁的列作為主鍵,,不適用多列主鍵(相當(dāng)于聯(lián)合索引) 不要使用UUID、MD5,、HASH,、字符串列作為主鍵(無法保證數(shù)據(jù)的順序增長)。 主鍵建議使用自增ID值,。 五,、常見索引列建議
六、如何選擇索引列的順序 建立索引的目的是:希望通過索引進(jìn)行數(shù)據(jù)查找,,減少隨機(jī)IO,,增加查詢性能 ,索引能過濾出越少的數(shù)據(jù),,則從磁盤中讀入的數(shù)據(jù)也就越少,。
七,、避免建立冗余索引和重復(fù)索引 因?yàn)檫@樣會增加查詢優(yōu)化器生成執(zhí)行計(jì)劃的時(shí)間,。
八,、優(yōu)先考慮覆蓋索引 對于頻繁的查詢優(yōu)先考慮使用覆蓋索引,。 覆蓋索引:就是包含了所有查詢字段(where,select,ordery by,group by包含的字段)的索引 覆蓋索引的好處:
Innodb是以聚集索引的順序來存儲的,對于Innodb來說,,二級索引在葉子節(jié)點(diǎn)中所保存的是行的主鍵信息,, 如果是用二級索引查詢數(shù)據(jù)的話,在查找到相應(yīng)的鍵值后,,還要通過主鍵進(jìn)行二次查詢才能獲取我們真實(shí)所需要的數(shù)據(jù),。而在覆蓋索引中,二級索引的鍵值中可以獲取所有的數(shù)據(jù),,避免了對主鍵的二次查詢 ,,減少了IO操作,提升了查詢效率,。
由于覆蓋索引是按鍵值的順序存儲的,,對于IO密集型的范圍查找來說,對比隨機(jī)從磁盤讀取每一行的數(shù)據(jù)IO要少的多,,因此利用覆蓋索引在訪問時(shí)也可以把磁盤的隨機(jī)讀取的IO轉(zhuǎn)變成索引查找的順序IO,。 九、索引SET規(guī)范 盡量避免使用外鍵約束
十、數(shù)據(jù)庫SQL開發(fā)規(guī)范 1,、建議使用預(yù)編譯語句進(jìn)行數(shù)據(jù)庫操作 預(yù)編譯語句可以重復(fù)使用這些計(jì)劃,,減少SQL編譯所需要的時(shí)間,還可以解決動(dòng)態(tài)SQL所帶來的SQL注入的問題 只傳參數(shù),,比傳遞SQL語句更高效 相同語句可以一次解析,,多次使用,提高處理效率,。 2,、避免數(shù)據(jù)類型的隱式轉(zhuǎn)換 隱式轉(zhuǎn)換會導(dǎo)致索引失效,。如:select name,phone from customer where id = '111'; 3、充分利用表上已經(jīng)存在的索引
如a like '%123%',,(如果無前置%,只有后置%,是可以用到列上的索引的)
如:有 a,b,c列的聯(lián)合索引,,在查詢條件中有a列的范圍查詢,,則在b,c列上的索引將不會被用到,在定義聯(lián)合索引時(shí),,如果a列要用到范圍查找的話,,就要把a(bǔ)列放到聯(lián)合索引的右側(cè)。
因?yàn)閚ot in 也通常會使用索引失效,。 4,、數(shù)據(jù)庫設(shè)計(jì)時(shí),應(yīng)該要對以后擴(kuò)展進(jìn)行考慮 5,、程序連接不同的數(shù)據(jù)庫使用不同的賬號,,進(jìn)制跨庫查詢
6、禁止使用SELECT * 必須使用SELECT <字段列表> 查詢 原因:
7,、禁止使用不含字段列表的INSERT語句 如:insert into values ('a','b','c'); 應(yīng)使用insert into t(c1,c2,c3) values ('a','b','c'); 8,、避免使用子查詢,可以把子查詢優(yōu)化為join操作 通常子查詢在in子句中,,且子查詢中為簡單SQL(不包含union,、group by、order by,、limit從句)時(shí),才可以把子查詢轉(zhuǎn)化為關(guān)聯(lián)查詢進(jìn)行優(yōu)化,。 子查詢性能差的原因:
9,、避免使用JOIN關(guān)聯(lián)太多的表 對于Mysql來說,是存在關(guān)聯(lián)緩存的,,緩存的大小可以由join_buffer_size參數(shù)進(jìn)行設(shè)置,。 在Mysql中,,對于同一個(gè)SQL多關(guān)聯(lián)(join)一個(gè)表,就會多分配一個(gè)關(guān)聯(lián)緩存,,如果在一個(gè)SQL中關(guān)聯(lián)的表越多,,所占用的內(nèi)存也就越大。 如果程序中大量的使用了多表關(guān)聯(lián)的操作,,同時(shí)join_buffer_size設(shè)置的也不合理的情況下,,就容易造成服務(wù)器內(nèi)存溢出的情況,就會影響到服務(wù)器數(shù)據(jù)庫性能的穩(wěn)定性,。 同時(shí)對于關(guān)聯(lián)操作來說,,會產(chǎn)生臨時(shí)表操作,影響查詢效率Mysql最多允許關(guān)聯(lián)61個(gè)表,,建議不超過5個(gè),。 10、減少同數(shù)據(jù)庫的交互次數(shù) 數(shù)據(jù)庫更適合處理批量操作 合并多個(gè)相同的操作到一起,,可以提高處理效率 11,、對應(yīng)同一列進(jìn)行or判斷時(shí),使用in代替or in的值不要超過500個(gè)in操作可以更有效的利用索引,,or大多數(shù)情況下很少能利用到索引,。 12、禁止使用order by rand 進(jìn)行隨機(jī)排序 會把表中所有符合條件的數(shù)據(jù)裝載到內(nèi)存中,,然后在內(nèi)存中對所有數(shù)據(jù)根據(jù)隨機(jī)生成的值進(jìn)行排序,,并且可能會對每一行都生成一個(gè)隨機(jī)值,如果滿足條件的數(shù)據(jù)集非常大,,就會消耗大量的CPU和IO及內(nèi)存資源,。 推薦在程序中獲取一個(gè)隨機(jī)值,然后從數(shù)據(jù)庫中獲取數(shù)據(jù)的方式 13,、WHERE從句中禁止對列進(jìn)行函數(shù)轉(zhuǎn)換和計(jì)算 對列進(jìn)行函數(shù)轉(zhuǎn)換或計(jì)算時(shí)會導(dǎo)致無法使用索引,。
where date(create_time)='20190101'
where create_time >= '20190101' and create_time < '20190102' 14、在明顯不會有重復(fù)值時(shí)使用UNION ALL而不是UNION
15,、拆分復(fù)雜的大SQL為多個(gè)小SQL
十一、數(shù)據(jù)庫操作行為規(guī)范 1,、超100萬行的批量寫(UPDATE,、DELETE、INSERT)操作,,要分批多次進(jìn)行操作
主從環(huán)境中,,大批量操作可能會造成嚴(yán)重的主從延遲,大批量的寫操作一般都需要執(zhí)行一定長的時(shí)間,,而只有當(dāng)主庫上執(zhí)行完成后,,才會在其他從庫上執(zhí)行,,所以會造成主庫與從庫長時(shí)間的延遲情況
大批量寫操作會產(chǎn)生大量日志,特別是對于row格式二進(jìn)制數(shù)據(jù)而言,,由于在row格式中會記錄每一行數(shù)據(jù)的修改,,我們一次修改的數(shù)據(jù)越多,產(chǎn)生的日志量也就會越多,,日志的傳輸和恢復(fù)所需要的時(shí)間也就越長,,這也是造成主從延遲的一個(gè)原因。
大批量修改數(shù)據(jù),,一定是在一個(gè)事務(wù)中進(jìn)行的,,這就會造成表中大批量數(shù)據(jù)進(jìn)行鎖定,從而導(dǎo)致大量的阻塞,,阻塞會對MySQL的性能產(chǎn)生非常大的影響,。 特別是長時(shí)間的阻塞會占滿所有數(shù)據(jù)庫的可用連接,這會使生產(chǎn)環(huán)境中的其他應(yīng)用無法連接到數(shù)據(jù)庫,,因此一定要注意大批量寫操作要進(jìn)行分批,。 2、對于大表使用pt-online-schema-change修改表結(jié)構(gòu)
對大表數(shù)據(jù)結(jié)構(gòu)的修改一定要謹(jǐn)慎,,會造成嚴(yán)重的鎖表操作,,尤其是生產(chǎn)環(huán)境,是不能容忍的,。 pt-online-schema-change它會首先建立一個(gè)與原表結(jié)構(gòu)相同的新表,,并且在新表上進(jìn)行表結(jié)構(gòu)的修改,然后再把原表中的數(shù)據(jù)復(fù)制到新表中,,并在原表中增加一些觸發(fā)器,。 把原表中新增的數(shù)據(jù)也復(fù)制到新表中,在行所有數(shù)據(jù)復(fù)制完成之后,,把新表命名成原表,,并把原來的表刪除掉。 把原來一個(gè)DDL操作,,分解成多個(gè)小的批次進(jìn)行,。 3,、禁止為程序使用的賬號賦予super權(quán)限 當(dāng)達(dá)到最大連接數(shù)限制時(shí),,還運(yùn)行1個(gè)有super權(quán)限的用戶連接super權(quán)限只能留給DBA處理問題的賬號使用。 4,、對于程序連接數(shù)據(jù)庫賬號,,遵循權(quán)限最小原則 程序使用數(shù)據(jù)庫賬號只能在一個(gè)DB下使用,不準(zhǔn)跨庫 程序使用的賬號原則上不準(zhǔn)有drop權(quán)限,。 |
|