這篇文章為大家帶來了關於mysql的相關知識,其中主要介紹了關於資料庫設計規範的相關問題,在使用MySQL資料庫的時候需要遵循一定規範,揚長避短,希望能夠在幫助或指導RD、QA、OP 等技術人員做出適合線上業務的資料庫設計。
推薦學習:mysql影片教學
#規格背景與目的
##MySQL 資料庫與Oracle、 SQL Server等資料庫相比,有其核心上的優勢與劣勢。我們在使用 MySQL 資料庫的時候需要遵循一定規範,揚長避短。本規範旨在協助或指導 RD、QA、OP 等技術人員做出適合線上業務的資料庫設計。在資料庫變更和處理流程、資料庫表設計、SQL 編寫等方面予以規範,從而為公司業務系統穩定、健康地運作提供保障。 資料庫設計以下所有規範會依照【高危險】、【強制】、【建議】三個層級進行標註,遵守優先順序從高到低。 對於不滿足【高危險】和【強制】兩個等級的設計,DBA 會強制打回要求修改。 一般命名規則- 【強制】使用小寫,有助於提高打字速度,避免因大小寫敏感而導致的錯誤。
- 【強制】沒有空格,用底線代替。
- 【強制】名稱中沒有數字,只有英文字母。
- 【強制】有效的可理解的名稱。
- 【強制】名稱應該是自我解釋的。
- 【強制】名稱不應超過 32 個字元。
- 【強制】避免使用前綴。
- 【強制】遵守以上全部一般命名規則。
- 【強制】使用單數。
- 【強制】庫的名稱格式:業務系統名稱_子系統名稱。
- 【強制】一般分庫名稱命名格式是庫通配名_編號,編號從0 開始遞增,例如northwind_001,以時間進行分庫的名稱格式是庫通配名_時間。
- 【強制】建立資料庫時必須明確指定字元集,且字元集只能是 utf8 或 utf8mb4。建立資料庫 SQL 範例:
create database db_name default character set utf8;表格
- #【強制】遵守上述全部一般命名規則。
- 【強制】使用單數。
- 【強制】相關模組的表名與表名之間盡量體現 join 的關係,如 user 表和 user_login 表。
- 【強制】建立表格時必須明確指定字元集為 utf8 或 utf8mb4。
- 【強制】建立表格時必須明確指定表格儲存引擎類型,如無特殊需求,一律為 InnoDB。當需要使用 InnoDB/MyISAM/Memory 以外的儲存引擎時,必須透過 DBA 審核才能在生產環境中使用。因為 InnoDB 表支援事務、行鎖、宕機復原、MVCC 等關聯式資料庫重要特性,為業界使用最多的 MySQL 儲存引擎。而這是其它大多數儲存引擎所不具備的,因此首推 InnoDB。
- 【強制】建表必須有 comment。
- 【強制】關於主鍵:(1) 命名為id,類型為int 或bigint,且為auto_increment;(2) 標識表裡每一行主體的欄位不要設為主鍵,建議設為其它欄位如user_id,order_id等,並建立unique key 索引。因為如果設為主鍵且主鍵值為隨機插入,則會導致 InnoDB 內部 page 分裂和大量隨機 I/O,效能下降。
- 【建議】核心表(如使用者表,金錢相關的表)必須有行資料的建立時間欄位 create_time 和最後更新時間欄位 update_time,以便於排查問題。
- 【建議】表中所有欄位必須都是 NOT NULL 屬性,業務可以依需求定義 DEFAULT 值。因為使用 NULL 值會存在每一行都會佔用額外儲存空間、資料遷移容易出錯、聚合函數計算結果偏差等問題。
- 【建議】建議對錶裡的 blob、text 等大字段,垂直拆分到其它表裡,僅在需要讀這些物件的時候才去 select。
- 【建議】反範式設計:把經常需要 join 查詢的字段,在其它表裡冗餘一份。如 username 屬性在 user_account,user_login_log 等表裡冗餘一份,減少 join 查詢。
- 【強制】中間表用來保留中間結果集,名稱必須以 tmp_ 開頭。備份表用於備份或抓取來源表快照,名稱必須以 bak_ 開頭。中間表和備份表定期清理。
【强制】对于超过 100W 行的大表进行 alter table,必须经过 DBA 审核,并在业务低峰期执行。因为 alter table 会产生表锁,期间阻塞对于该表的所有写入,对于业务可能会产生极大影响。
字段
【强制】遵守以上全部一般命名规则。
【建议】尽可能选择短的或一两个单词。
【强制】避免使用保留字作为字段名称:order,date,name 是数据库的保留字,避免使用它。可以为这些名称添加前缀使其易于理解,如 user_name,signup_date 等。
【强制】避免使用与表名相同的字段名,这会在编写查询时造成混淆。
【强制】在数据库模式上定义外键。
【强制】避免使用缩写或基于首字母缩写词的名称。
【强制】外键列必须具有表名及其主键,例如:blog_id 表示来自表博客的外键 id。
字段数据类型优化
【建议】表中的自增列(auto_increment 属性),推荐使用 bigint 类型。因为无符号 int 存储范围为 0~4,294,967,295(不到 43 亿),溢出后会导致报错。
【建议】业务中选择性很少的状态 status、类型 type 等字段推荐使用 tinytint 或者 smallint 类型节省存储空间。
【建议】业务中 IP 地址字段推荐使用 int 类型,不推荐用 char(15)。因为 int 只占 4 字节,可以用如下函数相互转换,而 char(15) 占用至少 15 字节。
select inet_aton('192.168.2.12'); select inet_ntoa(3232236044);
Java 保存字符串ip 转 int 类型
public static long ipToLong(String addr) { String[] addrArray = addr.split("\\."); long num = 0; for (int i = 0; i < addrArray.length; i++) { int power = 3 - i; num += ((Integer.parseInt(addrArray[i]) % 256 * Math.pow(256, power))); } return num; } public static String longToIp(long i){ return ((i >> 24) & 0xFF) + "." + ((i >> 16) & 0xFF) + "." + ((i >> 8) & 0xFF) + "." + (i & 0xFF); }
【建议】不推荐使用 enum,set。 因为它们浪费空间,且枚举值写死了,变更不方便。推荐使用 tinyint 或 smallint。
【建议】不推荐使用 blob,text 等类型。它们都比较浪费硬盘和内存空间。在加载表数据时,会读取大字段到内存里从而浪费内存空间,影响系统性能。建议和 PM、RD 沟通,是否真的需要这么大字段。InnoDB 中当一行记录超过 8098 字节时,会将该记录中选取最长的一个字段将其 768 字节放在原始 page 里,该字段余下内容放在 overflow-page 里。不幸的是在 compact 行格式下,原始 page 和 overflow-page 都会加载。
【建议】存储金钱的字段,建议用 int 以分为单位存储,最大数值约 4290 万,程序端乘以 100 和除以 100 进行存取。因为 int 占用 4 字节,而 double 占用 8 字节,空间浪费。
【建议】文本数据尽量用 varchar 存储。因为 varchar 是变长存储,比 char 更省空间。MySQL server 层规定一行所有文本最多存 65535 字节,因此在 utf8 字符集下最多存 21844 个字符,超过会自动转换为 mediumtext 字段。而 text 在 utf8 字符集下最多存 21844 个字符,mediumtext 最多存 2^24/3 个字符,longtext 最多存 2^32 个字符。一般建议用 varchar 类型,字符数不要超过 2700。
【建议】时间类型尽量选取 timestamp。因为 datetime 占用 8 字节,timestamp 仅占用 4 字节,但是范围为 1970-01-01 00:00:01 到 2038-01-01 00:00:00。更为高阶的方法,选用 int 来存储时间,使用 SQL 函数 unix_timestamp() 和 from_unixtime() 来进行转换。
索引设计
【强制】InnoDB 表必须主键为 id int/bigint auto_increment,且主键值禁止被更新。
【建议】主键的名称以 pk_ 开头,唯一键以 uk_ 开头,普通索引以 ix_ 开头,一律使用小写格式,以表名/字段的名称或缩写作为后缀。
【强制】InnoDB 和 MyISAM 存储引擎表,索引类型必须为 BTREE;MEMORY 表可以根据需要选择 HASH 或者 BTREE 类型索引。
【强制】单个索引中每个索引记录的长度不能超过 64KB。
【建议】单个表上的索引个数不能超过 7 个。
【建议】在建立索引时,多考虑建立联合索引,并把区分度最高的字段放在最前面。如列 user_id 的区分度可由 select count(distinct user_id) 计算出来。
【建议】在多表 join 的 SQL 里,保证被驱动表的连接列上有索引,这样 join 执行效率最高。
【建议】建表或加索引时,保证表里互相不存在冗余索引。对于 MySQL 来说,如果表里已经存在 key(a, b),则 key(a) 为冗余索引,需要删除。
【建议】如果选择性超过 20%,那么全表扫描比使用索引性能更优,即没有设置索引的必要。
分库分表、分区表
【强制】分区表的分区字段(partition-key)必须有索引,或者是组合索引的首列。
【强制】单个分区表中的分区(包括子分区)个数不能超过 1024。
【强制】上线前 RD 或者 DBA 必须指定分区表的创建、清理策略。
【强制】访问分区表的 SQL 必须包含分区键。
【建议】单个分区文件不超过 2G,总大小不超过 50G。建议总分区数不超过 20 个。
【强制】对于分区表执行 alter table 操作,必须在业务低峰期执行。
【强制】采用分库策略的,库的数量不能超过 1024。
【强制】采用分表策略的,表的数量不能超过 4096。
【建议】单个分表不超过 500W 行,ibd 文件大小不超过 2G,这样才能让数据分布式变得性能更佳。
【建议】水平分表尽量用取模方式,日志、报表类数据建议采用日期进行分表。
字符集
【强制】数据库本身库、表、列所有字符集必须保持一致,为 utf8 或 utf8mb4。
【强制】前端程序字符集或者环境变量中的字符集,与数据库、表的字符集必须一致,统一为 utf8。
程序层 DAO 设计建议
【建议】新的代码不要用 model,推荐使用手动拼 SQL + 绑定变量传入参数的方式。因为 model 虽然可以使用面向对象的方式操作 db,但是其使用不当很容易造成生成的 SQL 非常复杂,且 model 层自己做的强制类型转换性能较差,最终导致数据库性能下降。
【建议】前端程序连接 MySQL 或者 Redis,必须要有连接超时和失败重连机制,且失败重试必须有间隔时间。
【建议】前端程序报错里尽量能够提示 MySQL 或 Redis 原生态的报错信息,便于排查错误。
【建议】对于有连接池的前端程序,必须根据业务需要配置初始、最小、最大连接数,超时时间以及连接回收机制,否则会耗尽数据库连接资源,造成线上事故。
【建议】对于 log 或 history 类型的表,随时间增长容易越来越大,因此上线前 RD 或者 DBA 必须建立表数据清理或归档方案。
【建议】在应用程序设计阶段,RD 必须考虑并规避数据库中主从延迟对于业务的影响。尽量避免从库短时延迟(20 秒以内)对业务造成影响,建议强制一致性的读开启事务走主库,或更新后过一段时间再去读从库。
【建议】多个并发业务逻辑访问同一块数据(InnoDB 表)时,会在数据库端产生行锁甚至表锁导致并发下降,因此建议更新类 SQL 尽量基于主键去更新。
【建议】业务逻辑之间加锁顺序尽量保持一致,否则会导致死锁。
【建议】对于单表读写比大于 10:1 的数据行或单个列,可以将热点数据放在缓存里(如 Memcached 或 Redis),加快访问速度,降低 MySQL 压力。
一个规范的建表语句示例
一个较为规范的建表语句为:
create table user ( `id` bigint(11) not null auto_increment, `user_id` bigint(11) not null comment '用户 ID', `username` varchar(45) not null comment '登录名', `email` varchar(30) not null comment '邮箱', `nickname` varchar(45) not null comment '昵称', `avatar` int(11) not null comment '头像', `birthday` date not null comment '生日', `gender` tinyint(4) default '0' comment '性别', `intro` varchar(150) default null comment '简介', `resume_url` varchar(300) not null comment '简历存放地址', `register_ip` int not null comment '用户注册时的源 IP', `review_status` tinyint not null comment '审核状态,1-通过,2-审核中,3-未通过,4-尚未提交审核', `create_time` timestamp not null comment '记录创建的时间', `update_time` timestamp not null comment '资料修改的时间', primary key (`id`), unique key `idx_user_id` (`user_id`), key `idx_username`(`username`), key `idx_create_time`(`create_time`, `review_status`) ) engine = InnoDB default charset = utf8 comment = '用户基本信息';
DML 语句
【强制】select 语句必须指定具体字段名称,禁止写成 *。因为 select * 会将不该读的数据也从 MySQL 里读出来,造成网卡压力。
【强制】insert 语句指定具体字段名称,不要写成 insert into t1 values(…),道理同上。
【建议】insert into … values(xx),(xx),(xx)…,这里 xx 的值不要超过 5000 个。值过多虽然上线很快,但会引起主从同步延迟。
【建议】select 语句不要使用 union,推荐使用 union all,并且 union 子句个数限制在 5 个以内。因为 union all 不需要去重,节省数据库资源,提高性能。
【建议】in 值列表限制在 500 以内。例如 select … where user_id in(…500 个以内…),这么做是为了减少底层扫描,减轻数据库压力从而加速查询。
【建议】事务里批量更新数据需要控制数量,进行必要的 sleep,做到少量多次。
【强制】事务涉及的表必须全部是 InnoDB 表。否则一旦失败不会全部回滚,且易造成主从库同步终端。
【强制】写入和事务发往主库,只读 SQL 发往从库。
【强制】除静态表或小表(100 行以内),dml 语句必须有 where 条件,且使用索引查找。
【強迫】生產環境禁止使用 hint,如 sql_no_cache,force index,ignore key,straight join 等。因為 hint 是用來強制 sql 依照某個執行計畫來執行,但隨著資料量變化我們無法保證自己當初的預判是正確的,因此我們要相信 MySQL 最佳化器。
【強制】where 條件裡等號左右欄位類型必須一致,否則無法利用索引。
【建議】select|update|delete|replace 要有 where 子句,且 where 子句的條件必要使用索引來尋找。
【強制】生產資料庫中強烈不建議大表上發生全表掃描,但對於 100 行以下的靜態表可以全表掃描。查詢資料量不要超過表格行數的 25%,否則不會利用索引。
【強制】where 子句中禁止只使用全模糊的 like 條件進行查找,必須有其它等值或範圍查詢條件,否則無法利用索引。
【建議】索引列不要使用函數或表達式,否則無法利用索引。如 where length(name) = 'admin' 或 where user_id 2 = 10023。
【建議】減少使用 or 語句,可將 or 語句最佳化為 union,然後在各個 where 條件上建立索引。如 where a = 1 or b = 2 優化為 where a = 1 … union … where b = 2, key(a), key(b)。
【建議】分頁查詢,當 limit 起點較高時,可先用篩選條件進行篩選。如 select a, b, c from t1 limit 10000, 20; 優化為: select a, b, c from t1 where id > 10000 limit 20;。
多表連接
【強制】禁止跨 DB 的 join 語句。因為這樣可以減少模組間耦合,為資料庫拆分奠定堅實基礎。
【強制】禁止在業務的更新類別 SQL 語句中使用 join,例如 update t1 join t2 …。
【建議】不建議使用子查詢,建議將子查詢 SQL 拆開結合程式多次查詢,或使用 join 來取代子查詢。
【建議】線上環境,多表 join 不要超過 3 張表。
【建議】多表連接查詢推薦使用別名,且 select 列表中要用別名引用字段,資料庫.表格式,如 select a from db1.table1 alias1 where …。
【建議】在多表 join 中,盡量選取結果集較小的表作為驅動表,來 join 其它表。
事務
【建議】事務中insert|update|delete|replace 語句操作的行數控制在2000 以內,以及where 子句中in 列表的傳參個數控制在500 以內。
【建議】批量操作資料時,需要控制交易處理間隔時間,進行必要的 sleep,一般建議值 5-10 秒。
【建議】對於有 auto_increment 屬性欄位的表格的插入操作,並發需要控制在 200 以內。
【強制】程式設計必須考慮「資料庫事務隔離層級」所帶來的影響,包括髒讀、不可重複讀取和幻讀。線上建議事務隔離等級為 repeatable-read。
【建議】事務裡包含 SQL 不超過 5 個(支付業務除外)。因為過長的事務會導致鎖定資料較長,MySQL 內部快取、連線消耗過多等雪崩問題。
【建議】事務裡更新語句盡量基於主鍵或unique key,如update … where id = XX;,否則會產生間隙鎖,內部擴大鎖定範圍,導致系統效能下降,產生死鎖。
【建議】盡量把一些典型外部呼叫移出事務,如呼叫 Web Service,存取檔案儲存等,以避免事務過長。
【建議】對於 MySQL 主從延遲嚴格敏感的 select 語句,請開啟交易強制存取主函式庫。
排序和分組
【建議】減少使用order by,和業務溝通能不排序就不排序,或將排序放到程式端去做。 order by、group by、distinct 這些語句較為耗費 CPU,資料庫的 CPU 資源是極為寶貴的。
【建議】order by、group by、distinct 這些 SQL 盡量利用索引直接檢索出排序好的資料。如 where a = 1 order by 可以利用 key(a, b)。
【建議】包含了 order by、group by、distinct 這些查詢的語句,where 條件過濾出來的結果集請保持在 1000 行以內,否則 SQL 會很慢。
線上禁止使用的SQL 語句
【高危險】禁用update|delete t1 … where a = XX limit XX; 這種帶limit 的更新語句。因為會導致主從不一致,導致資料錯亂。建議加上 order by PK。
【高危險群】禁止使用關聯子查詢,如 update t1 set … where name in(select name from user where …);,效率極低。
【強制】停用 procedure、function、trigger、views、event、外鍵約束。因為他們消耗資料庫資源,降低資料庫執行個體可擴展性。推薦都在程式端實作。
【強制】停用 insert into … on duplicate key update … 在高並發環境下,會造成主從不一致。
【強制】禁止聯表更新語句,如 update t1, t2 where t1.id = t2.id …。
推薦學習:mysql影片教學
以上是歸納整理MySQL資料庫設計規範的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本篇文章给大家带来了关于mysql的相关知识,其中主要介绍了关于架构原理的相关内容,MySQL Server架构自顶向下大致可以分网络连接层、服务层、存储引擎层和系统文件层,下面一起来看一下,希望对大家有帮助。

mysql的msi与zip版本的区别:1、zip包含的安装程序是一种主动安装,而msi包含的是被installer所用的安装文件以提交请求的方式安装;2、zip是一种数据压缩和文档存储的文件格式,msi是微软格式的安装包。

方法:1、利用right函数,语法为“update 表名 set 指定字段 = right(指定字段, length(指定字段)-1)...”;2、利用substring函数,语法为“select substring(指定字段,2)..”。

在mysql中,可以利用char()和REPLACE()函数来替换换行符;REPLACE()函数可以用新字符串替换列中的换行符,而换行符可使用“char(13)”来表示,语法为“replace(字段名,char(13),'新字符串') ”。

转换方法:1、利用cast函数,语法“select * from 表名 order by cast(字段名 as SIGNED)”;2、利用“select * from 表名 order by CONVERT(字段名,SIGNED)”语句。

本篇文章给大家带来了关于mysql的相关知识,其中主要介绍了关于MySQL复制技术的相关问题,包括了异步复制、半同步复制等等内容,下面一起来看一下,希望对大家有帮助。

在mysql中,可以利用REGEXP运算符判断数据是否是数字类型,语法为“String REGEXP '[^0-9.]'”;该运算符是正则表达式的缩写,若数据字符中含有数字时,返回的结果是true,反之返回的结果是false。

在mysql中,是否需要commit取决于存储引擎:1、若是不支持事务的存储引擎,如myisam,则不需要使用commit;2、若是支持事务的存储引擎,如innodb,则需要知道事务是否自动提交,因此需要使用commit。


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

AI Hentai Generator
免費產生 AI 無盡。

熱門文章

熱工具

Dreamweaver Mac版
視覺化網頁開發工具

mPDF
mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),

PhpStorm Mac 版本
最新(2018.2.1 )專業的PHP整合開發工具

SublimeText3漢化版
中文版,非常好用

MinGW - Minimalist GNU for Windows
這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。