Résumer et organiser les spécifications de conception de base de données MySQL

Cet article vous apporte des connaissances pertinentes sur mysql, qui présente principalement des problèmes liés aux spécifications de conception de base de données. Lorsque vous utilisez la base de données MySQL, vous devez suivre certaines spécifications, maximiser les points forts et éviter les faiblesses. , OP et d'autres membres du personnel technique créent des conceptions de bases de données adaptées aux activités en ligne.

Apprentissage recommandé : Tutoriel vidéo mysql

Contexte et objectif de la spécification

Par rapport à Oracle, SQL Server et d'autres bases de données, la base de données MySQL a ses principaux avantages et inconvénients. Lorsque nous utilisons la base de données MySQL, nous devons suivre certaines normes, maximiser nos forces et éviter les faiblesses. Cette spécification est destinée à aider ou à guider les RD, QA, OP et autres personnels techniques pour créer une conception de base de données adaptée aux activités en ligne. Standardiser les modifications et les procédures de traitement des bases de données, la conception des tables de bases de données, l'écriture SQL, etc. pour assurer le fonctionnement stable et sain du système commercial de l'entreprise.

Conception de base de données

Toutes les spécifications suivantes seront notées selon trois niveaux : [Risque élevé], [Obligatoire] et [Recommandé], et la priorité de conformité va de élevée à faible.

Pour les conceptions qui ne répondent pas aux deux niveaux de [Risque élevé] et [Obligatoire], le DBA la forcera à revenir et nécessitera des modifications.

Règles générales de dénomination

• 【Obligatoire】Utilisez des minuscules pour améliorer la vitesse de frappe et éviter les erreurs causées par la sensibilité à la casse.

• 【Obligatoire】Pas d'espaces, utilisez plutôt des traits de soulignement.

• 【Obligatoire】 Il n'y a pas de chiffres dans le nom, seulement des lettres anglaises.

• 【Obligatoire】Un nom valide et compréhensible.

• 【Obligatoire】Le nom doit être explicite.

• 【Obligatoire】Le nom ne doit pas dépasser 32 caractères.

• 【Obligatoire】Évitez d'utiliser des préfixes.

Bibliothèque

• 【Obligatoire】Suivez toutes les règles générales de dénomination ci-dessus.

• 【Obligatoire】Utilisez le nombre impair.

• 【Obligatoire】Le format du nom de la bibliothèque : nom du système d'entreprise_nom du sous-système.

• 【Obligatoire】Généralement, le format de nom d'une base de données de branche est le caractère générique de bibliothèque nom_numéro, et le nombre commence à partir de 0 et augmente à partir de 0, comme northwind_001. Le format de nom de la branche de base de données en fonction de l'heure est le caractère générique de bibliothèque nom_heure.

• 【Obligatoire】Le jeu de caractères doit être explicitement spécifié lors de la création de la base de données, et le jeu de caractères ne peut être que utf8 ou utf8mb4. Exemple de création de base de données SQL :

create database db_name default character set utf8;

Table

• [Obligatoire] Suivez toutes les règles générales de dénomination ci-dessus.

• 【Obligatoire】Utilisez le nombre impair.

• [Obligatoire] Essayez de refléter la relation de jointure entre les noms de table des modules associés, tels que la table user et la table user_login.

• 【Obligatoire】Le jeu de caractères doit être explicitement spécifié comme utf8 ou utf8mb4 lors de la création d'une table.

• 【Obligatoire】Le type de moteur de stockage de table doit être explicitement spécifié lors de la création d'une table. S'il n'y a pas d'exigences particulières, ce sera toujours InnoDB. Lorsqu'il est nécessaire d'utiliser un moteur de stockage autre qu'InnoDB/MyISAM/Memory, il doit passer l'examen DBA avant d'être utilisé dans un environnement de production. Étant donné que les tables InnoDB prennent en charge des fonctionnalités importantes des bases de données relationnelles telles que les transactions, les verrouillages de lignes, la récupération en cas d'indisponibilité et MVCC, il s'agit du moteur de stockage MySQL le plus utilisé du secteur. C'est quelque chose que la plupart des autres moteurs de stockage n'ont pas, c'est pourquoi InnoDB est recommandé en premier.

• 【Obligatoire】Un commentaire est requis lors de la création d'un tableau.

• 【Obligatoire】À propos de la clé primaire : (1) Nommez-la id, tapez int ou bigint et auto_increment (2) Ne définissez pas le champ qui identifie le corps principal de chaque ligne du tableau comme clé primaire ; . Il est recommandé de le définir sur d'autres champs tels que user_id , order_id, etc., et de créer un index de clé unique. Parce que si elle est définie comme clé primaire et que la valeur de la clé primaire est insérée de manière aléatoire, cela entraînera des divisions de pages internes à InnoDB et un grand nombre d'E/S aléatoires, entraînant une dégradation des performances.

• [Recommandation] Les tables principales (telles que les tables utilisateur, les tables liées à l'argent) doivent avoir le champ d'heure de création create_time et le champ d'heure de dernière mise à jour update_time des données de ligne pour faciliter le dépannage.

• 【Recommandation】Tous les champs du tableau doivent avoir des attributs NON NULL, et l'entreprise peut définir des valeurs PAR DÉFAUT si nécessaire. Étant donné que l'utilisation de valeurs NULL entraînera des problèmes tels que chaque ligne occupant un espace de stockage supplémentaire, la migration des données est sujette à des erreurs et les résultats du calcul de la fonction d'agrégation sont biaisés.

• [Recommandation] Il est recommandé de diviser verticalement les grands champs tels que le blob et le texte dans d'autres tableaux, et de sélectionner uniquement lorsque vous avez besoin de lire ces objets.

• [Suggestion] Conception anti-paradigme : ajoutez de manière redondante des champs qui nécessitent souvent des requêtes de jointure dans d'autres tables. Par exemple, l'attribut username est redondant dans user_account, user_login_log et d'autres tables, réduisant ainsi les requêtes de jointure.

• 【Obligatoire】La table intermédiaire est utilisée pour conserver l'ensemble de résultats intermédiaire, et le nom doit commencer par tmp_. La table de sauvegarde est utilisée pour sauvegarder ou capturer un instantané de la table source, et le nom doit commencer par bak_. Les tables intermédiaires et les tables de sauvegarde sont nettoyées régulièrement.

• 【强制】对于超过 100W 行的大表进行 alter table，必须经过 DBA 审核，并在业务低峰期执行。因为 alter table 会产生表锁，期间阻塞对于该表的所有写入，对于业务可能会产生极大影响。

字段

• 【强制】遵守以上全部一般命名规则。

• 【建议】尽可能选择短的或一两个单词。

• 【强制】避免使用保留字作为字段名称：order，date，name 是数据库的保留字，避免使用它。可以为这些名称添加前缀使其易于理解，如 user_name，signup_date 等。

• 【强制】避免使用与表名相同的字段名，这会在编写查询时造成混淆。

• 【强制】在数据库模式上定义外键。

• 【强制】避免使用缩写或基于首字母缩写词的名称。

• 【强制】外键列必须具有表名及其主键，例如：blog_id 表示来自表博客的外键 id。

字段数据类型优化

• 【建议】表中的自增列（auto_increment 属性），推荐使用 bigint 类型。因为无符号 int 存储范围为 0~4,294,967,295（不到 43 亿），溢出后会导致报错。

• 【建议】业务中选择性很少的状态 status、类型 type 等字段推荐使用 tinytint 或者 smallint 类型节省存储空间。

• 【建议】业务中 IP 地址字段推荐使用 int 类型，不推荐用 char(15)。因为 int 只占 4 字节，可以用如下函数相互转换，而 char(15) 占用至少 15 字节。

select inet_aton('192.168.2.12');
select inet_ntoa(3232236044);

Java 保存字符串ip 转 int 类型

public static long ipToLong(String addr)
{
    String[] addrArray = addr.split("\\.");
    long num = 0;
    for (int i = 0; i < addrArray.length; i++)
    {
        int power = 3 - i;
        num += ((Integer.parseInt(addrArray[i]) % 256 * Math.pow(256, power)));
    }
    return num;
}
public static String longToIp(long i){
    return ((i >> 24) & 0xFF) + "." +
           ((i >> 16) & 0xFF) + "." +
           ((i >> 8) & 0xFF) + "." +
           (i & 0xFF);
}

• 【建议】不推荐使用 enum，set。 因为它们浪费空间，且枚举值写死了，变更不方便。推荐使用 tinyint 或 smallint。

• 【建议】不推荐使用 blob，text 等类型。它们都比较浪费硬盘和内存空间。在加载表数据时，会读取大字段到内存里从而浪费内存空间，影响系统性能。建议和 PM、RD 沟通，是否真的需要这么大字段。InnoDB 中当一行记录超过 8098 字节时，会将该记录中选取最长的一个字段将其 768 字节放在原始 page 里，该字段余下内容放在 overflow-page 里。不幸的是在 compact 行格式下，原始 page 和 overflow-page 都会加载。

• 【建议】存储金钱的字段，建议用 int 以分为单位存储，最大数值约 4290 万，程序端乘以 100 和除以 100 进行存取。因为 int 占用 4 字节，而 double 占用 8 字节，空间浪费。

• 【建议】文本数据尽量用 varchar 存储。因为 varchar 是变长存储，比 char 更省空间。MySQL server 层规定一行所有文本最多存 65535 字节，因此在 utf8 字符集下最多存 21844 个字符，超过会自动转换为 mediumtext 字段。而 text 在 utf8 字符集下最多存 21844 个字符，mediumtext 最多存 2^24/3 个字符，longtext 最多存 2^32 个字符。一般建议用 varchar 类型，字符数不要超过 2700。

• 【建议】时间类型尽量选取 timestamp。因为 datetime 占用 8 字节，timestamp 仅占用 4 字节，但是范围为 1970-01-01 00:00:01 到 2038-01-01 00:00:00。更为高阶的方法，选用 int 来存储时间，使用 SQL 函数 unix_timestamp() 和 from_unixtime() 来进行转换。

索引设计

• 【强制】InnoDB 表必须主键为 id int/bigint auto_increment，且主键值禁止被更新。

• 【建议】主键的名称以 pk_ 开头，唯一键以 uk_ 开头，普通索引以 ix_ 开头，一律使用小写格式，以表名/字段的名称或缩写作为后缀。

• 【强制】InnoDB 和 MyISAM 存储引擎表，索引类型必须为 BTREE；MEMORY 表可以根据需要选择 HASH 或者 BTREE 类型索引。

• 【强制】单个索引中每个索引记录的长度不能超过 64KB。

• 【建议】单个表上的索引个数不能超过 7 个。

• 【建议】在建立索引时，多考虑建立联合索引，并把区分度最高的字段放在最前面。如列 user_id 的区分度可由 select count(distinct user_id) 计算出来。

• 【建议】在多表 join 的 SQL 里，保证被驱动表的连接列上有索引，这样 join 执行效率最高。

• 【建议】建表或加索引时，保证表里互相不存在冗余索引。对于 MySQL 来说，如果表里已经存在 key(a, b)，则 key(a) 为冗余索引，需要删除。

• 【建议】如果选择性超过 20%，那么全表扫描比使用索引性能更优，即没有设置索引的必要。

分库分表、分区表

• 【强制】分区表的分区字段（partition-key）必须有索引，或者是组合索引的首列。

• 【强制】单个分区表中的分区（包括子分区）个数不能超过 1024。

• 【强制】上线前 RD 或者 DBA 必须指定分区表的创建、清理策略。

• 【强制】访问分区表的 SQL 必须包含分区键。

• 【建议】单个分区文件不超过 2G，总大小不超过 50G。建议总分区数不超过 20 个。

• 【强制】对于分区表执行 alter table 操作，必须在业务低峰期执行。

• 【强制】采用分库策略的，库的数量不能超过 1024。

• 【强制】采用分表策略的，表的数量不能超过 4096。

• 【建议】单个分表不超过 500W 行，ibd 文件大小不超过 2G，这样才能让数据分布式变得性能更佳。

• 【建议】水平分表尽量用取模方式，日志、报表类数据建议采用日期进行分表。

字符集

• 【强制】数据库本身库、表、列所有字符集必须保持一致，为 utf8 或 utf8mb4。

• 【强制】前端程序字符集或者环境变量中的字符集，与数据库、表的字符集必须一致，统一为 utf8。

程序层 DAO 设计建议

• 【建议】新的代码不要用 model，推荐使用手动拼 SQL + 绑定变量传入参数的方式。因为 model 虽然可以使用面向对象的方式操作 db，但是其使用不当很容易造成生成的 SQL 非常复杂，且 model 层自己做的强制类型转换性能较差，最终导致数据库性能下降。

• 【建议】前端程序连接 MySQL 或者 Redis，必须要有连接超时和失败重连机制，且失败重试必须有间隔时间。

• 【建议】前端程序报错里尽量能够提示 MySQL 或 Redis 原生态的报错信息，便于排查错误。

• 【建议】对于有连接池的前端程序，必须根据业务需要配置初始、最小、最大连接数，超时时间以及连接回收机制，否则会耗尽数据库连接资源，造成线上事故。

• 【建议】对于 log 或 history 类型的表，随时间增长容易越来越大，因此上线前 RD 或者 DBA 必须建立表数据清理或归档方案。

• 【建议】在应用程序设计阶段，RD 必须考虑并规避数据库中主从延迟对于业务的影响。尽量避免从库短时延迟（20 秒以内）对业务造成影响，建议强制一致性的读开启事务走主库，或更新后过一段时间再去读从库。

• 【建议】多个并发业务逻辑访问同一块数据（InnoDB 表）时，会在数据库端产生行锁甚至表锁导致并发下降，因此建议更新类 SQL 尽量基于主键去更新。

• 【建议】业务逻辑之间加锁顺序尽量保持一致，否则会导致死锁。

• 【建议】对于单表读写比大于 10:1 的数据行或单个列，可以将热点数据放在缓存里（如 Memcached 或 Redis），加快访问速度，降低 MySQL 压力。

一个规范的建表语句示例

一个较为规范的建表语句为：

create table user
(
    `id`            bigint(11) not null auto_increment,
    `user_id`       bigint(11) not null comment '用户 ID',
    `username`      varchar(45) not null comment '登录名',
    `email`         varchar(30) not null comment '邮箱',
    `nickname`      varchar(45) not null comment '昵称',
    `avatar`        int(11) not null comment '头像',
    `birthday`      date not null comment '生日',
    `gender`        tinyint(4) default '0' comment '性别',
    `intro`         varchar(150) default null comment '简介',
    `resume_url`    varchar(300) not null comment '简历存放地址',
    `register_ip`   int not null comment '用户注册时的源 IP',
    `review_status` tinyint not null comment '审核状态，1-通过，2-审核中，3-未通过，4-尚未提交审核',
    `create_time`   timestamp not null comment '记录创建的时间',
    `update_time`   timestamp not null comment '资料修改的时间',
    primary key (`id`),
    unique key `idx_user_id` (`user_id`),
    key `idx_username`(`username`),
    key `idx_create_time`(`create_time`, `review_status`)
)
engine = InnoDB
default charset = utf8
comment = '用户基本信息';

DML 语句

• 【强制】select 语句必须指定具体字段名称，禁止写成 *。因为 select * 会将不该读的数据也从 MySQL 里读出来，造成网卡压力。

• 【强制】insert 语句指定具体字段名称，不要写成 insert into t1 values(…)，道理同上。

• 【建议】insert into … values(xx),(xx),(xx)…，这里 xx 的值不要超过 5000 个。值过多虽然上线很快，但会引起主从同步延迟。

• 【建议】select 语句不要使用 union，推荐使用 union all，并且 union 子句个数限制在 5 个以内。因为 union all 不需要去重，节省数据库资源，提高性能。

• 【建议】in 值列表限制在 500 以内。例如 select … where user_id in(…500 个以内…)，这么做是为了减少底层扫描，减轻数据库压力从而加速查询。

• 【建议】事务里批量更新数据需要控制数量，进行必要的 sleep，做到少量多次。

• 【强制】事务涉及的表必须全部是 InnoDB 表。否则一旦失败不会全部回滚，且易造成主从库同步终端。

• 【强制】写入和事务发往主库，只读 SQL 发往从库。

• 【强制】除静态表或小表（100 行以内），dml 语句必须有 where 条件，且使用索引查找。

• 【Obligatoire】 Il est interdit d'utiliser des astuces dans les environnements de production, tels que sql_no_cache, forcer l'index, ignorer la clé, la jointure directe, etc. Parce que l'indice est utilisé pour forcer SQL à s'exécuter selon un certain plan d'exécution, mais à mesure que la quantité de données change, nous ne pouvons pas garantir que notre prédiction originale est correcte, nous devons donc faire confiance à l'optimiseur MySQL.

• [Obligatoire] Les types de champ autour du signe égal dans la condition Where doivent être cohérents, sinon l'index ne peut pas être utilisé.

• [Recommandation] select|update|delete|replace doit avoir une clause Where et les conditions de la clause Where doivent utiliser la recherche par index.

• [Obligatoire] Les analyses complètes de tables sur de grandes tables sont fortement déconseillées dans les bases de données de production, mais des analyses complètes de tables peuvent être effectuées sur des tables statiques de moins de 100 lignes. La quantité de données de requête ne doit pas dépasser 25 % du nombre de lignes du tableau, sinon l'index ne sera pas utilisé.

• 【Obligatoire】 Il est interdit d'utiliser uniquement des conditions de recherche entièrement floues dans la clause Where. Il doit y avoir d'autres conditions de requête équivalentes ou de plage, sinon l'index ne peut pas être utilisé.

• 【Recommandation】N'utilisez pas de fonctions ou d'expressions dans les colonnes d'index, sinon l'index ne pourra pas être utilisé. Par exemple, où longueur(nom) = 'admin' ou où user_id + 2 = 10023.

• 【Recommandation】 Réduisez l'utilisation des instructions or, optimisez les instructions or en unions, puis créez des index sur chaque condition Where. Par exemple, où a = 1 ou b = 2 est optimisé pour où a = 1… union… où b = 2, clé(a), clé(b).

• 【Recommandation】Requête de page. Lorsque le point de départ de la limite est élevé, vous pouvez d'abord filtrer avec les conditions de filtrage. Par exemple, sélectionnez a, b, c à partir de la limite t1 10 000, 20 ; est optimisé pour : sélectionnez a, b, c à partir de t1 où l'identifiant > ;

Jointure multi-table

• [Obligatoire] Les déclarations de jointure entre bases de données sont interdites. Parce que cela peut réduire le couplage entre les modules et jeter une base solide pour le fractionnement de la base de données.

• 【Obligatoire】Il est interdit d'utiliser join dans les instructions SQL de mise à jour métier, telles que update t1 join t2….

• 【Recommandation】Il n'est pas recommandé d'utiliser une sous-requête. Il est recommandé de diviser la sous-requête SQL et de la combiner avec le programme pour plusieurs requêtes, ou d'utiliser la jointure au lieu de la sous-requête.

• 【Recommandation】 Dans un environnement en ligne, la jointure multi-tables ne doit pas dépasser 3 tables.

• 【Recommandation】Il est recommandé d'utiliser des alias pour les requêtes de connexion multi-tables, et les alias doivent être utilisés pour référencer les champs dans la liste de sélection, au format database.table, comme select a from db1.table1 alias1 où….

• 【Recommandation】Dans une jointure multi-tables, essayez de sélectionner la table avec un ensemble de résultats plus petit comme table pilote pour rejoindre d'autres tables.

Transactions

• 【Recommandation】Le nombre de lignes dans l'opération d'instruction insert|update|delete|replace dans la transaction est contrôlé dans les 2000, et le nombre de paramètres passés dans la liste in dans la clause Where est contrôlé dans les 500.

• 【Recommandation】Lorsque vous utilisez des données par lots, vous devez contrôler l'intervalle de traitement des transactions et effectuer la mise en veille nécessaire. La valeur généralement recommandée est de 5 à 10 secondes.

• 【Recommandation】Pour les opérations d'insertion dans des tables avec des champs d'attribut auto_increment, la simultanéité doit être contrôlée dans les 200.

• 【Obligatoire】La conception du programme doit prendre en compte l'impact du « niveau d'isolement des transactions de base de données », y compris les lectures sales, les lectures non répétables et les lectures fantômes. Il est recommandé en ligne que le niveau d'isolement des transactions soit en lecture reproductible.

• 【Recommandation】 Pas plus de 5 instructions SQL ne doivent être incluses dans la transaction (hors activité de paiement). Car des transactions trop longues entraîneront des problèmes d'avalanche tels que le verrouillage des données pendant une longue période, le cache interne MySQL, une consommation de connexion excessive, etc.

• 【Recommandation】L'instruction de mise à jour dans la transaction doit être basée autant que possible sur la clé primaire ou la clé unique, comme la mise à jour ... où id = XX ;, sinon des verrous d'espacement seront générés et la plage de verrouillage sera étendu en interne, entraînant une dégradation des performances du système et un blocage.

• 【Recommandation】Essayez de déplacer certains appels externes typiques hors de la transaction, tels que l'appel du service Web, l'accès au stockage de fichiers, etc., pour éviter que la transaction ne soit trop longue.

• 【Recommandation】Pour certaines instructions strictement sensibles au délai maître-esclave MySQL, veuillez activer les transactions pour forcer l'accès à la base de données principale.

Trier et regrouper

• 【Recommandation】Réduire l'utilisation de la commande par, et communiquer avec l'entreprise sans trier, ou mettre le tri au programme. Les instructions telles que order by, group by et distinct consomment plus de CPU, et les ressources CPU de la base de données sont extrêmement précieuses.

• 【Recommandation】Pour trier par, regrouper par, SQL distinct, essayez d'utiliser l'index pour récupérer directement les données triées. Par exemple, où a = 1 order by peut utiliser key(a, b).

• 【Recommandation】Contient des instructions de requête telles que order by, group by et distinct. L'ensemble de résultats filtré par la condition Where doit être conservé dans 1 000 lignes, sinon SQL sera très lent.

Déclarations SQL interdites pour une utilisation en ligne

• 【Risque élevé】Désactiver la mise à jour | supprimer t1… où a = XX limite XX ; mettre à jour les instructions avec limite. Parce que cela entraînera une incohérence maître-esclave, conduisant à une confusion des données. Il est recommandé d'ajouter la commande par PK.

• 【Risque élevé】 Il est interdit d'utiliser des sous-requêtes corrélées, telles que la mise à jour t1 set… où nom dans (sélectionner le nom de l'utilisateur où…);, ce qui est extrêmement inefficace.

• 【Obligatoire】Désactivez les contraintes de procédure, de fonction, de déclencheur, de vues, d'événement et de clé étrangère. Parce qu'ils consomment des ressources de base de données et réduisent l'évolutivité des instances de base de données. Les recommandations sont toutes mises en œuvre du côté du programme.

• 【Obligatoire】Désactiver l'insertion dans… lors de la mise à jour de clé en double… Dans un environnement à haute concurrence, cela entraînera une incohérence maître-esclave.

• [Obligatoire] Les déclarations de mise à jour de table conjointe sont interdites, comme la mise à jour t1, t2 où t1.id = t2.id….

Apprentissage recommandé : Tutoriel vidéo mysql

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!