深入理解MySQL底层实现

这里选用MySQL作为了解数据库的底层实现,这是因为MySQL是目前最常用的数据库,了解它的底层实现也基本上对目前大数据的数据库所用的技术会有一个大致的了解。数据库最主要的索引设计,了解数据库的索引设计基本上就对数据库有了大致的了解,其次对其事务的ACID操作实现原理做以分析,以及数据库中所用到的提高其性能的优化等等。


存储引擎

MySQL常用的存储引擎有InnoDB和MyISAM,其中MyISAM是MySQL的默认存储引擎。

InnoDB

InnoDB的存储文件有两个,后缀名分别是.frm和.idb,其中.frm是表的定义文件,而idb是数据文件。InnoDB中存在表锁和行锁,不过行锁是命中索引的情况下才会起作用的。
InnoDB支持事务,且支持四种隔离级别,即原子性(atomicity)、一致性(consistency)、隔离性(isolation)、持久性(durability)。

  • 原子性:一个事务(transaction)中的所有操作,要么全部完成,要么全部不完成,不会结束在中间某个环节。事务在执行过程中发生错误,会被恢复(Rollback)到事务开始前的状态,就像这个事务从来没有执行过一样。
  • 一致性:在事务开始之前和事务结束以后,数据库的完整性没有被破坏。这表示写入的资料必须完全符合所有的预设规则,这包含资料的精确度、串联性以及后续数据库可以自发性地完成预定的工作。
  • 隔离性:数据库允许多个并发事务同时对其数据进行读写和修改的能力,隔离性可以防止多个事务并发执行时由于交叉执行而导致数据的不一致。事务隔离分为不同级别,包括读未提交(Read uncommitted)、读提交(read committed)、可重复读(repeatable read)和串行化(Serializable)。
  • 持久性:事务处理结束后,对数据的修改就是永久的,即便系统故障也不会丢失。

MyISAM

MyISAM的存储文件有三个,后缀名分别是.frm、.MYD、.MYI,其中.frm是表文件,.MYD是数据文件,.MYI是索引文件。
MyISAM只支持表锁,且不支持事务。MyISAM由于有单独的索引文件,在读取数据方面性能很高。


InnoDB和MyISAM的区别

MyISAM强调的是性能,每次查询都具有原子性,其执行速度比InnoDB类型更快,但不提供事务支持。InnoDB:提供事务支持事务,外部键等高级数据库功能。 具有事务(commit)、回滚(rollback)和崩溃修复能力(crash recovery capabilities)的事务安全(transaction-safe (ACID compliant))型表。
MyISAM只支持表锁,用户在操作其表时,select、update、delete、insert语句都会自动给表加锁,如果加锁以后的表满足insert并发的情况下,可以在表的尾部插入新的数据。


选择存储引擎的基本原则

  • 采用MyISAM
    • R/W > 100:1 且update相对较少
    • 并发不高
    • 表数据量小
    • 硬件资源有限
  • 采用InooDB引擎
    • R/W比较少,频繁更新大字段
    • 表数据量超过1000万,并发高
    • 安全性和可用性要求高

索引存储结构

InnoDB和MyISAM都是用B+Tree来存储数据的。

磁盘的IO请求过程

磁盘可以从划分成柱面、磁道和扇区,每一个扇区是以512字节为单位的,磁盘要想确定一个数据的位置,首先传入数据的虚拟地址,控制器将这个虚拟地址转换为物理地址,每一个物理地址由<柱面号,磁道号,扇区号>唯一确定。
磁盘为了读取扇区号上的数据:

  • 首先必须找到柱面,即磁头需要移动对准相应磁道,这个过程叫做寻道,所耗费时间叫做寻道时间。
  • 然后目标扇区旋转到磁头下,即磁盘旋转将目标扇区旋转到磁头下,这个过程耗费的时间叫做旋转时间。
  • 之后读取数据,拷贝到内存中,这个过程耗费的时间叫做数据传输时间。
    为了提高IO的效率,磁盘每次读取数据的时候,并不是严格按照一个扇区返回,而是采用预读策略,按照页为单位的,一般是4k。

索引

建立索引的目的为了优化查找过程,有关这方面的数据结构可以参读:数据结构之高级树
B-Tree作为索引结构,如果存储的数据量很大时会导致B-Tree的深度较大,增大查询的磁盘IO次数,从而影响到查询效率。
而在B+Tree中,所有数据记录节点都是按照值大小放在一层的叶子节点上,而非叶子节点上只存储key值信息,这样可以大大加大每个节点存储的key值数量,降低B+Tree的高度。
B+Tree相对B-Tree的基础有两大变化:

  • 数据是存在叶子节点上的
  • 数据节点之间是有指针指向的
    B+Tree

    聚集索引

    InnoDB 是以 ID 为索引的数据存储。
    采用 InnoDB 引擎的数据存储文件有两个,一个定义文件,一个是数据文件。
    InnoDB 通过 B+Tree 结构对 ID 建索引,然后在叶子节点中存储记录。
    非聚类索引

    非聚集索引

    Myisam 引擎也是采用的 B+Tree 结构来作为索引结构。
    由于 Myisam 中的索引和数据分别存放在不同的文件,所以在索引树中的叶子节点中存的数据是该索引对应的数据记录的地址,由于数据与索引不在一起,所以 Myisam 是非聚簇索引。
    聚类索引

    索引覆盖

    所谓的索引覆盖就是索引包含查询的所有数据,就称为覆盖索引。覆盖索引是一种非常强大的工具,能大大提高查询性能。只需要读取索引而不用读取数据,有以下一些优点:
  • 索引项通常比记录要小,所以MySQL访问更少的数据;
  • 索引都按值的大小顺序存储,相对于随机访问记录,需要更少的I/O;
  • 大多数据引擎能更好的缓存索引。比如MyISAM只缓存索引。
  • 覆盖索引对于InnoDB表尤其有用,因为InnoDB使用聚集索引组织数据,如果二级索引中包含查询所需的数据,就不再需要在聚集索引中查找了。

参考资料
ACID
深入理解 MySQL 底层实现
MySQL存储引擎 MyISAM与InnoDB区别
[深入探讨MySQL索引底层实现])(https://blog.csdn.net/a724888/article/details/68936953)
MySQL 四种事务隔离级的说明
理解MySQL——索引与优化