一起聊聊MySQL逻辑体系架构

2022-03-17 0 81
七牛源码默认解压密码xxxile.com

一起聊聊MySQL逻辑体系架构Mysql逻辑体系架构(大致架构分为三层)
第一层:连接线程处理
客户端——>连接线程处理(连接处理,授权认证,安全)

所包含的服务并不是mysql所独有的技术,他们都是服务于C/S程序或者这些程序所需要的(连接处理,授权认证,安全性等等)

第二层:包含大部分mysql核心服务
查询缓存——>解析器——>优化器——>执行查询

查询缓存,解析,分析,优化,缓存,所有内置函数(日期,时间,数学和加密函数)同时,所有的存储引擎提供的功能都集中在这一层(存储过程,触发器,视图)

流程:在解析查询之前,要先查询缓存,缓存只能保存查询的信息和结果数据,如果请求一个查询在缓存中存在,就不需要解析,优化和执行查询了,直接返回缓存中所存放的这个查询的结果

第三层:包含存储引擎
存储引擎负责mysql中数据的存储和提取(和Linux下的文件系统类似)

每种存储引擎都有优势及劣势,中间的服务层通过API和存储引擎进行通信,这些API接口屏蔽了不同存储引擎之间的差异,对于查询层尽可能的透明化。

存储引擎API包含了十几个底层函数,如执行 “ 开始一个事务 ” ,或取出有特定主键的行,但存储引擎一般不会去解析SQL,(InnoDB会解析外键定义,因为其本身没有实现该功能),不同存储引擎之间也不会相互通信,而只是简单的响应上层的服务器请求。

Mysql逻辑体系架构—详细介绍(分为八个步骤)
1.Connectors

指的是不同预言中与SQL的交互

Nactive C API,JDBC,ODBC,.NET,PHP,Python,Perl,Ruby,VB

2. Enterprise Management Services & Utilities

系统管理和控制工具

Backup & Recovery,Security,Replication,Cluster,Partitioning,Instance Manager,INPORMATICN_SCHEMA,Administrator,Workbench,Query Browser,Migration Toolkit

3. Connection Pool(连接池)

管理缓冲用户连接,线程处理等需要缓存的需求。

负责监听对MySQL Server的各种请求,接受连接请求,转发所有连接请求到线程管理模块。

每一个连接上MySQL Server的客户端请求都会被分配(创建)一个连接线程为其单独服务,并对连接线程进行了缓存,因此不需要为每个client连接单独创建和销毁,而连接线程的主要工作就是负责MySQL Server与客户端的通信,接收客户端的命令请求,传递Server端的结果信息,线程管理模块则负责管理维护这些连接线程,包括线程的创建,线程的cache等等

Authentication -Thread Reuse – Connection Limits – Check Memory -Caches

4.SQL Interface(SQL接口)

接受用户的SQL命令,并且返回用户需要查询返回的结果,比如select from就是调用SQL Interface

DML,DDL,Stored Procedures,Views,Triggers,etc

5.Parser(解析器)

SQL命令传递到解析器的时候会被解析器验证和解析,解析器是由Lex和YACC实现的,是一个很长的脚本,在MySQL中我们习惯将所有Client端发给Server端的命令都称为query,在MySQL Server里面,连接线程接收到客户端的一个Query后,会直接将query传递给专门负责将各种Query进行分类然后转发给各个对应的处理模块

主要功能:

a. 将SQL语句进行语义和语法分析,分解成数据结构,然后按照+同的操作类型进行分类,做出针对性的转发到后续步骤,以后SQL语句的传递和处理就是基于这个结构的

b. 如果在分解构成中遇到错误,那么就说明这个sql语句是不合理的

Query Translation,Object Privilege

6.Optimizer(查询优化器)

SQL语句在查询之前会使用查询优化器对查询进行优化,就是优化客户端请求query,根据客户端请求的query语句和数据库中的一些统计信息,在一系列算法基础上进行分析,得出一个最优策略,告诉后面的程序如何取得这个query语句的结果,使用的是 “选取-投影-联接” 策略进行查询;
比如:select uid,name from user where gender=1;
这个查询语句先根据where后面的语句进行选取,而不是先将表全部查询出来以后再进行gender过滤,然后根据uid和name进行属性投影,而不是将所有的属性全部取出来以后再进行过滤,最后将这两个查询条件联接起来生成最终的查询结果

Access Paths,Statistics

7.Cache 和 Buffer(查询缓存)

主要功能是将客户端提交给 Mysql 的 Select的类query请求的返回的结果集cache到内存中,与该query的一个hash值做一个对应,该query所取数据的基表发生任何数据的变化之后,MySQL会自动使该query的Cache失效,在读写比例非常高的的应用系统中,Query Cache对性能的提高是非常显著的,当然它对内存的消耗也是非常大的。
如果查询缓存中有有效的命中查询结果,查询语句就可以直接去查询缓存中取数据,这个缓存机制是由一系列小缓存组成的,比如表缓存,记录缓存,Key缓存,权限缓存等等

Global and Engine Specific Caches & Buffers

8.pluggable storage Engines(插件式存储引擎)

存储引擎接口:MySQL区别于其他数据库的最重要的特点就是其插件式的表存储引擎。

MySQL插件式的存储引擎架构提供了一系列标准的管理和服务支持,这些标准与存储引擎本身无关,可能是每个数据库系统都必须的,比如SQL分析器和优化器等,而存储引擎是底层物理结构的实现。每个存储引擎开发者都可以按照自己的意愿进行开发。

9.file system

文件系统,数据,日志(redo,undo)索引,错误日志,查询记录,慢查询等

注意:存储引擎是基于表的,而不是数据库

数据库的工作流程
建立TCP连接——>验证用户——>创建线程解析SQL——>生成执行计划——>开表——>搜寻buffer看所需数据页是否被缓存——>从磁盘扫描数据——>获取数据并写入buffer pool——>返回数据给客户端——>关闭表——>关闭线程——>关闭连接

最上层:客户端连接

1.连接处理:客户端同数据库服务层建立TCP连接,连接管理模块会建立连接,并请求一个连接线程,如果连接池中有空闲的连接线程,则分配给这个连接,如果没有,在没有超过最大线程连接数的情况下,创建新的连接线程负责这个客户端

2.授权认证:在query操作之前,还需要调用用户模块进行授权检查,来验证用户是否有权限,通过后,方才提供服务,连接线程开始接受并处理来自客户端的SQL语句

第二层:核心服务

1.连接线程接收到SQL语句之后,将语句交给SQL语句解析模块进行语法和语义分析。

2.如果是一个查询语句,则可以先看查询缓存中是否有结果,如果有结果则直接返回给客户端。

3.如果查询缓存中没有结果,则需要查询数据库引擎层,将SQL语句发给优化器,进行查询的优化,如果是表变更,则分类交给insert,update,delete,create,alert处理模块进行处理

第三层:数据库引擎层

1.打开表,如果需要的话获取相应的锁。

2.先查询缓存页中有没有相应的数据,如果有则可以直接返回,如果没有则从磁盘上去读取

3.当在磁盘中找到相应的数据之后,则会加载到缓存中来,从而使得后面的查询更加的高效,由于缓存有限,多采用变通的LRU表来管理缓存页,保证缓存的都是经常访问的数据。

4.最后,获取数据后返回给客户端,关闭连接,释放连接线程。

FAQ分析
1.什么是插件式存储引擎

存储引擎就是将数据对磁盘进行读写操作,不同的存储引擎,读写操作方式也不同,事务,锁等都不一样因为我们有不同的业务需求,所以会有很多的存储引擎,在一个数据库中,因为存储引擎是基于表的,所以不同的表可以有不同的存储引擎,允许将存储引擎加载到正在运行的MySQL服务器中,这就是插件式存储引擎

2.什么是LRU缓存

一种缓存淘汰机制策略算法,因为缓存的内存总是有限的,所以缓存满了就要删除一些内容,给新内容腾位置,而在LRU机制下,淘汰的数据被称为无用数据,LRU的全称是Least Recently Used,也就是我们认为最近使用过的数据都是有用的,很久都没用过的数据应该就是无用的,内存满了就优先删除那些最近很久没用过的数据

在JVM中Ehcache的缓存策略包含

LRU – least recently used(最近最少使用)

LFU – least frequently used(最不经常使用)

FIFO – first in first out, the oldest element by creation time(清除最早缓存的数据,不关心是否经常使用)

七牛源码 技术教程 一起聊聊MySQL逻辑体系架构 https://www.xxxile.com/2683.html

客服QQ:598842012

评论
暂无评论