皮皮网

1.MySQL · 源码分析 · Subquery代码分析
2.MySQL源码阅读1-启动初始化
3.MySQL 优化器源码入门-内核实现 FULL JOIN 功能
4.MySQL全文索引源码剖析之Insert语句执行过程
5.MySQL 核心模块揭秘 | 12 期 | 创建 savepoint
6.MySQL XA事务源码分析

MySQL · 源码分析 · Subquery代码分析

       子查询在MySQL中的码讲处理方式，主要涉及到其在条件/投影中的码讲应用。它们以Item_subselect这个表达式类的码讲子类形式存在，描述结构丰富多样。码讲所有子查询在MySQL中以Item_subselect为基类，码讲包含相关或非相关的码讲智能节能源码类型，且具有特定的码讲标记来描述其性质。子查询的码讲执行方式在Subquery_strategy枚举中被明确，共有五种最终执行方式。码讲处理流程分为prepare、码讲optimize和execute三个阶段。码讲在prepare阶段，码讲子查询通过抽象语法树进行初步构建，码讲主要完成将子查询转换为衍生表或选择性执行的码讲逻辑。optimize阶段根据代价估算决定子查询的码讲执行策略，包括物化执行或EXISTS方式。execute阶段，依据优化阶段确定的策略执行子查询。总结而言，子查询的处理流程在MySQL中较为复杂，特别是在prepare阶段的转换逻辑，但整体处理思路清晰。通过这种方式，MySQL能够高效地处理子查询，实现数据查询和分析的复杂需求。

MySQL源码阅读1-启动初始化

       通过深入阅读MySQL源码，旨在学习并记录其内核知识。初次探索难免有错误或遗漏，欢迎指正，并期待在后续阅读中对笔记进行修正。

       MySQL的启动初始化是关键步骤，涉及核心逻辑与执行流程。关注的仿fm源码入口函数位于`mysql-server-8.0/sql/mysqld.cc::mysqld_main`。

       初始化阶段主要关注点包括启动MySQL中的线程，负责执行各种任务。MySQL在初始化时启动的线程种类多样，确保数据管理、查询执行与系统功能高效运作。

       调用链显示了初始化过程中的函数调用关系，每个缩进代表一个函数调用，清晰地展示了初始化的执行流程。

       总结而言，MySQL服务的初始化步骤复杂且关键，但通常不在日常关注范围内。初次阅读可能存在疏漏，期待在后续阅读中深入探索初始化与终止阶段的代码细节，持续优化理解。

MySQL 优化器源码入门-内核实现 FULL JOIN 功能

       本文以实现MySQL内核的FULL JOIN功能为目标，深入解析了MySQL源码的优化器工作流程。首先，作者通过环境和知识准备，明确将重点放在Server执行流程的探索上，从语法规则的修改开始，如在`sql_yacc.yy`中添加新支持，以及在`parse_tree_nodes.cc`中处理FULL JOIN的语法树解析和打印。接着，作者逐步解析了词法、语法分析后的Query_expression、Query_block和Query_term结构，并在关键函数中设置了断点以跟踪执行流程。

       在探索了JOIN的优化工作流程后，作者选择在hypergraph_optimizer中实现FULL JOIN，该部分涉及RelationalExpression、JoinHypergraph的构建和AccessPath的生成。尽管过程复杂，电子处方 源码但作者通过逐步调试和修改，成功在HashJoinIterator中添加了对FULL JOIN的支持，包括添加新数据成员和状态标记，以及在LEFT JOIN后执行ANTI JOIN流程。

       在测试阶段，作者确认了FULL JOIN功能的正确性，通过在代码关键位置的断点观察，确认了FULL OUTER_JOIN的出现，并展示了改造后的迭代器结构。整个过程中，作者强调了在实现过程中面临的挑战和对MySQL历史的参考，最终决定以最少改动的方式完成任务，以保持代码的简洁和性能。

       通过这个项目，作者不仅深入理解了MySQL源码，还实现了FULL JOIN功能，为读者提供了一个从零开始实现新功能的实例。

MySQL全文索引源码剖析之Insert语句执行过程

       本文来源于华为云社区，作者为GaussDB数据库，探讨了MySQL全文索引源码中Insert语句的执行过程。

       全文索引是一种常用于信息检索的技术，它通过倒排索引实现，即单词和文档的映射关系，如(单词，(文档，偏移))。以创建一个表并在opening_line列上建立全文索引为例，插入'Call me Ishmael.'时，文档会被分为'call', 'me', 'ishmael'等单词，并记录在全文索引中。

       全文索引Cache的作用类似于Change Buffer，用于缓存分词结果，ipa上传源码避免频繁刷盘。Innodb使用fts_cache_t结构来管理cache，每个全文索引的表都会在内存中创建一个fts_cache_t对象。

       Insert语句的执行分为三个阶段：写入行记录阶段、事务提交阶段和刷脏阶段。写入行记录阶段生成doc_id并写入Innodb的行记录，并将doc_id缓存。事务提交阶段对文档进行分词，获取{ 单词，(文档，偏移)}关联对，并插入到cache。刷脏阶段后台线程将cache刷新到磁盘。

       全文索引的并发插入可能导致OOM问题，可通过修复patch #解决。当MySQL进程崩溃时，fts_init_index函数会恢复crash前的cache数据。

MySQL 核心模块揭秘 | 期 | 创建 savepoint

       回滚操作，除了回滚整个事务，还可以部分回滚。部分回滚，需要保存点（savepoint）的协助。本文我们先看看保存点里面都有什么。

       作者：操盛春，爱可生技术专家，公众号『一树一溪』作者，专注于研究 MySQL 和 OceanBase 源码。 爱可生开源社区出品，原创内容未经授权不得随意使用，转载请联系小编并注明来源

       本文基于 MySQL 8.0. 源码，存储引擎为 InnoDB。

       InnoDB 的图片空间 源码事务对象有一个名为undo_no 的属性。事务每次改变（插入、更新、删除）某个表的一条记录，都会产生一条 undo 日志。这条 undo 日志中会存储它自己的序号。这个序号就来源于事务对象的 undo_no 属性。

       也就是说，事务对象的 undo_no 属性中保存着事务改变（插入、更新、删除）某个表中下一条记录产生的 undo 日志的序号。

       每个事务都维护着各自独立的 undo 日志序号，和其它事务无关。

       每个事务的 undo 日志序号都从 0 开始。事务产生的第 1 条 undo 日志的序号为 0，第 2 条 undo 日志的序号为 1，依此类推。

       InnoDB 的 savepoint 结构中会保存创建 savepoint 时事务对象的 undo_no 属性值。

       我们通过 SQL 语句创建一个 savepoint 时，server 层、binlog、InnoDB 会各自创建用于保存 savepoint 信息的结构。

       server 层的 savepoint 结构是一个SAVEPOINT 类型的对象，主要属性如下：

       binlog 的 savepoint 结构很简单，是一个 8 字节的整数。这个整数的值，是创建 savepoint 时事务已经产生的 binlog 日志的字节数，也是接下来新产生的 binlog 日志写入 trx_cache 的 offset。

       为了方便介绍，我们把这个整数值称为binlog offset。

       InnoDB 的 savepoint 结构是一个trx_named_savept_t 类型的对象，主要属性如下：

       创建 savepoint 时，server 层会分配一块 字节的内存，除了存放它自己的 SAVEPOINT 对象，还会存放 binlog offset 和 InnoDB 的 trx_named_savept_t 对象。

       server 层的 SAVEPOINT 对象占用这块内存的前 字节，InnoDB 的 trx_named_savept_t 对象占用中间的 字节，binlog offset 占用最后的 8 字节。

       客户端连接到 MySQL 之后，MySQL 会分配一个专门用于该连接的用户线程。

       用户线程中有一个m_savepoints 链表，用户创建的多个 savepoint 通过 prev 属性形成链表，m_savepoints 就指向最新创建的 savepoint。

       server 层创建 savepoint 之前，会按照创建时间从新到老，逐个查看链表中是否存在和本次创建的 savepoint 同名的 savepoint。

       如果在用户线程的 m_savepoints 链表中找到了和本次创建的 savepoint 同名的 savepoint，需要先删除 m_savepoints 链表中的同名 savepoint。

       找到的同名 savepoint，是 server 层的SAVEPOINT 对象，它后面的内存区域分别保存着 InnoDB 的 trx_named_savept_t 对象、binlog offset。

       binlog 是个老实孩子，乖乖的把 binlog offset 写入了 server 层为它分配的内存里。删除同名 savepoint 时，不需要单独处理 binlog offset。

       InnoDB 就不老实了，虽然 server 层也为 InnoDB 的 trx_named_savept_t 对象分配了内存，但是 InnoDB 并没有往里面写入内容。

       事务执行过程中，用户每次创建一个 savepoint，InnoDB 都会创建一个对应的 trx_named_savept_t 对象，并加入 InnoDB 事务对象的 trx_savepoints 链表的末尾。

       因为 InnoDB 自己维护了一个存放 savepoint 结构的链表，server 层删除同名 savepoint 时，InnoDB 需要找到这个链表中对应的 savepoint 结构并删除，流程如下：

       InnoDB 从事务对象的 trx_savepoints 链表中删除 trx_named_savept_t 对象之后，server 层接着从用户线程的 m_savepoints 链表中删除 server 层的SAVEPOINT 对象，也就连带着清理了 binlog offset。

       处理完查找、删除同名 savepoint 之后，server 层就正式开始创建 savepoint 了，这个过程分为 3 步。

       第 1 步，binlog 会生成一个 Query_log_event。

       以创建名为test_savept 的 savepoint 为例，这个 event 的内容如下：

       binlog event 写入 trx_cache 之后，binlog offset 会写入 server 层为它分配的 8 字节的内存中。

       第 2 步，InnoDB 创建 trx_named_savept_t 对象，并放入事务对象的 trx_savepoints 链表的末尾。

       trx_named_savept_t 对象的 name 属性值是 InnoDB 的 savepoint 名字。这个名字是根据 server 层为 InnoDB 的 trx_named_savept_t 对象分配的内存的地址计算得到的。

       trx_named_savept_t 对象的savept 属性，是一个 trx_savept_t 类型的对象。这个对象里保存着创建 savepoint 时，事务对象中 undo_no 属性的值，也就是下一条 undo 日志的序号。

       第 3 步，把 server 层的 SAVEPOINT 对象加入用户线程的 m_savepoints 链表的尾部。

       server 层会创建一个SAVEPOINT 对象，用于存放 savepoint 信息。

       binlog 会把binlog offset 写入 server 层为它分配的一块 8 字节的内存里。

       InnoDB 会维护自己的 savepoint 链表，里面保存着trx_named_savept_t 对象。

       如果 m_savepoints 链表中存在和本次创建的 savepoint 同名的 savepoint， 创建新的 savepoint 之前，server 层会从链表中删除这个同名的 savepoint。

       server 层创建的 SAVEPOINT 对象会放入m_savepoints 链表的末尾。

       InnoDB 创建的 trx_named_savept_t 对象会放入事务对象的trx_savepoints 链表的末尾。

MySQL XA事务源码分析

       MySQL XA事务源码分析概览

       在深入理解MySQL XA事务处理中，我们重点关注了几个关键步骤：外部XA PREPARE、COMMIT、2PC阶段的Log落盘顺序，以及本地事务commit和外部XA的Rollback、RECOVERY流程。以下是这些流程的简要概述：

       外部XA PREPARE流程

       开始阶段：

       ------------------- XA PREPARE START -------------------------

       结束阶段：

       ------------------- XA PREPARE END -------------------------

       外部XA COMMIT流程

       简述：

       ------------------- XA COMMIT START -------------------------

       简述：

       ------------------- XA COMMIT END -------------------------

       本地事务COMMIT流程与外部XA比较

       不同之处：

       ------------------- PREPARE START -------------------------

       不同之处：

       ------------------- PREPARE END -------------------------

       ------------------- COMMIT START -------------------------

       ------------------- COMMIT END -------------------------

       外部XA ROLLBACK流程

       简述：

       省流版：Not Prepared Rollback和Prepared Rollback的差异

       详细版：

       Not Prepared Rollback：

       在end - prepare期间rollback

       Prepared Rollback：

       在prepare之后rollback

       外部XA RECOVERY流程

       简述：

       本地事务RECOVERY流程

       简述：

       重要提示：

       在binlog rotate到新文件前，redo log会强制落盘，确保旧文件不包含未完成的事务。

MySql轻松入门系列——第二站 使用visual studio 对mysql进行源码级调试

       在探索MySQL世界的过程中，有些同学希望更深入地了解如何在Visual Studio中进行源码级调试。不用担心，让我们一步步来。

       必备工具

       MySQL是用C++编写的，要在Windows上编译，需要几个关键工具：CMake用于生成可打开的解决方案，如MySQL.sln；Boost是强大的C++库，Bison是用于解析MySQL语法规则的工具；当然，选择适合自己版本的MySQL源码（如5.7.）也是必不可少的。

       详细安装步骤

       安装过程需要细心，特别是Bison，务必避免默认路径中的空格问题，以免后续VS编译受阻。安装CMake和Bison时选择自定义路径，例如C:\2\GnuWin，确保它们的bin文件路径被添加到环境变量中。接下来解压mysql-5.7..zip，构建项目。

       编译与调试

       使用CMake编译MySQL源码，当看到Build files written to: C:/2/mysql-5.7./brelease，说明成功生成.sln文件。用Visual Studio 打开MySql.Sln，耐心等待十几分钟，编译成功后即可进行下一步。

       启动MySQL并调试

       首先，开启MySQL的调试模式，修改mysqld.cc中的test_lc_time_sz方法。然后，在Visual Studio的命令行参数中加入--console --initialize，开始调试。可能会遇到编码问题，解决后，输入默认密码zJDE>IC5o+ya，连接到MySQL并修改密码。

       追踪write_row

       在上一篇中提到的write_row是一个虚方法，通过实际调试，我们可以看到它在ha_innodb.cc的实现。设置断点，执行insert操作，可以看到代码进入ha_innodb::write_row方法，深入查看局部变量和调用堆栈，验证之前的理论。

       总结

       通过一整天的努力，我们掌握了在Visual Studio中对MySQL源码进行调试的技巧。记住，每一步都可能是个挑战，但只有亲自动手，才能真正理解MySQL的运作机制。希望这些经验能帮助你避免一些常见的坑，祝你在源码的世界里探索得更深入！

Flink mysql-cdc connector 源码解析

       Flink 1. 引入了 CDC功能，用于实时同步数据库变更。Flink CDC Connectors 提供了一组源连接器，支持从MySQL和PostgreSQL直接获取增量数据，如Debezium引擎通过日志抽取实现。以下是Flink CDC源码解析的关键部分：

       首先，MySQLTableSourceFactory是实现的核心，它通过DynamicTableSourceFactory接口构建MySQLTableSource对象，获取数据库和表的信息。MySQLTableSource的getScanRuntimeProvider方法负责创建用于读取数据的运行实例，包括DeserializationSchema转换源记录为Flink的RowData类型，并处理update操作时的前后数据。

       DebeziumSourceFunction是底层实现，继承了RichSourceFunction和checkpoint接口，确保了Exactly Once语义。open方法初始化单线程线程池以进行单线程读取，run方法中配置DebeziumEngine并监控任务状态。值得注意的是，目前只关注insert, update, delete操作，表结构变更暂不被捕捉。

       为了深入了解Flink SQL如何处理列转行、与HiveCatalog的结合、JSON数据解析、DDL属性动态修改以及WindowAssigner源码，可以查阅文章。你的支持是我写作的动力，如果文章对你有帮助，请给予点赞和关注。

       本文由文章同步助手协助完成。