1.Java | 带你理解 ServiceLoader 的源码原理与设计思想
2.Mysql - com.mysql.jdbc.Driverä¸com.mysql.cj.jdbc.Driverçåºå«
3.Flink深入浅出:JDBC Connector源码分析
4.Apache Calcite系列(五):数据库驱动实现
5.JBuilder使用问题
Java | 带你理解 ServiceLoader 的原理与设计思想
本文将为您解析Java中ServiceLoader的原理与设计思想,以JDBC为例,分析引导您理解和掌握其基本用法与内部机制。源码
首先,分析了解JDBC的源码五大步骤,包括定义服务接口、分析plastic指标源码实现服务接口、源码注册实现类到配置文件、分析加载服务。源码
定义服务接口时,分析JDBC通过抽象一个服务接口,源码使数据库驱动实现类统一实现此接口,分析实现代码耦合的源码降低。
接着,分析实现服务接口,源码数据库厂商提供一个或多个实现此服务的类,如MySQL的com.mysql.cj.jdbc.Driver。
注册实现类到配置文件,需在java同级目录下的resources/META-INF/services新建文件,每行记录实现类全限定名,方便ServiceLoader查找。
加载服务时,DriverManager的静态代码块通过ServiceLoader遍历所有驱动实现类,此过程无需实际操作。
深入ServiceLoader源码解析,php混淆平台源码其构造器创建LazyIterator实例,此迭代器采用懒加载策略,优先从providers集合获取元素。
providers集合是LazyIterator的内存缓存,LazyIterator#next()方法将每次迭代获取的元素放入此集合,实现高效检索。
ServiceLoader要点总结,包括构造器、迭代器及优先加载机制。
解决DriverManager源码疑问,为何next()操作不取得服务实现类对象?答案在于LazyIterator的高效设计,它在获取元素后立即放入缓存,无需额外操作。
在DriverManager中,注册服务实现类实例并保存在CopyOnWriteArrayList中,后续获取数据库连接时直接从该列表获取驱动。
ServiceLoader设计思想强调模块化与扩展性,通过懒加载机制提高性能,简化代码耦合。
本文仅提供基本概念与解析,后续将探讨ARouter与WMRouter的源码实现,欢迎关注彭旭锐的博客。
Mysql - com.mysql.jdbc.Driverä¸com.mysql.cj.jdbc.Driverçåºå«
spring常ç¨dataSourceé ç½®å¦ä¸:è driver-class-name ç com.mysql.jdbc.Driver ä¸ com.mysql.cj.jdbc.Driver æä»ä¹åºå«å¢?
å½5ä¹åççæ¬éæ© com.mysql.jdbc.Driver çæ¶åï¼ä¼æè¦åæ示ï¼æ¿æ¢ä¸º com.mysql.cj.jdbc.Drive
æ¥çæºç å¯ç¥ï¼èçæ¬ç Driver 继æ¿äºæ°çæ¬ç Driver ï¼éè¿ç»§æ¿çæ¹å¼å ¼å®¹èçæ¬ï¼å¹¶æ·»å äºåè¦æ示ï¼å¦ä¸:
Flink深入浅出:JDBC Connector源码分析
大数据开发中,数据分析与报表制作是盗版源码的来源日常工作中最常遇到的任务。通常,我们通过读取Hive数据来进行计算,并将结果保存到数据库中,然后通过前端读取数据库来进行报表展示。然而,使用FlinkSQL可以简化这一过程,通过一个SQL语句即可完成整个ETL流程。
在Flink中,读取Hive数据并将数据写入数据库是常见的需求。本文将重点讲解数据如何写入数据库的过程,包括刷写数据库的机制和原理。
以下是本文将讲解的几个部分,以解答在使用过程中可能产生的疑问:
1. 表的定义
2. 定义的表如何找到具体的实现类(如何自定义第三方sink)
3. 写入数据的机制原理
(本篇基于1..0源码整理而成)
1. 表的定义
Flink官网提供了SQL中定义表的示例,以下以oracle为例:
定义好这样的表后,就可以使用insert into student执行插入操作了。接下来,我们将探讨其中的技术细节。
2. 如何找到实现类
实际上,这一过程涉及到之前分享过的SPI(服务提供者接口),即DriverManager去寻找Driver的过程。在Flink SQL执行时,会通过translate方法将SQL语句转换为对应的Operation,例如insert into xxx中的xxx会转换为CatalogSinkModifyOperation。这个操作会获取表的KAMA均线源码信息,从而得到Table对象。如果这个Table对象是CatalogTable,则会进入TableFactoryService.find()方法找到对应的实现类。
寻找实现类的过程就是SPI的过程。即通过查找路径下所有TableFactory.class的实现类,加载到内存中。这个SPI的定义位于resources下面的META-INFO下,定义接口以及实现类。
加载到内存后,首先判断是否是TableFactory的实现类,然后检查必要的参数是否满足(如果不满足会抛出异常,很多人在第一次使用Flink SQL注册表时,都会遇到NoMatchingTableFactoryException异常,其实都是因为配置的属性不全或者Jar报不满足找不到对应的TableFactory实现类造成的)。
找到对应的实现类后,调用对应的createTableSink方法就能创建具体的实现类了。
3. 工厂模式+创建者模式,创建TableSink
JDBCTableSourceSinkFactory是JDBC表的具体实现工厂,它实现了stream的sinkfactory。在1..0版本中,它不能在batch模式下使用,但在1.版本中据说会支持。这个类使用了经典的工厂模式,其中createStreamTableSink负责创建真正的lol网络验证源码Table,基于创建者模式构建JDBCUpsertTableSink。
创建出TableSink之后,就可以使用Flink API,基于DataStream创建一个Sink,并配置对应的并行度。
4. 消费数据写入数据库
在消费数据的过程中,底层基于PreparedStatement进行批量提交。需要注意的是提交的时机和机制。
控制刷写触发的最大数量 'connector.write.flush.max-rows' = ''
控制定时刷写的时间 'connector.write.flush.interval' = '2s'
这两个条件先到先触发,这两个参数都是可以通过with()属性配置的。
JDBCUpsertFunction很简单,主要的工作是包装对应的Format,执行它的open和invoke方法。其中open负责开启连接,invoke方法负责消费每条数据提交。
接下来,我们来看看关键的format.open()方法:
接下来就是消费数据,执行提交了
AppendWriter很简单,只是对PreparedStatement的封装而已
5. 总结
通过研究代码,我们应该了解了以下关键问题:
1. JDBC Sink执行的机制,比如依赖哪些包?(flink-jdbc.jar,这个包提供了JDBCTableSinkFactory的实现)
2. 如何找到对应的实现?基于SPI服务发现,扫描接口实现类,通过属性过滤,最终确定对应的实现类。
3. 底层如何提交记录?目前只支持append模式,底层基于PreparedStatement的addbatch+executeBatch批量提交
4. 数据写入数据库的时机和机制?一方面定时任务定时刷新,另一方面数量超过限制也会触发刷新。
更多Flink内容参考:
Apache Calcite系列(五):数据库驱动实现
Avatica,作为Apache Calcite的子项目,提供了实现JDBC和ODBC标准数据库驱动的能力。通过这个项目,开发者可以构建自定义数据库的Java驱动,或代理非JDBC、ODBC标准的数据库,而无需修改上层服务代码。本文将探讨Avatica的实现原理。
在探讨Avatica实现细节之前,需要了解其架构。Avatica采用典型的RPC架构,分为客户端和服务端两个部分。客户端将JDBC相关操作如建立连接、执行请求等通过RPC协议发送给服务端,服务端执行这些操作并返回结果。Avatica的核心概念有三个:连接、Statement和查询执行。
接下来,我们将通过一个DEMO展示Avatica的使用方法。DEMO中,我们将使用Avatica框架访问MySQL数据库。代码包括客户端测试代码和服务器端代码。客户端首先建立连接,创建Statement,然后执行查询,最后打印结果。
在建立连接的过程中,代码调用Driver的connect方法,实际上由AvaticaFactory创建连接,Avatica的Driver通过此方法创建AvaticaConnection。连接创建时,指定连接驱动、URL、元数据等信息。元数据使用RemoteMeta,它连接实际数据库并代理数据。
客户端发送建立连接请求后,服务端处理逻辑通过Jetty网络服务实现。Jetty收到请求后,将请求交给AbstractAvaticaHandler处理。Handler内部处理流程包括:调用LocalService,LocalService再调用Meta处理连接请求,Meta根据请求内容选择合适的数据库驱动建立连接。
创建Statement的过程与建立连接类似,通过远程请求实现。服务端创建Statement后,返回Statement ID给客户端,客户端通过ID执行后续操作。创建StatementHandle的过程也是远程请求,服务端创建Statement并返回。
执行查询的过程与创建Statement类似,服务端根据Statement ID查找Statement,执行查询并返回结果。
源码解读方面,主要关注几个关键目录:org.apache.calcite.avatica根目录下的JDBC框架代码,包括Connection、Statement、ResultSet等实现;org.apache.calcite.avatica.remote包下的Service定义、请求处理Handler以及RemoteMeta;Server端的org.apache.calcite.avatica.jdbc目录定义代理其他数据源的类,如JdbcMeta和JdbcResultSet;org.apache.calcite.avatica.server目录定义服务端Handler和启动服务。
核心类包括消息类Handler、Service接口、Meta接口和Driver类。Handler负责处理网络请求,Service接口处理请求和响应,Meta接口处理JDBC规范操作请求,Driver类提供了实现Avatica框架的Driver。
总结来说,Avatica通过构建RPC架构,实现JDBC和ODBC标准数据库驱动的自定义和代理,简化了数据库访问过程。通过理解和使用Avatica框架,开发者可以灵活地构建和管理数据库驱动,满足不同场景的需求。
JBuilder使用问题
在使用JBuilder时,遇到assert语句执行问题,需在project的properties设置中开启"enable assert keyWord"。默认情况下,JVM不会处理assert,需在runtime configuration的VM parameters中添加"-ea"参数。在Windows平台生成.exe文件,可使用Native Executable Builder,JBuilder8提供此功能,解决中文环境下光标错位问题的方法是调整Editor Option设置,取消"Bold",选择中文宋体,同时调整字体大小。 JBuilder的TAB键使用需先选定代码再进行缩进,预设快捷键为F2而非Tab键。安装JDBC driver需先从数据库获取Class.zip等驱动文件,将其包含的jar包添加到JBuilder的Library中,并在工程属性中指定。在Tools>Enterprise Setup>Database drivers中创建新的Library,指定JDBC Driver的jar文件路径,确保路径无空格。如有源代码和JavaDoc,也需在Configure Libraries对话框中加入。年,Borland将其CodeGear子公司出售给Embarcadero,这个年轻的公司曾以JBuilder等产品在程序开发界享有高度声誉。扩展资料
Jbuilder是一个可视化JAVA开发工具。它是在Java2平台上开发商业应用程序、数据库、发布程序的优秀工具。它支持J2EE,所以程序员可以快速的转换企业版Java应用程序。