1.flatbufferԴ?源码밲װ
2.ONNX-Runtime一本通：综述&使用&源码分析（持续更新）
3.Fury：一个基于JIT动态编译的高性能多语言原生序列化框架
4.FlatBuffer介绍及其字符串加载优化

flatbufferԴ?밲װ

       在互联网日益发展的今天，Chromium系列，安装包括Chrome/Edge、源码Chrome Embedded Framework (CEF) 和 Electron，安装已经成为众多应用开发的源码基石。这些基于浏览器内核的安装CG娱乐源码框架和浏览器本身的差异，主要体现在内存管理和系统资源访问上。源码

       首先，安装JS执行引擎虽然存在4GB内存限制，源码但可以通过巧妙利用ArrayBuffer和Worker避免这个问题。安装ArrayBuffer的源码存储空间独立于JS对象，而Worker在不同的安装虚拟机中运行，可以突破单一页面的源码内存限制。然而，安装DOM和大可能导致内存超过4GB，源码因此需谨慎处理。

       尽管浏览器本身对操作系统资源的访问有所限制，但在CEF和Electron中，由于它们提供了与系统资源的小狸源码直接连接，开发者可以通过页面与外壳通信来实现。CEF需要C++与页面交互，Electron则通过postMessage机制。Electron通常用于将网页转化为桌面应用，增强系统资源访问能力，如VSCode，其主要逻辑仍以JavaScript实现，但依赖Native服务处理计算密集型任务。

       CEF的应用场景广泛，从轻量级聊天应用到复杂的工业级软件，都能看到它的身影。它既可以作为基础浏览器使用，也可以作为高级UI的构建块。在CEF中，C++和JavaScript的通信通常通过像flatbuffer这样的二进制交互格式，以实现高效的数据传递。

       目前仅分享了部分内容，更多关于在国内编译浏览器的灰熊源码实践将在后续篇章中详细探讨。

ONNX-Runtime一本通：综述&使用&源码分析（持续更新）

       ONNX-Runtime详解：架构概览、实践与源码解析

       ONNX-Runtime作为异构模型运行框架，其核心机制是先对原始ONNX模型进行硬件无关的图优化，之后根据支持的硬件选择相应的算子库，将模型分解为子模型并发在各个平台执行。它提供同步模式的计算支持，暂不包括异步模式。ORT（onnx-runtime缩写）是主要组件，包含了图优化（graph transformer）、执行提供者（EP）等关键模块。

       EP是执行提供者，它封装了硬件特有的内存管理和算子库，可能只支持部分ONNX算子，但ORT的CPU默认支持所有。ORT统一定义了tensor，但EP可有自定义，需提供转换接口。每个推理会话的源码能量小屋run接口支持多线程，要求kernel的compute函数是并发友好的。

       ORT具有后向兼容性，能运行旧版本ONNX模型，并支持跨平台运行，包括Windows、Linux、macOS、iOS和Android。安装和性能优化是实际应用中的重要步骤。

       源码分析深入到ORT的核心模块，如框架（内存管理、tensor定义等）、图结构（构建、排序与修改）、优化器（包括RewriteRule和GraphTransformer），以及平台相关的功能如线程管理、文件操作等。Session是短线圣手源码推理流程的管理核心，构造函数初始化模型和线程池，load负责模型反序列化，initialize则进行图优化和准备工作。

       ORT中的执行提供者（EP）包括自定义实现和第三方库支持，如TensorRT、CoreML和SNPE。其中，ORT与CoreML和TensorRT的集成通过在线编译，将ONNX模型传递给这些框架进行计算。ORT通过统一的接口管理元框架之上的算子库，但是否支持异构运算（如SNPE与CPU库的混合）仍有待探讨。

       总结来说，ONNX-Runtime处理多种模型格式，包括原始ONNX和优化过的ORT模型，以适应多平台和多设备需求。它通过复杂的架构和优化技术，构建了可扩展且高效的推理软件栈，展示了flatbuffer在性能和体积方面的优势。

       附录：深入探讨ORT源码编译过程的细节。

Fury：一个基于JIT动态编译的高性能多语言原生序列化框架

       Fury：基于JIT动态编译的高性能序列化框架

       Fury是一个专为优化性能而生的框架，它支持Java、Python、Golang和C++等多种语言，提供高效自动的多语言和跨语言序列化能力。相较于其他框架，Fury在性能上有着显著提升，最高可达到倍的性能优势。

       在大数据和分布式系统快速发展的背景下，序列化的重要性不言而喻。Fury旨在解决序列化在高吞吐、低延迟场景中的瓶颈问题，尤其在Java序列化框架如Kryo的基础上，提供了更高的效率。同时，它突破了现有框架的局限，支持引用、零拷贝和动态性，适用于复杂的多语言编程环境，提高开发效率和业务迭代速度。

       Fury的核心特点包括引用支持、JIT动态编译、缓存优化和Zero-Copy技术。它简化了跨语言对象传输的复杂性，消除了语言间的编程障碍。通过实例展示了如何使用Fury进行自定义类型序列化、循环引用处理以及大规模数据的Zero-Copy传输，显示出其在性能上的优越性。

       除了强大的跨语言能力，Fury还提供了Drop-in替换Kryo、Hession等序列化框架的选项，性能上远超这些框架。它还引入了Fury Format，允许在需要时避免序列化，直接操作二进制数据，从而提升性能和灵活性。

       在与其他序列化框架的对比中，Fury在功能、性能和易用性上均表现出色。无论是在基本类型数组的序列化，还是在处理复杂数据结构时，Fury都能提供显著的性能提升。并且，Fury的易用性通过简洁的代码示例得以展现，与Protobuf、Flatbuffer和Msgpack等框架相比，Fury的序列化代码量大大减少。

       Fury自年开发以来，已在蚂蚁集团的多个计算场景中稳定运行，未来将继续优化协议、框架和生态，期待更多开发者参与。如果你对Fury感兴趣，欢迎通过邮箱chaokun.yck@antgroup.com进行交流或合作。

FlatBuffer介绍及其字符串加载优化

       FlatBuffer是跨平台的高效序列化库，支持多种编程语言，最初为游戏开发和性能关键应用设计。数据延时反序列化特性，使得在游戏配置文件使用时能有效减少加载时间和内存占用。

       尽管该特性在大多数数据类型上表现良好，但对字符串的处理存在优化空间。由于每次读取字符串时都会进行反序列化，导致大量重复内存申请，影响性能。为解决这一问题，需设计算法计算字符串唯一标识，避免重复创建字符串。

       考虑到计算效率和内存占用，CRC算法被选为实现这一目标的手段。CRC在碰撞概率和时间复杂度之间找到良好平衡，经过全表扫描，未发现显著碰撞现象。通过使用CRC计算标识并查找缓存中的字符串，显著减少了额外内存申请，至少提高了%的加载速度。

       在大规模字符串处理场景中，此优化实现了显著的性能提升。通过算法减少内存使用并加速加载过程，FlatBuffer在数据处理效率上取得了明显进步。对于需要高效处理大量数据的场景，此优化尤为关键。