1.TensorFlow XLA优化原理与示例
2.polars源码解析——ChunkedArray
3.linux内核源码：内存管理——内存分配和释放关键函数分析&ZGC垃圾回收
4.RocksDb 源码剖析 (1) | 如何混合 new 、内存内存mmap 设计高效内存分配器 arena ?优化源码优化源码用
5.Andorid进阶一：LeakCanary源码分析，从头到尾搞个明白
6.ptmalloc2 源码剖析3 -- 源码剖析

TensorFlow XLA优化原理与示例

       TensorFlow XLA优化原理与示例

       一、内存内存XLA概述

       XLA，优化源码优化源码用加速线性代数，内存内存是优化源码优化源码用综合网站管理系统源码一个专注于优化TensorFlow计算的领域特定编译器。旨在提升服务器和移动设备的内存内存性能、内存使用效率和代码移植性。优化源码优化源码用初期，内存内存大部分用户可能不会立即感受到显著的优化源码优化源码用优化效果，但通过尝试XLA的内存内存即时编译（JIT）或预编译（AOT）模式，探索针对新硬件加速器的优化源码优化源码用XLA应用，可以显著提升性能。内存内存

       二、优化源码优化源码用构建XLA

       XLA与TensorFlow合作以实现以下目标：

       提高执行速度：编译子图以减少短暂操作的内存内存执行时间，消除TensorFlow运行时的开销，融合流水线操作以减少内存开销，针对已知张量形状优化，允许更积极的恒定传播。

       改善内存使用：分析和规划内存使用情况，理论上消除许多中间存储缓冲区。

       减少自定义操作依赖：通过改进自动融合低级操作的性能，减少对大量自定义操作的需求，匹配手工融合操作的性能。

       移动足迹减少：通过提前编译子图，生成可以直接链接到另一个应用程序的对象/头文件，从而消除TensorFlow运行时的占用空间，结果可以大幅减少移动推断的占用空间。

       提高可移植性：为新硬件编写新的后端程序相对容易，大多数TensorFlow程序将在该硬件上无修改地运行，与针对新硬件的个体单片操作方法形成对比，后者需要重写TensorFlow程序以利用这些操作。

       三、XLA如何工作？

       输入语言为“HLO IR”（高级优化程序），XLA将HLO中的图形（计算）编译成各种体系结构的机器指令。XLA模块化设计，易于插入替代后端以定位新颖硬件架构。支持x和ARM CPU后端，以及NVIDIA GPU后端。

       编译过程包含多个与目标无关的优化和分析，如循环节省、独立于目标的操作融合，以及为计算分配运行时，内存的缓冲区分析。在独立于目标的步骤后，XLA将HLO计算发送到后端。后端执行进一步的HLO级别分析和优化，针对具体目标信息和需求。例如，XLA GPU后端可以执行专用于GPU编程模型的算子融合，并确定如何将计算划分为流。此时，后端也可以模式匹配某些操作或其组合来优化库调用。下一步是目标特定的代码生成，XLA附带的CPU和GPU后端使用 LLVM进行低级IR优化和代码生成。

       四、台风小程序源码XLA开发后端

       XLA提供了一个抽象接口，新体系结构或加速器可以实现创建后端，运行TensorFlow图形。重新定位XLA通常比实现每个现有TensorFlow Op针对新硬件更简单和可扩展。实现可分为以下几种情况：

       现有CPU架构，尚未正式由XLA支持。通过使用LLVM，XLA可以轻松将TensorFlow重定向到不同的CPU，因为主要区别在于LLVM生成的代码。

       具有现有LLVM后端的非CPU类硬件。可以基于现有CPU或GPU实现创建新的实现，共享大量代码。

       没有现有LLVM后端的非CPU类硬件。需要实施StreamExecutor、xla::Compiler、xla::Executable和xla::TransferManager等关键类。

       五、使用JIT编译

       TensorFlow必须从源代码编译为包含XLA。使用即时（JIT）编译可以将多个算子（内核融合），融合到少量的编译内核中，减少内存带宽要求并提高性能。通过XLA运行TensorFlow图表有多种方法，包括通过JIT编译算子放置在CPU或GPU设备上，或通过将算子在XLA_CPU或XLA_GPU设备上运行。

       六、打开JIT编译

       可以在会话级别或手动打开JIT编译。手动方法涉及标记算子以使用属性进行编译完成。在会话级别打开JIT编译，会导致所有可能的算子贪婪地编译成XLA计算。受限于一些限制，如果图中有两个相邻的算子都具有XLA实现，编译为单个XLA计算。

       七、使用示例

       以MNIST softmax为例，在开启JIT的情况下进行训练。当前仅支持在GPU上进行。

       确保LD_LIBRARY环境变量或ldconfig包含$CUDA_ROOT/extras/CUPTI/lib，其中包含CUDA分析工具界面（CUPTI）的库。TensorFlow使用CUPTI从GPU中提取跟踪信息。

       八、代码流程

       实现流程包括图优化Pass（MarkForCompilation）、EncapsulateSubgraphs和BuildXlaOps，将子图转化成XLA HLO Computation、XLA Function子图、Xla节点和最终的GPU可执行代码或PTX。

       九、总结

       通过使用XLA，TensorFlow的性能、内存使用效率和代码移植性得到了显著提升。实现XLA后端相对简单，支持从现有CPU架构到非CPU类硬件的各种优化，同时提供JIT编译和手动控制的灵活性。通过实例和代码示例，可以深入理解XLA在TensorFlow中的应用和优化策略。

polars源码解析——ChunkedArray

       本文以源码解析视角，质量安全溯源码探索polars中ChunkedArray的构成和运作机制。重点介绍了ChunkedArray的基本结构及其在数据操作中的应用，特别是Add算子与shift算子的实现。

       ChunkedArray作为polars的基础数据结构，利用Apache Arrow实现内存优化，确保了数据操作的高效性和并发安全性。Series由ChunkedArray构成，理解前者有助于掌握后者的核心逻辑。在数据添加时，ChunkedArray采用动态扩展策略，避免了不必要的内存重新分配，但多块的存在可能导致随机访问效率降低。算术操作的性能受块大小影响，尤其在不同块大小的ChunkedArray相乘时，无法充分利用SIMD加速。为保持性能稳定，建议定期调用ChunkedArray的rechunk方法，合并较小块以优化性能。

       ChunkedArray定义为一个泛型结构体，包含字段如field、chunks、phantom和bit_settings等，确保类型安全与元数据管理。chunks字段存储实际数据，使用ArrayRef表示，Arc用于实现多线程并发下的安全性。

       在完成算术计算时，ChunkedArray的核心处理逻辑位于arithmetic_helper方法。以加法为例，处理逻辑分为三类：ca与标量数值a的操作。当a为None时，构造一个与ca等长的全空值ChunkedArray；若a非None，则通过apply函数执行加法运算。对于两个ChunkedArray的相加，首先确保元素数量相等，通过align_chunks_binary方法进行数据对齐，利用rechunk函数将多维数组降维，以便进行计算。计算结果通过copy_with_chunks方法构造为新的ChunkedArray返回。

       除了基本的算术操作，polars还提供自定义算子，如shift算子。shift_and_fill函数通过宏impl_shift_fill!实现，用于移动数据元素并填充指定值。在处理Series的shift函数时，最终操作过程与shift_and_fill类似，仅在fill_value参数上有所不同。

       综上所述，ChunkedArray在polars中扮演核心角色，通过源码解析可以清晰地理解其结构与操作机制。无论是内部实现细节还是自定义算子的扩展，均遵循高效、安全的设计原则，使得数据处理变得简洁且高效。

linux内核源码：内存管理——内存分配和释放关键函数分析&ZGC垃圾回收

       本文深入剖析了Linux内核源码中的有试衣软件源码内存管理机制，重点关注内存分配与释放的关键函数，通过分析4.9版本的源码，详细介绍了slab算法及其核心代码实现。在内存管理中，slab算法通过kmem_cache结构体进行管理，利用数组的形式统一处理所有的kmem_cache实例，通过size_index数组实现对象大小与kmem_cache结构体之间的映射，从而实现高效内存分配。其中，关键的计算方法是通过查找输入参数的最高有效位序号，这与常规的0起始序号不同，从1开始计数。

       在找到合适的kmem_cache实例后，下一步是通过数组缓存（array_cache）获取或填充slab对象。若缓存中有可用对象，则直接从缓存分配；若缓存已空，会调用cache_alloc_refill函数从三个slabs（free/partial/full）中查找并填充可用对象至缓存。在对象分配过程中，array_cache结构体发挥了关键作用，它不仅简化了内存管理，还优化了内存使用效率。

       对象释放流程与分配流程类似，涉及数组缓存的管理和slab对象的回收。在cache_alloc_refill函数中，关键操作是检查slab_partial和slab_free队列，寻找空闲的对象以供释放。整个过程确保了内存资源的高效利用，避免了资源浪费。

       总结内存操作函数概览，栈与堆的区别是显而易见的。栈主要存储函数调用参数、局部变量等，而堆用于存放new出来的对象实例、全局变量、静态变量等。由于堆的动态分配特性，它无法像栈一样精准预测内存使用情况，导致内存碎片问题。为了应对这一挑战，Linux内核引入了buddy和slab等内存管理算法，以提高内存分配效率和减少碎片。

       然而，即便使用了高效的内存管理算法，内存碎片问题仍难以彻底解决。在C/C++中，没有像Java那样的自动垃圾回收机制，导致程序员需要手动管理内存分配与释放。如果忘记释放内存，将导致资源泄漏，影响系统性能。为此，业界开发了如ZGC和Shenandoah等垃圾回收算法，以提高内存管理效率和减少内存碎片。

       ZGC算法通过分页策略对内存进行管理，并利用“初始标记”阶段识别GC根节点（如线程栈变量、超商app源码静态变量等），并查找这些节点引用的直接对象。此阶段采用“stop the world”（STW）策略暂停所有线程，确保标记过程的准确性。接着，通过“并发标记”阶段识别间接引用的对象，并利用多个GC线程与业务线程协作提高效率。在这一过程中，ZGC采用“三色标记”法和“remember set”机制来避免误回收正常引用的对象，确保内存管理的精准性。

       接下来，ZGC通过“复制算法”实现内存回收，将正常引用的对象复制到新页面，将旧页面的数据擦除，从而实现内存的高效管理。此外，通过“初始转移”和“并发转移”阶段进一步优化内存管理过程。最后，在“对象重定位”阶段，完成引用关系的更新，确保内存管理过程的完整性和一致性。

       通过实测，ZGC算法在各个阶段展现出高效的内存管理能力，尤其是标记阶段的效率，使得系统能够在保证性能的同时，有效地管理内存资源。总之，内存管理是系统性能的关键因素，Linux内核通过先进的算法和策略，实现了高效、灵活的内存管理，为现代操作系统提供稳定、可靠的服务。

RocksDb 源码剖析 (1) | 如何混合 new 、mmap 设计高效内存分配器 arena ?

       本文旨在深入剖析RocksDb源码，从内存分配器角度着手。RocksDb内包含MemoryAllocator和Allocator两大类内存分配器。MemoryAllocator作为基类，提供MemkindKmemAllocator和JemallocNodumpAllocator两个子类，分别集成memkind和jemalloc库的功能，实现内存分配与释放。

       接着，重点解析Allocator类及其子类Arena的实现。基类Allocator提供两个关键接口：内存分配与对齐。Arena类采用block为单位进行内存分配，先分配一个block大小的内存，后续满足需求时，优先从block中划取，以减少内存浪费。一个block的大小由kBlockSize参数决定。分配策略中，Arena通过两个指针（aligned_alloc_ptr_和unaligned_alloc_ptr_）分别管理对齐与非对齐内存，提高内存利用效率。

       分配内存时，Arena通过构造函数初始化成员变量，包括block大小、内存在栈上的分配与mmap机制的使用。构造函数内使用OptimizeBlockSize函数确保block大小合理，减少内存对齐浪费。Arena中的内存管理逻辑清晰，尤其在分配新block时，仅使用new操作，无需额外内存对齐处理。

       分配内存流程中，AllocateNewBlock函数直接调用new分配内存，而AllocateFromHugePage和AllocateFallback函数则涉及mmap机制的使用与内存分配策略的统一。这些函数共同构成了Arena内存管理的核心逻辑，实现了灵活高效地内存分配。

       此外，Arena还提供AllocateAligned函数，针对特定对齐需求分配内存。这一函数在使用mmap分配内存时，允许用户自定义对齐大小，优化内存使用效率。在处理对齐逻辑时，Arena巧妙地利用位运算优化计算过程，提高了代码效率。

       总结而言，RocksDb的内存管理机制通过Arena类实现了高效、灵活的内存分配与管理。通过深入解析其源码，可以深入了解内存对齐、内存分配与多线程安全性的实现细节，为开发者提供宝贵的内存管理实践指导。未来，将深入探讨多线程内存分配器的设计，敬请期待后续更新。

Andorid进阶一：LeakCanary源码分析，从头到尾搞个明白

       内存优化掌握了吗？知道如何定位内存问题吗？面试官和蔼地问有些拘谨的小张。小张回答道：“就是用LeakCanary检测一下泄漏，找到对应泄漏的地方，修改错误的代码，回收没回收的引用，优化生命周期线程的依赖关系。”“那你了解LeakCanary分析内存泄漏的原理吗？”面试官追问。“不好意思，平时没有注意过。”小张心想：面试怎么总问这个，我只是一个普通的程序员。

       前言：

       应用性能优化是开发中不可或缺的一环，而内存优化尤为重要。内存泄漏导致的内存溢出崩溃和内存抖动带来的卡顿不流畅，都在切实影响着用户体验。LeakCanary常用于定位内存泄漏问题，是时候深入理解它的工作机制了。

       名词理解：

       hprof：hprof文件是Java的内存快照文件，格式后缀为.hprof，在LeakCanary中用于内存分析。WeakReference：弱引用，当对象仅被weak reference指向，没有任何其他strong reference指向时，在GC运行时，这个对象就会被回收，不论当前内存空间是否足够。在LeakCanary中用于监测被回收的无用对象是否被释放。Curtains：Square的另一个开源框架，用于处理Android窗口的集中式API，在LeakCanary中用于监测window rootView在detach后的内存泄漏。

       目录：

       本文将从以下几个方面进行分析：

       一，怎么用？

       查看官网文档可以看出，使用LeakCanary非常简单，只需添加相关依赖即可。debugImplementation只在debug模式的编译和最终的debug apk打包时有效。LeakCanary的初始化代码通过ContentProvider进行，会在AppWatcherInstaller类的oncreate方法中调用真正的初始化代码AppWatcher.manualInstall(application)。在AndroidManifest.xml中注册该provider，注册的ContentProvider会在application启动的时候自动回调oncreate方法。

       二，官方阐述

       安装LeakCanary后，它会通过4个步骤自动检测并报告内存泄漏：如果ObjectWatcher在等待5秒并运行垃圾收集后没有清除持有的弱引用，则被监视的对象被认为是保留的，并且可能会泄漏。LeakCanary会将其记录到Logcat中，并在泄漏列表展示中用Library Leak标签标记。LeakCanary附带一个已知泄漏的数据库，通过引用名称的模式匹配来识别泄漏，如Library Leaks。对于无法识别的泄漏，可以报告并自定义已知库泄漏的列表。

       三，监测activity，fragment，rootView和viewmodel

       初始化的代码关键在于AppWatcher作为Android平台使用ObjectWatcher封装的API中心，自动安装配置默认的监听。我们分析了四个默认监听的Watcher，包括ActivityWatcher，FragmentAndViewModelWatcher，RootViewWatcher和ServiceWatcher，分别用于监测activity，fragment，rootView和service的内存泄漏。

       四，ObjectWatcher保留对象检查分析

       LeakCanary通过ObjectWatcher监控内存泄漏，我们深入分析了其检查过程，包括创建弱引用，检查对应key对象的保留，以及内存快照转储和内存分析。

       五，总结

       本文全面分析了LeakCanary的实现原理，从安装、使用到内存泄漏的检测和分析，详细介绍了各个组件的作用和工作流程。通过深入理解LeakCanary，开发者可以更有效地定位和解决内存泄漏问题，优化应用性能。阅读源码不仅能深入了解LeakCanary的工作机制，还能学习到内存泄漏检测的通用方法和技巧。

ptmalloc2 源码剖析3 -- 源码剖析

       文章内容包含平台配置、malloc_state、arena实例、new_arena、arena_get、arena_get2、heap、new_heap、grow_heap、heap_trim、init、malloc_hook、malloc_hook_ini、ptmalloc_init、malloc_consolidate、public_mALLOc、sYSMALLOc、freepublic_fREe、systrim等关键模块。

       平台配置为 Debian AMD，使用ptmalloc2作为内存分配机制。

       malloc_state 表征一个arena，全局只有一个main_arena实例，arena实例通过malloc_init_state()函数初始化。

       当线程尝试获取arena失败时，通过new_heap获取内存区域，构建非main_arena实例。

       arena_get和arena_get2分别尝试线程的私有实例和全局arena链表获取arena，若获取失败，则创建new_arena。

       heap表示mmap映射连续内存区域，每个arena至少包含一个heap，且起始地址为HEAP_MAX_SIZE整数倍。

       new_heap尝试mmap映射内存，实现内存对齐，确保起始地址满足要求。

       grow_heap用于内存扩展与收缩，依据当前heap状态调用mprotect或mmap进行操作。

       heap_trim释放heap，条件为当前heap无已分配chunk或可用空间不足。

       init阶段，通过malloc_hook、realloc_hook和__memalign_hook函数进行内存分配。

       malloc_consolidate合并fastbins和unsortedbin，优化内存分配。

       public_mALLOc作为内存分配入口。

       sYSMALLOc尝试系统申请内存，实现内存分配。

       freepublic_fREe用于释放内存，针对map映射内存调用munmap，其他情况归还给对应arena。

       systrim使用sbrk归还内存。

redis源码学习-quicklist篇

       Redis源码中的quicklist是ziplist优化版的双端链表，旨在提高内存效率和操作效率。ziplist虽然内存使用率高，但查找和增删操作的最坏时间复杂度可能达到O(n^2)，这与Redis高效数据处理的要求不符。quicklist通过每个节点独立的ziplist结构，降低了更新复杂度，同时保持了内存使用率。

       quicklist的基本结构包括：头节点（head）、尾节点（tail）、entry总数（count）、节点总数（len）、容量指示（fill）、压缩深度（compress）、以及用于内存管理的bookmarks。节点结构包括双向链表的prev和next，ziplist的引用zl，ziplist的字节数sz、item数count、以及ziplist类型（raw或lzf压缩）和尝试压缩标志（attempted_compress）。

       核心操作函数如create用于初始化节点，insert则根据需求执行头插法或尾插法。delete则简单地从链表中移除节点，释放相关内存。quicklist的优化重点在于ziplist，理解了ziplist的工作原理，quicklist的数据结构理解就相对容易了。

linux源码解读（三十二）：dpdk原理概述（一）

       Linux源码解析（三十二）：深入理解DPDK原理（一）

       几十年来，随着技术的发展，传统操作系统和网络架构在处理某些业务需求时已显得力不从心。为降低修改底层操作系统的高昂成本，人们开始在应用层寻求解决方案，如协程和QUIC等。然而，一个主要问题在于基于内核的网络数据IO，其繁琐的处理流程引发了效率低下和性能损耗。

       传统网络开发中，数据收发依赖于内核的receive和send函数，经过一系列步骤：网卡接收数据、硬件中断通知、数据复制到内存、内核线程处理、协议栈层层剥开，最终传递给应用层。这种长链式处理方式带来了一系列问题，如上下文切换和协议栈开销。

       为打破这种限制，Linux引入了UIO（用户空间接口设备）机制，允许用户空间直接控制网卡，跳过内核协议栈，从而大大简化了数据处理流程。UIO设备提供文件接口，通过mmap映射内存，允许用户直接操作设备数据，实现绕过内核控制网络I/O的设想。

       DPDK（Data Plane Development Kit）正是利用了UIO的优点，如Huge Page大页技术减少TLB miss，内存池优化内存管理，Ring无锁环设计提高并发性能，以及PMD poll-mode驱动避免中断带来的开销。它采用轮询而非中断处理模式，实现零拷贝、低系统调用、减少上下文切换等优势。

       DPDK还注重内存分配和CPU亲和性，通过NUMA内存优化减少跨节点访问，提高性能，并利用CPU亲和性避免缓存失效，提升执行效率。学习DPDK，可以深入理解高性能网络编程和虚拟化领域的技术，更多资源可通过相关学习群获取。

       深入了解DPDK原理，可以从一系列资源开始，如腾讯云博客、CSDN博客、B站视频和LWN文章，以及Chowdera的DPDK示例和腾讯云的DPDK内存池讲解。

       源：cnblogs.com/thesevenths...

Redis源码阅读（1）——zmalloc

       zmalloc是一个简化内存分配的库，包含以下API函数：

       zmalloc

       zcalloc

       zrealloc

       zfree

       zstrdup

       zmalloc_used_memory

       zmalloc_set_oom_handler

       zmalloc_get_rss

       zmalloc_get_allocator_info

       zmalloc_get_private_dirty

       zmalloc_get_smap_bytes_by_field

       zmalloc_get_memory_size

       zlibc_free

       其中，zmalloc用于分配内存，zcalloc在分配内存的同时初始化为0，zrealloc用于重新分配内存，zfree用于释放内存，zstrdup用于复制字符串并分配内存，zmalloc_used_memory用于获取已分配内存的大小，zmalloc_set_oom_handler用于设置内存溢出处理器，zmalloc_get_rss用于获取当前进程的内存使用量，zmalloc_get_allocator_info用于获取分配器信息，zmalloc_get_private_dirty用于获取私有脏数据，zmalloc_get_smap_bytes_by_field用于获取指定字段的内存使用量，zmalloc_get_memory_size用于获取内存大小，zlibc_free用于释放内存。

       在zmalloc中，宏函数update_zmalloc_stat_alloc用于更新used_memory的值。这个宏函数中的if语句用于补齐分配的内存字节数到sizeof(long)，但是我不太理解5.0源码中为什么atomicIncr使用的是__n而不是直接对_n进行操作。测试发现，used_memory的值并未对齐到8，那么if语句的存在意义何在呢？

       同样地，update_zmalloc_stat_free宏函数用于更新已释放内存的统计信息。与update_zmalloc_stat_alloc相比，虽然malloc_usable_size已经返回精确的字节数，但update_zmalloc_stat_alloc为何不直接使用atomicIncr更新used_memory呢？在Unstable分支中，已有开发者对此进行了优化。