1.FFmpeg开发笔记（十二）Linux环境给FFmpeg集成libopus和libvpx
2.编译WebAssembly版本的网页FFmpeg（ffmpeg.wasm）：（1）准备
3.前端视频帧提取 ffmpeg + Webassembly
4.FFmpeg源码分析: AVStream码流
5.FFMPEG详解(完整版）
6.FFmpeg源码分析：视频滤镜介绍(上)

FFmpeg开发笔记（十二）Linux环境给FFmpeg集成libopus和libvpx

       在FFmpeg开发中，为了支持WebM格式的源码源码视频，特别是下载其音频编码的Opus和视频编码的VP8/VP9，需要在Linux环境中集成libopus和libvpx库。网页以下是源码源码具体的操作步骤：

       1. 安装libopus：首先，从ftp.osuosl.org下载libopus源码，下载netty设置源码如libopus-1.4。网页解压后，源码源码运行`./configure`进行配置，下载接着执行`make`和`make install`编译并安装。网页

       2. 安装libvpx：访问github.com/webmproject获取libvpx-1..1源码。源码源码解压后，下载使用`./configure --enable-pic --disable-examples --disable-unit-tests`配置，网页然后编译并安装，源码源码即`make`和`make install`。下载

       3. 重新编译FFmpeg：由于FFmpeg默认不支持opus和vpx，需要在FFmpeg源码目录下，通过`./configure`命令添加`--enable-libopus --enable-libvpx`选项。接着执行`make clean`清理，`make -j4`编译，最后使用`make install`安装并检查FFmpeg版本以确认成功启用。

       按照以上步骤，你就能在Linux环境中成功集成libopus和libvpx到FFmpeg，从而支持WebM格式的视频编码。《FFmpeg开发实战：从零基础到短视频上线》一书中的详细说明提供了完整的指导。

编译WebAssembly版本的FFmpeg（ffmpeg.wasm）：（1）准备

       在这一部分，你将深入了解如何准备编译WebAssembly版本的FFmpeg（ffmpeg.wasm）。

       本系列的背景

       该系列文章旨在帮助读者在现实世界的C/C++库中使用Emscripten，特别是针对FFmpeg。

       为什么是FFmpeg？

       FFmpeg是一个功能强大的免费开源项目，用于处理各种多媒体文件和流。它提供了广泛的视频和音频处理功能，市面上很少有其他JavaScript库能与之媲美。

       尽管现有的库在大多数情况下都能使用，但它们存在一些问题。因此，我决定从头开始构建一个全新的库，并编写一系列教程，旨在让读者了解如何在C/C++库中使用Emscripten。

       如何用Docker构建原生FFmpeg

       首先，从FFmpeg的仓库中克隆源代码，并选择稳定的版本（例如n4.3.1）进行编译。接着，默认表单源码根据构建系统进行构建和安装。

       两种构建方法可选：一是原生方式，需要安装特定软件包；二是使用Docker，提供稳定的静态构建环境。强烈建议使用Docker以节省安装和删除软件包的时间。

       构建与安装指南

       构建和安装说明可在版本库根目录下的INSTALL.md中找到。为了支持更多操作系统，使用Github Actions测试在Linux和MacOS上的兼容性。Linux用户可使用Docker方式构建，MacOS用户则使用本地方式。

       创建构建脚本

       创建build.sh和build-with-docker.sh文件，分别用于本地和Docker方式构建。确保运行命令后，编译过程可能需要~分钟，并可能显示大量警告，这属于正常现象。

       运行FFmpeg

       一旦编译完成，可以运行ffmpeg命令。查看输出结果，确认编译成功。

       访问库和代码

       获取库的工作细节，请访问Github仓库：github.com/ffmpegwasm/F...

       下载构建代码：github.com/ffmpegwasm/F...

       准备工作完成

       至此，准备工作已完成。接下来，我们将继续深入编译WebAssembly版本的FFmpeg（ffmpeg.wasm）：（2）用Emscripten编译。

前端视频帧提取 ffmpeg + Webassembly

       实现前端视频帧提取的先进方法：ffmpeg + Webassembly

       现有的前端视频帧提取方法主要依赖canvas和video标签，但受限于浏览器对视频编码格式的支持，仅能处理MP4/WebM格式和H./VP8编码，无法处理自定义压制和封装的视频格式，导致无法截取正常视频帧。

       Webassembly的出现为解决此问题提供了可能。通过将ffmpeg编译为Webassembly库，前端可以完全实现视频帧截取。设计思路是：使用ffmpeg截取视频帧，通过canvas绘制提取的图像。

       一、wasm模块

       1. ffmpeg编译

       在ubuntu系统中安装emsdk，并下载ffmpeg源码。通过emcc编译ffmpeg，获取用于解码器的c依赖库和头文件。选择ffmpeg 3.3.9版本编译，禁用不需要的盗钱包源码功能，得到压缩后体积为.6MB的wasm文件。

       2. 基于ffmpeg的解码器编码

       利用ffmpeg的解封装、解码和图像缩放转换接口，提取视频帧数据。解码后数据转换为AV_PIX_FMT_RGB格式，用于在canvas上绘制。

       3. wasm编译

       使用emcc将解码器代码和依赖库编译为wasm，输出供js调用的函数。

       二、js模块

       1. wasm内存传递

       将提取的视频帧数据转换为RGB格式，保存在内存中，供js读取并绘制图像。

       2. js与wasm交互

       通过内存传递，js与wasm交互，js写入内存，wasm读取数据并调用js方法。

       3. 图像数据绘制

       js读取内存中的图像数据，通过canvas绘制图像。图像数据补全A通道，完成图像绘制。

       三、wasm优化

       优化ffmpeg编译配置，选择业务场景常用的编码和封装格式，减少无用功能。调整wasm构建配置，改进初始化流程，降低内存占用，优化性能。

       四、总结

       ffmpeg + Webassembly技术为前端提供了一种高效实现视频帧提取的方法。Webassembly扩展了浏览器的应用能力，ffmpeg丰富的功能为更多应用场景提供了可能。随着技术的发展，此方案的性能优化和应用场景探索将不断深入。

FFmpeg源码分析: AVStream码流

       在AVCodecContext结构体中，AVStream数组存储着所有视频、音频和字幕流的信息。每个码流包含时间基、时长、索引数组、编解码器参数、dts和元数据。温州源码开发索引数组用于保存帧数据包的offset、size、timestamp和flag，方便进行seek定位。

       让我们通过ffprobe查看mp4文件的码流信息。该文件包含5个码流，是双音轨双字幕文件。第一个是video，编码为h，帧率为.fps，分辨率为x，像素格式为yuvp。第二个和第三个都是audio，编码为aac，采样率为，立体声，语言分别为印地语和英语。第四个和第五个都是subtitle，语言为英语，编码器为mov_text和mov_text。

       调试实时数据显示，stream数组包含以下信息：codec_type（媒体类型）、codec_id、bit_rate、profile、level、width、height、sample_rate、channels等编解码器参数。

       我们关注AVCodecContext的编解码器参数，例如codec_type、codec_id、bit_rate、profile、level、width、height、sample_rate和channels。具体参数如下：codec_type - 视频/音频/字幕；codec_id - 编码器ID；bit_rate - 位率；profile - 编码器配置文件；level - 编码器级别；width - 宽度；height - 高度；sample_rate - 采样率；channels - 音道数。

       AVStream内部的nb_index_entries（索引数组长度）和index_entries（索引数组）记录着offset、size、源码增加功能timestamp、flags和min_distance信息。在seek操作中，通过二分查找timestamp数组来定位指定时间戳对应的帧。seek模式有previous、next、nearest，通常使用previous模式向前查找。

       时间基time_base在ffmpeg中用于计算时间戳。在rational.h中，AVRational结构体定义为一个有理数，用于时间计算。要将时间戳转换为真实时间，只需将num分子除以den分母。

FFMPEG详解(完整版）

       FFMPEG详解

       FFMPEG是自由软件中最完备的多媒体支持库，几乎涵盖了所有常见数据封装格式、多媒体传输协议以及音视频编解码器。对于多媒体技术开发工程师来说，深入研究FFMPEG是必不可少的。它的重要性如同kernel之于嵌入式系统工程师。FFMPEG的大部分代码遵循LGPL许可证，少部分遵循GPL许可证，因此其被广泛应用于各种第三方播放器和商业软件中，但需要注意在商业应用中可能涉及专利风险。

       FFMPEG功能分为多个模块，如核心工具、媒体格式、编解码、设备和后处理模块，分别提供公用功能函数、实现多媒体文件读写、音视频编解码、设备操作以及音视频后处理。

       FFMPEG提供命令行工具ffmpeg，其使用方法包含三部分：全局参数、输入文件参数、输出文件参数，每组输入参数以‘-i’结束，每组输出参数以文件名结束。

       在使用FFMPEG时，需要熟悉基本选项、流标识、音频选项、视频选项等，同时，FFMPEG支持多种滤镜和高级选项，实现特定用例。

       编译FFMPEG时，通过configure脚本实现定制和裁剪，以适应不同系统和需求。configure脚本生成的config.mak和config.h文件在Makefile和源代码层次上控制编译过程。

       深入FFMPEG示例程序包括解码功能，实现复杂多媒体播放器的基础解复用、解码、数据分析过程。用户接口涉及数据结构、编解码器、媒体流和容器等概念，通过FFMPEG提供的AVFormatContext、AVStream、AVCodecContext等结构进行抽象。

       时间信息在FFMPEG中用于实现多媒体同步，包括流内和流间同步。FFMPEG通过AVPacket结构为每个数据包打上时间标签，支持上层应用的同步机制。时间信息的获取和操作对于多媒体应用至关重要。

       FFMPEG的API分为读系列、编解码系列和写系列，实现媒体数据的获取、编码、解码和输出。关键函数包括avformat_open_input、avformat_find_stream_info、av_read_frame等，用于文件输入、流信息查找和数据读取。

       FFMPEG支持过滤链，通过AVFilter、AVFilterPad和AVFilterLink实现视频帧和音频采样数据的后续处理，如图像缩放、增强和声音重采样。

       综上所述，FFMPEG是多媒体开发工程师不可或缺的工具，其功能强大且适用范围广泛，深入理解FFMPEG对于开发高性能多媒体应用至关重要。

FFmpeg源码分析：视频滤镜介绍(上)

       FFmpeg在libavfilter模块提供了丰富的音视频滤镜功能。本文主要介绍FFmpeg的视频滤镜，包括黑色检测、视频叠加、色彩均衡、去除水印、抗抖动、矩形标注、九宫格等。

       黑色检测滤镜用于检测视频中的纯黑色间隔时间，输出日志和元数据。若检测到至少具有指定最小持续时间的黑色片段，则输出开始、结束时间戳与持续时间。该滤镜通过参数选项rs、gs、bs、rm、gm、bm、rh、gh、bh来调整红、绿、蓝阴影、基调与高亮区域的色彩平衡。

       视频叠加滤镜将两个视频的所有帧混合在一起，称为视频叠加。顶层视频覆盖底层视频，输出时长为最长的视频。实现代码位于libavfilter/vf_blend.c，通过遍历像素矩阵计算顶层像素与底层像素的混合值。

       色彩均衡滤镜调整视频帧的RGB分量占比，通过参数rs、gs、bs、rm、gm、bm、rh、gh、bh在阴影、基调与高亮区域进行色彩平衡调整。

       去除水印滤镜通过简单插值抑制水印，仅需设置覆盖水印的矩形。代码位于libavfilter/vf_delogo.c，核心是基于矩形外像素值计算插值像素值。

       矩形标注滤镜在视频画面中绘制矩形框，用于标注ROI兴趣区域。在人脸检测与人脸识别场景中，检测到人脸时会用矩形框进行标注。

       绘制x宫格滤镜用于绘制四宫格、九宫格，模拟画面拼接或分割。此滤镜通过参数x、y、width、height、color、thickness来定义宫格的位置、大小、颜色与边框厚度。

       调整yuv或rgb滤镜通过计算查找表，绑定像素输入值到输出值，然后应用到输入视频，实现色彩、对比度等调整。相关代码位于vf_lut.c，支持四种类型：packed 8bits、packed bits、planar 8bits、planar bits。

       将彩色视频转换为黑白视频的滤镜设置U和V分量为，实现效果如黑白视频所示。

msys2编译FFmpeg全网最详细步骤

       本文提供详细步骤使用msys2编译FFmpeg源码，无需安装mingw。msys2在Windows上模拟Linux环境，允许使用大多数shell命令，类似于虚拟机但更轻量级。首先，从msys2.github.io下载并安装msys2到D盘，避开系统盘C盘。

       在安装过程中，若进度卡住，可取消安装后重新尝试。安装完毕后，进入安装目录启动msys2_shell.cmd，并调整字符集以避免中文乱码。确保设置生效后重启msys2_shell.cmd。

       接着，更换msys2的国内源，可参考相关指南。免费音视频学习资源推荐，包括FFmpeg、WebRTC、RTMP等技术，点击下方链接免费报名，先保存学习路径。

       使用msys2安装软件，如yasm、make、diffutils、pkg-config。若安装缓慢，多次尝试直至完成。通过命令查看gcc安装状态。

       下载最新FFmpeg源码（FFmpeg4.2.2），创建名为“SourceCode”的文件夹，解压源码并存放其中。

       通过命令行进入msys2目录，配置FFmpeg编译参数，例如指定安装路径。生成的Makefile文件将用于编译过程。此步骤可使用批处理文件执行以提高效率。

       编译完成后，ffmpeg库和可执行文件位于msys/usr/local/ffmpeg/bin目录。将msys\mingw\bin下的dll库复制到msys\usr\local\ffmpeg\bin，以确保依赖性。

       需x库时，先编译x库，再编译FFmpeg。遵循本指南的详细步骤，您将成功在Windows上使用msys2编译FFmpeg源码。

FFmpeg开发笔记（十三）Windows环境给FFmpeg集成libopus和libvpx

       本文将指导读者在Windows环境下，如何为FFmpeg集成libopus和libvpx，进而支持Opus音频编码与VP8/VP9视频编码。首先，介绍libopus的集成步骤。libopus是用于语音交互和音频传输的编码标准，其编解码器为libopus。下载最新版libopus源码，解压后执行配置命令./configure --prefix=/usr/local/libopus。接着，编译并安装libopus，确保环境变量PKG_CONFIG_PATH已包含libopus的pkgconfig路径。

       随后，转向libvpx的集成。libvpx是VP8和VP9视频编码标准的编解码器。下载最新libvpx源码，解压并配置./configure --prefix=/usr/local/libvpx --enable-pic --disable-examples --disable-unit-tests，确保使用了--enable-pic选项以避免在编译FFmpeg时的错误。编译、安装libvpx后，同样更新PKG_CONFIG_PATH环境变量。

       为了在FFmpeg中启用libopus和libvpx，需要重新编译FFmpeg。确保所有相关库的pkgconfig路径已加载至环境变量PKG_CONFIG_PATH中。通过命令./configure --prefix=/usr/local/ffmpeg --arch=x_ --enable-shared --disable-static --disable-doc --enable-libx --enable-libx --enable-libxavs2 --enable-libdavs2 --enable-libmp3lame --enable-gpl --enable-nonfree --enable-libfreetype --enable-sdl2 --enable-libvorbis --enable-libopencore-amrnb --enable-libopencore-amrwb --enable-version3 --enable-libopus --enable-libvpx --enable-iconv --enable-zlib --extra-cflags='-I/usr/local/lame/include -I/usr/local/libogg/include -I/usr/local/amr/include' --extra-ldflags='-L/usr/local/lame/lib -L/usr/local/libogg/lib -L/usr/local/amr/lib' --cross-prefix=x_-w-mingw- --target-os=mingw重新配置FFmpeg，启用libopus与libvpx功能。接着，执行编译与安装命令，完成FFmpeg的集成。

       最后，通过命令ffmpeg -version检查FFmpeg版本信息，确认是否成功启用libopus与libvpx。至此，FFmpeg已成功在Windows环境下集成了libopus和libvpx，支持Opus音频编码与VP8/VP9视频编码。此过程为视频处理应用提供了更丰富编码格式支持，提高了FFmpeg的多功能性与适应性。