Linux下rsync+sersync实现数据实时同步

       防止数据丢失，确保数据有备份，并且实时备份，是实时同步的目的。实时同步通过检测当前目录的变化并触发同步至远程服务器，以保证数据连续性，ios开项目源码降低维护成本。

       sersync与rsync是常用的文件同步工具，两者结合实现高效实时数据同步，尤其适合需要实时备份或同步大量数据的环境。当sersync检测到文件变化时，自动调用rsync同步至远程服务器或备份服务器，减少数据传输，提高数据一致性和安全性。

       在配置sersync和rsync实现文件同步时，需要分别在两台服务器上进行设置。首先，确保服务器的防火墙已关闭，然后分别安装sersync和rsync。sersync可能不在官方软件仓库中，需从源代码或预编译的二进制文件安装。查看并修改notify参数，unity vive demo 源码确保其值适当。接下来，编辑sersync的confxml.xml配置文件，设置监控目录、目标服务器信息和同步选项。配置完成后，启动sersync服务。

       对于目标服务器，确保rsync已安装。若未安装，可通过包管理器安装。在目标服务器上配置rsync，编辑/etc/rsyncd.conf或创建新配置文件，定义模块和同步选项。创建密码文件，并确保其权限严格，只有所有者可读写。启动rsync守护进程，完成同步配置。

       测试同步功能时，在源服务器的android新闻项目源码/home目录下创建用户目录和新建文件，检查目标服务器上是否实时同步显示。确保一切正常工作，以实现有效数据同步。

对Linux上使用LUKS加密的部分进行备份

       我们中有些人出于安全原因，在家里或者VPS上通过Linux统一密钥配置(LUKS)为硬盘驱动器加密，而这些驱动器的容量很快会增长到数十或数百GB。因此，虽然我们享受着LUKS设备带来的安全感，但是我们也该开始考虑一个可能的远程备份方案了。对于安全的非现场备份，我们将需要能在LUKS加密的设备上以块级别操作的东西。因此，最后我们发现这么个状况，我们每次都需要传输想要做备份的整个LUKS设备(比如说GB大)。很明显，这是不可行的。我们该怎么来处理这个问题呢?

       一个解决方案： Bdsync

       这时，一个卓越的开源工具来拯救我们了，它叫Bdsync(多亏了Rolf Fokkens)。顾名思义，Bdsync可以通过网络同步“块设备”。c 容器map源码对于快速同步，Bdsync会生成并对比本地/远程块设备的块的MD5校验和，只同步差异部分。rsync在文件系统级别可以做的，Bdsync可以在块设备级别完成。很自然，对于LUKS加密的设备它也能工作得很好。相当地灵巧!

       使用Bdsync，首次备份将拷贝整个LUKS块设备到远程主机，因而会花费大量时间来完成。然而，在初始备份后，如果我们在LUKS设备新建一些文件，再次备份就会很快完成，因为我们只需拷贝修改过的块。经典的增量备份在起作用了!

       安装Bdsync到Linux

       Bdsync并不包含在Linux发行版的标准仓库中，因而你需要从源代码来构建它。使用以下针对特定版本的指令来安装Bdsync及其手册页到你的系统中。

       Debian，Ubuntu或Linux Mint

       代码如下:

       $ sudo apt-get install git gcc libssl-dev

       $ git clone /TargetHolding/bdsync.git

       $ cd bdsync

       $ make

       $ sudo cp bdsync /usr/local/sbin

       $ sudo mkdir -p /usr/local/man/man1

       $ sudo sh -c 'gzip -c bdsync.1 /usr/local/man/man1/bdsync.1.gz'

       Fedora或CentOS/RHEL

       代码如下:

       $ sudo yum install git gcc openssl-devel

       $ git clone /TargetHolding/bdsync.git

       $ cd bdsync

       $ make

       $ sudo cp bdsync /usr/local/sbin

       $ sudo mkdir -p /usr/local/man/man1

       $ sudo sh -c 'gzip -c bdsync.1 /usr/local/man/man1/bdsync.1.gz'

       对LUKS加密的设备实施非现场增量备份

       我假定你已经准备好了一个LUKS加密的块设备作为备份源(如，/dev/LOCDEV)。彩票源码购买同时，我假定你也有一台远程主机，用以作为源设备的备份点(如，/dev/REMDEV)。

       你需要在两台系统上具有root帐号访问权限，并且设置从本地访问远程的无密码SSH访问。最后，你需要安装Bdsync到两台主机上。

       要在本地主机上初始化一个远程备份进程，我们需要以root执行以下命令：

       代码如下:

       # bdsync "ssh root@remote_host bdsync --server" /dev/LOCDEV /dev/REMDEV | gzip /some_local_path/DEV.bdsync.gz

       这里需要进行一些说明。Bdsync客户端将以root打开一个到远程主机的SSH连接，并执行带有--server选项的Bdsync客户端。明确说明一下，/dev/LOCDEV是我们的本地主机上的源LUKS块设备，而/dev/REMDEV是远程主机上的目标块设备。它们可以是/dev/sda(作为整个磁盘)，或者/dev/sda2(作为单个分区)。本地Bdsync客户端的输出结果随后被管道输送到gzip，用来在本地主机中创建DEV.bdsync.gz(所谓的二进制补丁文件)。

       你第一次运行上面的命令的时候，它会花费很长一段时间，这取决于你的互联网/局域网速度，以及/dev/LOCDEV的大校记住，你必须有两个大小相同的块设备(/dev/LOCDEV和/dev/REMDEV)。

       下一步是要将补丁文件从本地主机拷贝到远程主机。一种方式是使用scp：

       代码如下:

       # scp /some_local_path/DEV.bdsync.gz root@remote_host:/remote_path

       最后一步，是要在远程主机上执行以下命令，它们会将补丁文件应用到/dev/REMDEV：

       代码如下:

       # gzip -d /remote_path/DEV.bdsync.gz | bdsync --patch=/dev/DSTDEV

       我推荐在使用真实数据部署Bdsync前，使用一些(没有任何重要数据)小分区来做这些测试。在你完全弄懂整个设置是如何工作之后，你可以开始备份真实数据。

       尾声

       小结之，我们演示了如何使用Bdsync来为LUKS设备实施增量备份。和rsync一样，每次备份只有一小部分数据，而不是整个LUKS设备，需要被推送到非现场备份点，这样会节省带宽和备份时间。剩下来，需要通过SSH或SCP来保证所有数据传输的安全，事实上设备自身是由LUKS加密的。也可以通过使用可以运行bdsync的专用用户(而非root)来改进该配置。我们也可以将bdsync用于任何块设备，如LVM卷或RAID磁盘，也可以很轻易地设置Bdsync备份本地磁盘到USB驱动器上。如你所见，它有着无限可能性!

大神教你：Lsyncd复制并实时同步到远程服务器

       Lsyncd监视本地目录树事件监视器接口(inotify或fsevents)。它聚合并将事件组合在一起几秒钟，然后生成一个(或多个)进程来同步这些更改。默认情况下，由rsync实现同步。因此，Lsyncd是一种轻量级的实时镜像解决方案，相对容易安装，不需要新的文件系统或块设备，也不会妨碍本地文件系统的性能。

       Rsync+ssh是一种高级操作配置，它使用ssh来执行文件和目录直接在目标上移动，而不是在线路上重新传输移动目标。细粒度的定制可以通过配置文件实现。自定义动作configs甚至可以从头编写，从shell脚本到Lua语言编写的代码。这种方法简单，强大，灵活的配置可以被解决。

       Lsyncd 2.2.2要求在所有源和目标机器上rsync = 3.1。

       系统环境：

        RenwoleServer：... 服务端

        RenwoleClient：... 客户端

        OS：CentOS Linux release 7.4. (Core) x

       rsync的安装

        请参阅：《CentOS7 Configuring Rsync Server》。

       安装扩展依赖包

       $ yum install -y gcc gcc-c++ lua lua-devel cmake libxml2 libxml2-devel

       源代码编译安装lsyncd

       $ wget /axkibe/lsyncd/archive/release-2.2.2.tar.gz$ tar xvf release-2.2.2.tar.gz$ cd lsyncd-release-2.2.2$ cmake -DCMAKE_INSTALL_PREFIX=/usr/local/lsyncd$ make amp;amp; make install$ ln -s /usr/local/lsyncd/bin/lsyncd /usr/bin/lsyncd安装过程可能报错：-- Configuring incomplete, errors occurred!

       安装lua-devel即可。

       设置无密码SSH登录

       因为这里使用rsyncssh进行同步，所以还需要配置root账号无密码ssh登录。详细配置请参阅：

        《如何在Linux中设置SSH无密码登录》

       配置lsyncd

       以下是三种常用配置案例

       1.远程同步rsyncssh模式配置方案：

       $ vim /etc/lsyncd.confsettings { logfile = /var/log/lsyncd.log,

        --日志路径 statusFile = /var/log/lsyncd.status, --状态文件 pidfile = /var/run/lsyncd.pid,

        --pid文件路径 statusInterval = 1,

       --状态文件写入最短时间 nodaemon = false,

       --daemon运行 maxProcesses = 1,

       --最大进程 maxDelays = 1,

       --最大延迟}sync { default.rsyncssh, --默认rsync+ssh,rsync版本需要升级3以上版本 source = /apps/www/renwoleblog/,

        --源目录 delete = true,

       --保持完全同步

        host = root@...,

        targetdir = /apps/www/renwoleblog/bak/, --目标目录 exclude={

       .txt

        --需排除的文件 },rsync = { binary = /usr/bin/rsync, --需先安装好rsync archive = true,

        --归档 compress = false,

        --压缩 owner = true,

       --属主 perms = true,

       --权限 whole_file = false },ssh = { port = }}

       2.本地目录同步配置方案：

       sync { default.rsync, source = /apps/www/renwoleblog/, target = /apps/www/renwoleblog/bak/,}

       3.远程同步rsync-daemon模式配置方案

       sync { default.rsync, source = /apps/www/renwoleblog/, target = renwole@...::renwolecom, delete=true, exclude = { .bak* }, delay = , init = false, rsync = { binary = /usr/bin/rsync, archive = true, compress = true, verbose = true, perms = true, password_file = /etc/rsync.password, _extra = { --bwlimit=} }}

       重点参数说明：

       --

        # 注释符settings # 是全局配置sync # 定义同步参数rsync # 定义同步文件参数ssh

       # 定义服务器远程端口

       lsyncd配置文件允许多个sync互不影响。

       说明：如果是一对多，请参阅本地同步，修改目标目录即可。

       创建systemctl系统单元文件

       为了实现systemctl进行管理，请创建配置文件以及脚本启动文件，命令如下：

       $ vim /etc/sysconfig/lsyncd添加如下内容：LSYNCD_OPTIONS=/etc/lsyncd.conf创建启动文件：$ vim /usr/lib/systemd/system/lsyncd.service添加如下内容：[Unit]Description=Live Syncing (Mirror) DaemonAfter=network.target[Service]Type=simpleEnvironmentFile=-/etc/sysconfig/lsyncdExecStart=/usr/local/lsyncd/bin/lsyncd -nodaemon $LSYNCD_OPTIONS[Install]WantedBy=multi-user.target

       启动lsyncd并加入开机自启动

       $ systemctl start lsyncd$ systemctl enable lsyncd接下来你就可以往源服务器/apps/www/renwoleblog/内上传任意文件，完成后立刻就会同步到客户端 ... /apps/www/renwoleblog/bak/目录内，也可以查看服务端的lsyncd日志文件分析是否同步成功。例如：[root@RenwoleServer ~] $ cat /var/log/lsyncd.log...Fri Dec :: Normal: Calling rsync with filter-list of new/modified files/dirs/PCHunter_renwole.com.tar.gz/Fri Dec :: Normal: Finished (list): 0Fri Dec :: Normal: Calling rsync with filter-list of new/modified files/dirs/PCHunter_renwole.com.tar.gz/Fri Dec :: Normal: Finished (list): 0Fri Dec :: Normal: Calling rsync with filter-list of new/modified files/dirs/PCHunter_renwole.com.tar.gz/Fri Dec :: Normal: Finished (list): 0

       日志内容显示PCHunter_renwole.com.rar文件成功同步。

       另外lsyncd是基于inotify + rsync的开源同步软件，相对于其他同步软件更加安全可靠，占用资源更少，但配置略麻烦。

       lsyncd 还支持当监控到某个指定事件时就执行什么样的命令，由于是通过时间延迟和累计事件命中次数来触发同步，在设计上要优于inotify，另外他的同步速度完全取决于你的网络质量。

在Linux系统中批量删除多个文件的方法总结

       当我们在linux系统中要删除数万或者数十万甚至数百万的文件时使用rm -rf *就不太好用，因为要等待很长一段时间。在这种情况之下我们可以使用linux系统命令rsync来巧妙的处理。rsync实际上用的是替换原理，处理数十万个文件也是秒删。

       1. rsync安装，有些系统默认安装有该命令

       ubuntu系统：

       代码如下:

       sudo apt-get install rsync

       fedora 系统：

       代码如下:

       sudo yum install rsync

       其他的可以源码安装，到下面的网站下载

       http://rsync.samba.org

       2. rsync提供了一些跟删除有关的参数

       rsync --help | grep delete

       --del an alias for --delete-during

       --delete delete extraneous files from destination dirs

       --delete-before receiver deletes before transfer, not during

       --delete-during receiver deletes during transfer (default)

       --delete-delay find deletions during, delete after

       --delete-after receiver deletes after transfer, not during

       --delete-excluded also delete excluded files from destination dirs

       --ignore-errors delete even if there are I/O errors

       --max-delete=NUM don't delete more than NUM files

       其中--delete-before接收者在传输之前进行删除操作

       3. 示例

       清空目录或文件，如下：

       1、先建立一个空目录

       代码如下:

       mkdir /data/blank

       2、用rsync删除目标目录

       代码如下:

       rsync --delete-before -d -a -H -v --progress --stats /data/blank/ /var/edatacache/

       或者

       代码如下:

       rsync --delete-before -d /data/blank/ /var/edatacache/

       这样/var/edatacache目录就被快速的清空了。

       选项说明：

       –delete-before 接收者在传输之前进行删除操作

       –progress 在传输时显示传输过程

       -a 归档模式，表示以递归方式传输文件，并保持所有文件属性

       -H 保持硬连接的文件

       -v 详细输出模式

       –stats 给出某些文件的传输状态

       -d transfer directories without recursing

       删除文件夹

       如果大量小文件都集中在几个目录中，那么这个方法就有用了。

       代码如下:

       rm -f /var/log/httpd/access.log

       将会强制删除/var/log/httpd/access.log这个文件

       -r 就是向下递归，不管有多少级目录，一并删除

       -f 就是直接强行删除，不作任何提示的意思

       -i 进行交互式删除。

       提示：使用rm命令要小心。因为一旦文件被删除，它是不能被恢复的。了防止这种情况的发生，可以使用i选项来逐个确认要删除的文件。如果用户输入y，文件将被删除。如果输入任何其他东西，文件则不会删除。

       使用这个rm -rf删除文件的时候一定要格外小心，linux没有回收站的。

       rm -r 目录名：

       将子目录及子目录中所有档案删除

       代码如下:

       [root@localhost test]# ls -l

       总计 drwxr-xr-x 7 root root - : scf

       drwxr-xr-x 2 root root - : test1

       drwxr-xr-x 3 root root - : test2

       drwxrwxrwx 2 root root - : test3

       drwxr-xr-x 2 root root - : test4

       drwxr-xr-x 3 root root - : test5

       代码如下:

       [root@localhost test]# rm -r test1

       rm：是否进入目录 “test1”? y

       rm：是否删除 一般文件 “test1/log3.log”? y

       rm：是否删除 目录 “test1”? y

       代码如下:

       [root@localhost test]# ls -l

       总计 drwxr-xr-x 7 root root - : scf

       drwxr-xr-x 3 root root - : test2

       drwxrwxrwx 2 root root - : test3

       drwxr-xr-x 2 root root - : test4

       drwxr-xr-x 3 root root - : test5

       [root@localhost test]#

       rm -rf 目录名 ：

       把子目录及子目录中所有档案删除,并且不用一一确认

       代码如下:

       [root@localhost test]# rm -rf test2

       [root@localhost test]# ls -l

       总计 drwxr-xr-x 7 root root - : scf

       drwxrwxrwx 2 root root - : test3

       drwxr-xr-x 2 root root - : test4

       drwxr-xr-x 3 root root - : test5

       [root@localhost test]#