Архив метки: rsync

Как использовать rsync для резервного копирования ваших данных в Linux

rsync – это протокол, созданный для Unix-подобных систем, который обеспечивает невероятную универсальность для резервного копирования и синхронизации данных. Его можно использовать локально для резервного копирования файлов в разные каталоги или настроить синхронизацию через Интернет с другими хостами. Читать

Нельзя путать src и dest в rsync на проде

Хочу поговорить немного про rsync. Думаю, все линуксоиды знают эту утилиту. Я постоянно ее использую в ежедневной рутине при настройке серверов. То файлы перекинуть, то бэкап на скриптах наколхозить, то репликацию каталогов настроить и т.д.

Rsync представляет огромную опасность для прода, сравнимую с опасностью от неосторожного использования rm -rf / (у меня было разок 💀). Я думаю у каждого активного пользователя rsync найдется история факапа, связанного с ним. Думаю вы уже поняли, в чем тут дело. Читать

🐧 Обзор полезных примеров команд Rsync SSH для Linux

Rsync также известен как remote sync– это инструмент командной строки, используемый для копирования и синхронизации файлов и каталогов как удаленно, так и локально в системах Linux/Unix.

Мы создали список с различными примерами команд Rsync, включающий примеры использования резервного копирования Rsync и другие советы, которые помогут вам извлечь максимум пользы из этого замечательного инструмента. Читать

Rsync – синхронизация директорий в Linux

 

Сегодня рассмотрим примеры синхронизации директорий в операционных системах Linux с помощью распространенной утилиты Rsync.

 

Rsync – утилита для копирования и синхронизации файлов и директорий в Linux системах. Используется для синхронизации директорий как на локальном сервере, так и для синхронизации директорий с локального на удаленный и наоборот. Rsync позволяет копировать ваши данные между серверами внутри защищенного SSH соединения. Так же, rsync, поддерживает сжатие данных на лету, что повышает производительность системы. Чтобы исключить потерю информации при отправке файлов, rsync сначала копирует всю передаваемую информацию во временный файл.

 

Опции Rsync

Давайте кратко рассмотрим опции rsync. В данной статье перечислены не все опции. Для более подробной информации смотрите мануал данной утилиты при помощи команды man rsync:

  • -v – Выводить информацию о копировании файла;
  • -q – Минимум информации;
  • -c – Копировать только измененные файлы;
  • -a – Сохранять все атрибуты оригинальных файлов;
  • -R – Относительные имена пути;
  • -b – Создание резервной копии;
  • -u – Не перезаписывать файлы, которые являются более новыми на приемном конце;
  • -l – Копировать символьные ссылки;
  • -L – Копировать содержимое ссылок;
  • -H – Копировать жесткие ссылки;
  • -p – Сохранять права для файлов;
  • –partial – сохранять частично переданные файлы;
  • -g – Сохранять группу;
  • –no-group – Не сохранять группу;
  • -o – Сохранить владельца;
  • –no-owner – Не сохранять владельца;
  • -t – Сохранять время модификации;
  • -x – Работать только в этой файловой системе;
  • -e – Использовать другой транспорт, например, ssh;
  • -z – Сжимать файлы перед передачей;
  • –delete – Удалять файлы которых нет в источнике;
  • –exclude – Исключить файлы по шаблону;
  • -r – Перебирать директории рекурсивно;
  • –no-recursive – Отключить рекурсию;
  • –no-links – Отключить копирование символических ссылок;
  • -P – Выводить прогресс копирования файла;
  • –stat – Показать статистику передачи;
  • –version – Версия утилиты;
  • –inplace – Обновление файлов назначения налету;
  • –existing – Пропустить создание файлов (включая каталоги), которые еще не существуют в месте назначения;
  • –ignore-existing – Пропустить обновление файлов, которые существуют в месте назначения.
  • –temp-dir – Указываем директорию для временных файлов

 

Синхронизация директорий только на локальном сервере

Давайте синхронизируем две директории между собой, но только на локальном сервере. Директории конечно же должны существовать. Допустим у нас имеется директория /home/user/download и директория /home/user/install. Для их синхронизации давайте наберем следующую команду:

rsync -r /home/user/download/ /home/user/install/  --temp-dir=/tmp --no-owner --no-group

Тут мы синхронизируем директорию download с директорий install, также указываем куда размещать временные файлы и отказываемся от переноса владельца и группы у копируемых файлов.

Тоже самое, но без создания temp файла.

 

rsync -r /home/user/download/ /home/user/install/  --temp-dir=/tmp --no-owner --no-group --inplace

 

    • –inplace – в этом случае rsync не будет создавать при копировании новый файл и затем им замещать старый, а сразу начнет перезапись старого файла. Такой алгоритм не сможет сохранить целостность файла в случае сбоя соединения между компьютерами, за исключением использования совместно с параметром --backup. Этот параметр полезен в случае копирования файлов на одном компьютере или при копировании больших файлов таких как видео.

 

Синхронизируем файлы c Облаком cloud.mail.ru

 

Вот пример синхронизации двух каталогов. Один каталог локальный /home/local/foto – в нем удобно работать по сети. Второй каталог /home/CloudDisk/ подключен по технологии WebDAV.

Вот тут и тут уже писал про настройку облака от mail.ru на Debian системах.

 

rsync -zvraP --delete /home/local/foto/ /home/CloudDisk/  --temp-dir=/tmp

 

  • -z – Сжимаем содержимое при копировании;
  • -v – Информация о копировании;
  • -r – рекурсивно перебираем все директории;
  • -a – Cохранить все атрибуты файла;
  • -P – показывает прогресс копирования;
  • –delete – удаляет файлы из облака, которых нет в директории /home/local/foto;
  • –temp-dir=/tmp – директория для tmp файлов;

 

Данная команда пригодится если вам надо синхронизировать неизменяющиеся данные, например фотографии или видео.

Если же у вас данные в файлах меняются, например как в Word документах (имя файла остается прежним, а его размер меняется), то для их синхронизации необходимо набрать вот такую команду:

rsync -zvarcP --delete /home/local/doc/ /home/CloudDisk/doc/ --modify-window=0 --size-only

 

    • -c – Копировать только изменившиеся файлы в директории /home/local/doc/;

 

Если после копирования хотите еще оптимизировать фотографии, то вам сюда.

Настройка синхронизации с удаленным сервером при помощи rsync

Чаще всего копирование/синхронизация директорий с удаленным сервером используется для резервного копирования или синхронизации конфигурации сервера. При таком методе можно выполнять автоматическую синхронизацию данных с рабочего сервера на резервный, и в случае проблем на рабочем севере быстро все перевести на резервный. Это довольно удобный и простой в настройке вариант.

 

Сегодня версия rsync использует протокол SSH для передачи файлов по-умолчанию. Однако вы можете использовать и демон rsyncd. Для этого клиент rsync должен быть установлен на удаленном компьютере, и его демон добавлен в автозагрузку:

 

sudo systemctl enable rsyncd

 

 

Конфигурационный файл rsync — /etc/rsyncd.conf. В этом файле можно настроить параметры rsync и настройки для синхронизации для разных ресурсов.

 

Для синхронизации через демона rsync адрес удаленного сервера указывается так rsync://:

rsync -zvarP /var/www/site/ rsync://IP_сервера/backup/

Чтобы скопировать файл на удаленный сервер через протокол SSH, используйте команду:

rsync -az /var/www/site/package.zip ваш_user@IP_сервера:/backup/

После запуска команды, удаленный сервер запросит пароль пользователя (если включена авторизация по паролю). Для автоматической авторизации нужно настроить доступ по SSH ключу.

 

Копирование с локального хоста на удаленный хост

Скопируем директорию с локального сервера на удаленный:

 

rsync -zvraP /var/www/site/ ваш_user@IP_сервера:/backup/

 

То есть, все тоже самое, что и с локальными директориями, только мы указываем адрес удаленного сервера вместо адреса нашей директории.

 

Копирование с удаленного хоста на локальный хост

 

Так же вы можете синхронизировать файлы и с удаленного сервера на локальный, команда для этого немного изменится:

 

rsync -zvraP ваш_user@IP_сервера:/backup/ /backup/

 

Для принудительного использования SSH протокола, а также если вы изменили порт для SSH или для авторизации требуется указать явно где расположен сертификат SSL, команды будут выглядеть следующим образом.

 

Принудительное использование протокола SSH

 

Подключение по стандартному порту:

 

rsync -zvraPe ssh ваш_user@IP_сервера:/backup/ /backup/

 

Если удаленный SSH сервер имеет отличный от стандартного порт:

 

rsync -zvrae "ssh -p 2222" ваш_user@IP_сервера:/backup/ /backup/

 

Если надо явно указать порт и ключ:

 

rsync -zvrae "ssh -p 2222 -i ~/.ssh/id_rsa" ваш_user@IP_сервера:/backup/ /backup/

 

Синхронизация с использованием опций исключений

 

Также очень удобный опции --include и --exclude, с помощью этих опций, можно делать исключения по копированию директорий или файлов:

 

rsync -zvra --exclude=administrator/ /var/www/site ваш_user@IP_сервера:/backup/

 

В данном случае мы исключили директорию “administrator” при копировании на удаленный сервер.

 

rsync -zvra --include='*.php' --exclude='*' /var/www/site/administrator/ ваш_user@IP_сервера:/backup/

 

Добавлением опции --include мы смогли задать фильтр по файлам, скопировали только файлы с расширением “*.php“.

 

Вывод

Сегодня показал вам как можно синхронизировать директории в Linux на одном рабочем ПК и между удаленными серверами.

Linux Debian network ethtool

При выполнении операции копирования между NAS-серверами

rsync -av —rsh=ssh …

с большими файлами поймал ошибку

Corrupted MAC on input. Packet Corrupt

Как вариант решения, отключение средствами ethtool проверки TCP checksum сетевым адаптером (но нужно учесть, что может увеличиться нагрузка на процессор, но в моем случае это только файловые сервера бэкапов, заметной разницы не увидел).

Чтобы просмотреть текущую настройку:

ethtool -k eth0
В моем случае rx-checksumming был включен. Отключение делается командой:
ethtool -K eth0 tx off rx off
В автозагрузку можно добавить так:
auto lo
iface lo inet loopback

# The primary network interface
allow-hotplug eth0
iface eth0 inet static
address 10.10.10.174
netmask 255.255.255.0
network 10.10.10.0
broadcast 10.10.10.255
gateway 10.10.10.1
up sleep 5; /sbin/ethtool -K eth0 tx off rx off

Автор: Viktor

Исправляем ошибку rsync ERROR: module is read only

Иногда при попытке записи на rsync-сервера с помощью команды rsync может вылезти ошибка вида:

ERROR: module is read only 

С первого раза и не понятно, что это за модуль и почему он read-only.
На самом деле всё просто, достаточно просто добавить в конфиг /etc/rsyncd.conf в соответствующий раздел параметр read only = no.

Ниже приведён пример конфига /etc/rsyncd.conf:

uid = nobody
gid = nobody
use chroot = no
max connections = 8
syslog facility = local5
pid file = /var/run/rsyncd.pid
[backups]
path = /var/backups-remote
read only = no

Автор: AlexWinner
Дата публикации: 2013-04-22T14:30:00.000-07:00