The OpenNET Project / Index page

[ новости/++ | форум | wiki | теги ]

16.03.2014 21:12  Выпуск системы резервного копирования Obnam 1.7

Ларс Вирзениус (Lars Wirzenius), один из студенческих товарищей Линуса Торвальдса, вовлечённый в развитие Linux с первых дней существования проекта (создатель Linux Documentation Project и один из первых мэйнтенеров в дистрибутиве Debian), представил новый выпуск проекта Obnam 1.7, в рамках которого развивается система резервного копирования, основанная на идее оптимизации хранения резервных копий за счёт использования репозитория со встроенной поддержкой дедупликации данных. Код программы написан на языке Python и распространяется в рамках лицензии GPLv3+. Готовые пакеты сформированы для Ubuntu, openSUSE, Gentoo и Debian.

Предлагаемый в Obnam подход к резервному копированию нацелен на достижение трёх целей: обеспечение высокой эффективности хранения, простоты использования и безопасности. Эффективность хранения достигается благодаря размещению резервных копий в специальном репозитории, данные в котором хранятся в оптимальном представлении с использованием дедупликации. В одном репозитории могут храниться бэкапы разных клиентов и серверов. При этом объединение дубликатов осуществляется для всех хранимых бэкапов, независимо от их типа, времени создания и источника резервной копии. Для проверки целостности репозитория и его восстановления после сбоя предоставляется специальный вариант утилиты fsck.

Если на группе серверов используется одинаковая операционная система, то в репозитории будет сохранена только одна копия повторяющихся файлов, что позволяет существенно сэкономить дисковое пространство при организации резервного копирования большого числа типовых систем, например, виртуальных окружений. Репозиторий для хранения резервных копий может быть размещён как на локальном диске, так и на внешних серверах (для создания сервера для хранения резервных копий не требуется установка дополнительных программ, достаточно доступа по SFTP). Возможен доступ к резервным копиям через монтирование виртуального раздела при помощи специально подготовленного FUSE-модуля.

Для упрощения работы с бэкапами, доступ к резервным копиям организован в форме снапшотов, подразумевающих возможность получения полного среза всех данных резервной копии в состоянии на момент совершения любой из проведённых итераций резервного копирования. Полная резервная копия будет создана только при первом запуске Obnam, при повторных запусках будут сохраняться только инкрементальные изменения, выявленные с момента прошлого запуска. Таким образом, при необходимости восстановления данных можно сразу получить целостное содержимое ФС на момент создания любой инкрементальной копии (без необходимости предварительного восстановления первичной копии с дальнейшим последовательным раскрытием инкрементальных копий).

Obnam поддерживает два режима организации процесса резервного копирования - push и pull. В режиме push программа obnam устанавливается на стороне клиента и сохранение резервных копий инициируется клиентом (бэкапы копируются клиентом на сервер хранения резервных копий). В режиме pull программа obnam устанавливается на сервер для хранения резервных копий и процесс копирования данных инициируется сервером (сервер забирает данные с машин клиентов по SFTP).

Для обеспечения высокой безопасности предпочтителен режим push, так как для создания полной резервной копии в режиме pull требуется открытие удалённого доступа к ФС клиента с правами root (в случае взлома сервера резервного копирования, скомпрометированными автоматически окажутся все клиенты). Для дополнительной защиты резервных копий предусмотрена возможность их шифрования с использованием GnuPG (в случае взлома хранилища, злоумышленник не сможет просмотреть содержимое резервных копий без закрытого ключа).

Основные новшества, реализованные в Obnam 1.7:

  • Проведена значительная внутренняя переработка, в результате которой была переписана ощутимая часть кода. Внутренние преобразования не должны отразиться на видимых пользователю возможностях, но не исключается наличие незамеченных ошибок, поэтому обновление до версии 1.7 следует проводить с осторожностью и желательно предварительно сохранить копию репозитория с бэкапами;
  • В интерфейс для создания плагинов добавлена возможность подключения обработчиков, вызываемых после завершения бэкапа (например, такой обработчик может сигнализировать системе мониторинга об успешном создании бэкапа);
  • Обновлён FUSE-плагин, используемый для монтирования репозитория бэкапов в форме файловой системы. В плагин добавлена возможность обновления отображаемого представления репозитория;
  • Добавлена опция "--always-restore-setuid" для принудительного восстановления состояния флагов setuid/setgid, даже если процесс восстановления запускается не от пользователя root или владельца файлов;
  • Добавлена опция "--exclude-from" для загрузки списка исключений из внешнего файла (ранее список исключений мог задаваться только в файле конфигурации или командной строке);
  • Начато написание руководства пользователя Obnam, в настоящее время оно скомпоновано из серии заметок из блога автора и разрозненных статей с сайта проекта;
  • Для большинства выводимых ошибок реализованы уникальные коды идентификации, которые позволяют легко найти подобные ошибки в логе (например, "R0B15DX");
  • Полностью переписана утилита obnam-benchmark, используемая для тестирования производительности. При установке Obnam данная утилита больше не поставляется и доступна только из git-репозитория проекта;
  • Команда "obnam verify" теперь показывает прогресс выполнения операции на основе как числа проверенных файлов, так и размера данных;
  • Удалена поддержка команды convert5to6, выполнявшей преобразование устаревшего формата репозитория резервных копий;
  • В лог добавлено отражение информации о накладных расходах при передаче данных в хранилище. Под накладными расходами понимается число байт, не связанных с непосредственным контентом файлов, а определяющих метаданные, такие как имена файлов, права доступа, расширенные атрибуты и т.п.


  1. Главная ссылка к новости (http://blog.liw.fi/posts/obnam...)
Лицензия: CC-BY
Тип: Программы
Ключевые слова: backup, obnam
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение Линейный вид | Ajax | Показать все | RSS
 
  • 1.3, Аноним, 23:57, 16/03/2014 [ответить] [смотреть все]
  • +1 +/
    Сравнить бы с амандой и бакулой.
     
     
  • 2.5, angra, 00:45, 17/03/2014 [^] [ответить] [смотреть все]
  • +/
    Для копирования локальных данных еще годится, но попытка использовать ее для удаленного копирования по ssh больших объемов показало полную неспособность к этому. Мало того, что оно дико тормознутое по сравнению с rsync, так еще теряет соединение и на этом подвисает. Видно питонистов не учат обрабатывать ошибки. При повторных запусках начинает все с самого начала, даже если ему принудительно сказать делать чекпойнты.
     
     
  • 3.6, Аноним, 07:44, 17/03/2014 [^] [ответить] [смотреть все]
  • –1 +/
    Вы что, питон не тормозит 1111... весь текст скрыт [показать]
     
  • 3.14, iPooy0qu, 15:43, 17/03/2014 [^] [ответить] [смотреть все]  
  • +/
    > Для копирования локальных данных еще годится, но попытка использовать ее для удаленного
    > копирования по ssh больших объемов показало полную неспособность к этому. Мало
    > того, что оно дико тормознутое по сравнению с rsync, так еще
    > теряет соединение и на этом подвисает. Видно питонистов не учат обрабатывать
    > ошибки. При повторных запусках начинает все с самого начала, даже если
    > ему принудительно сказать делать чекпойнты.

    Баги репортили?

     
  • 2.18, del, 09:44, 18/03/2014 [^] [ответить] [смотреть все]  
  • +/
    Интереснее всего с Acronis...
     
  • 1.7, Аноним, 08:35, 17/03/2014 [ответить] [смотреть все]  
  • –1 +/
    Что-то никак не могу ущучить, как Полная резервная копия будет создана только ... весь текст скрыт [показать]
     
     
  • 2.8, PavelR, 08:44, 17/03/2014 [^] [ответить] [смотреть все]  
  • +1 +/
    видимо подразумевается так:

    Только первый запуск займет дисковый объем, равный по размеру резервируемым данным,
    при повторных запусках будет требоваться только объем, необходимый для сохранения инкрементальных изменений, выявленных с момента прошлого запуска.

    ----

    Сколько при этом потребуется перегнать по сети - вопрос, требующий отдельного уточнения.
    BONTMIA (rsync-based bash? script) рулит.

     
  • 2.13, iPooy0qu, 15:42, 17/03/2014 [^] [ответить] [смотреть все]  
  • +/
    Там хранилище чем-то похоже на гит. Каждый снапшот объединяет чанки (=блобы) воедино, потому если некоторые чанки были в предыдущем снапшоте, они без изменения будут включены в снапшот новый. Ну а доступ к снапшоту быстрый, а к чанкам — прямой. Потому не нужно перечитывать все предыдущие снапшоты.
     
     
  • 3.15, Аноним, 17:55, 17/03/2014 [^] [ответить] [смотреть все]  
  • +/
    Да, правильно Фактически там все бекапы полные, разница в том что первый снимок... весь текст скрыт [показать]
     
  • 1.10, Аноним, 11:11, 17/03/2014 [ответить] [смотреть все]  
  • +/
    Готовые пакеты для Gentoo ... весь текст скрыт [показать]
     
     
  • 2.11, Анонище, 12:54, 17/03/2014 [^] [ответить] [смотреть все]  
  • +/
    Не занудствуй.
     
     
  • 3.19, mirandauser2, 03:12, 19/03/2014 [^] [ответить] [смотреть все]  
  • +/
    binary packages почему бы и нет, хотя тут наверное все же речь о ebuild.
     
  • 1.16, vitalif, 23:11, 17/03/2014 [ответить] [смотреть все]  
  • +/
    Так это же zbackup!

    Я его кстати юзаю, очень прикольная штука - можно хоть оббэкапиться, инкременты почти ничего не занимают. Причём дедуплицируется ведь вообще всё - sql дампы например тоже можно.

    И забавный нюанс - засчёт того, что дедуплицирует оно последовательности, заtar'ивание в алфавитном порядке увеличивает эффективность дедупликации :)

     

     Добавить комментарий
    Имя:
    E-Mail:
    Заголовок:
    Текст:


      Закладки на сайте
      Проследить за страницей
    Created 1996-2017 by Maxim Chirkov  
    ДобавитьРекламаВебмастеруГИД  
    Hosting by Ihor