The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Инцидент с СУБД проекта GitLab, opennews (??), 01-Фев-17, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


22. "Инцидент с СУБД проекта GitLab"  +1 +/
Сообщение от IB (?), 01-Фев-17, 15:20 
> они не забыли:

Да де-лы не знающие, что "бэкапы которые успешно не развернули хоть раз - не бэкапы" должны страдать!

Ответить | Правка | К родителю #13 | Наверх | Cообщить модератору

26. "Инцидент с СУБД проекта GitLab"  +2 +/
Сообщение от Pavelemail (??), 01-Фев-17, 15:36 
Все очень сильно зависит от размера этого самого бекапа. Знаю одну контору у которой дамп БД делается в течении ~30 часов и следом начинается следующий дамп. Хочеш предложить им вариант как проверять эти бекапы методом "развернуть хотя бы раз"? Естественно никто даже не пробовал их разворачивать ибо это бессмысленно, и они нужны только на совсем крайний случай когда умерли все реплики и реплики отстающие на 6, 12 и 24 часа от мастера. И да, вариант что из дампа ничего не развернётся совершенно не нулевой.
Ответить | Правка | Наверх | Cообщить модератору

33. "Инцидент с СУБД проекта GitLab"  +7 +/
Сообщение от Аноним (-), 01-Фев-17, 16:23 
А развернуть тестовую базу раз в полгода никому в голову не приходило?
Ответить | Правка | Наверх | Cообщить модератору

36. "Инцидент с СУБД проекта GitLab"  +4 +/
Сообщение от Andrey Mitrofanov (?), 01-Фев-17, 16:30 
> А развернуть тестовую базу раз в полгода никому в голову не приходило?

Уверенность в одном из 146 (*) бэкапов это Важно.

(*)Никакой связи с Чуровым, совпадение: 365.24/2*24/30 = 146.096.

Ответить | Правка | Наверх | Cообщить модератору

39. "Инцидент с СУБД проекта GitLab"  +5 +/
Сообщение от Аноним (-), 01-Фев-17, 16:40 
> Хочеш предложить им вариант как проверять эти бекапы методом "развернуть хотя бы раз"? Естественно никто даже не пробовал их разворачивать

Предлагаю вариант: развернуть хотя бы раз.

Ответить | Правка | Наверх | Cообщить модератору

82. "Инцидент с СУБД проекта GitLab"  –1 +/
Сообщение от anonymous (??), 02-Фев-17, 13:23 
бывает, что не на чем.
например: кластер из 11 хостов c vmware (~60VM), тома на массиве vnx5300 и оракловая база, которая бэкапится отдельно.
да, бэкапы регулярно делаются, но развернуть их для теста просто некуда: еще одной такой системы нет.
Ответить | Правка | Наверх | Cообщить модератору

92. "Инцидент с СУБД проекта GitLab"  +/
Сообщение от tacitusdef (??), 02-Фев-17, 18:06 
в /dev/null?
Ответить | Правка | Наверх | Cообщить модератору

94. "Инцидент с СУБД проекта GitLab"  +1 +/
Сообщение от . (?), 02-Фев-17, 18:12 
> бывает, что не на чем.
> например: кластер из 11 хостов c vmware (~60VM), тома на массиве vnx5300
> и оракловая база, которая бэкапится отдельно.
> да, бэкапы регулярно делаются, но развернуть их для теста просто некуда: еще
> одной такой системы нет.

а потом "ORA 0600"(или как там правильно, давно не видал) и мы идем искать новую работу? ;-)
[нет, я понимаю, что там кластер, массив с избыточностью, кроссчек и все такое, но оракл такой изобретательный ;-) ]

все ж таки 60vm это еще не фатально, можно биться с начальством за тестовую ферму.

Ответить | Правка | К родителю #82 | Наверх | Cообщить модератору

81. "Инцидент с СУБД проекта GitLab"  +/
Сообщение от vitalif (ok), 02-Фев-17, 12:09 
Ну лучше чем в 0.
Ответить | Правка | К родителю #36 | Наверх | Cообщить модератору

60. "Инцидент с СУБД проекта GitLab"  +/
Сообщение от Аноним (-), 01-Фев-17, 20:00 
Что за детский сад? Отдельный сервер, которые стягивает свежайший бэкап, разворачивает его, делает вариант для разработчиков (обрезаный, опционально). Какая разница сколько это занимает, хоть неделю. Главное автоматически.
Ответить | Правка | К родителю #26 | Наверх | Cообщить модератору

68. "Инцидент с СУБД проекта GitLab"  +2 +/
Сообщение от Led (ok), 02-Фев-17, 00:09 
> Отдельный сервер, которые стягивает свежайший бэкап, разворачивает его, делает вариант для разработчиков

Все "отдельные сервера" заняли вэб-макаки под свои "докеры с нодами".

Ответить | Правка | Наверх | Cообщить модератору

87. "Инцидент с СУБД проекта GitLab"  +1 +/
Сообщение от Аноним (-), 02-Фев-17, 17:05 
> Отдельный сервер, которые стягивает свежайший бэкап, разворачивает его, делает вариант
> для разработчиков (обрезаный, опционально). Какая разница сколько это занимает, хоть
> неделю.

разница существенная - во втором случае, ты заметишь проблему только через неделю (или не заметишь вовсе, потому что развернуть-то оно развернуло, а внутри лажа). Соответственно, будь тамошний админ таки же как ты - и не постели соломку лично - им бы пришлось откатиться на бэкап недельной, а  не шестичасовой, тухлости. Или двухнедельной. Или вообще никакого.

А цена этого "отдельного сервера", который, частенько, не отдельный сервер вовсе, а отдельный кластер на пяток стоек - очень и очень немаленькая. А инвестор жадный.

Ну и учти, что если бэкап восстанавливать неделю - то ты потеряешь половину пользователей.
То есть в какой-то момент становится понятным, что ну...вообще-то...ну хорошо бы в принципе иметь бэкап хотя бы вот для запуска тестового инстанса при мега-апгрейде инфраструктуры, но пользы от него не так много, как хотелось бы.

> Главное автоматически.

наоборот - главное, хоть иногда человеческим глазом смотреть. Иначе, как и в этом случае, может оказатьтся, что гуглобайты данных качаются туда-сюда совершенно впустую, в них мусор.

А для этого опять же надо чтобы у админов на это было время и вдохновение. А не 23:00, а таск все еще не закрыт.

Ответить | Правка | К родителю #60 | Наверх | Cообщить модератору

99. "Инцидент с СУБД проекта GitLab"  +/
Сообщение от Andrey Mitrofanov (?), 02-Фев-17, 19:03 
>>Какая разница сколько это занимает, хоть неделю.
>тухлости. Или двухнедельной. Или вообще никакого.
> очень немаленькая. А инвестор жадный.
>восстанавливать неделю - то ты потеряешь половину пользователей.
>> Главное автоматически.
>гуглобайты данных качаются туда-сюда совершенно впустую, в них мусор.

"Нет пути."ТМ

> А для этого опять же надо чтобы у админов на это было
> время и вдохновение. А не 23:00, а таск все еще не
> закрыт.

"Усё пропалоушеф."Ц

+++Люто плюсую, пиши ещё - завтра пятница.

Ответить | Правка | Наверх | Cообщить модератору

66. "Инцидент с СУБД проекта GitLab"  +/
Сообщение от XoRe (ok), 01-Фев-17, 23:33 
> Естественно никто даже не пробовал их разворачивать ибо это бессмысленно

Нужно хотя бы раз развернуть бекап, чтобы проверить, что там есть все, что нужно.
Для примера - у mysql есть хранимые процедуры и функции (stored routines (procedures and functions)). Утилита mysqldump их сохраняет, если указать -R. А если не указать, не сохраняет. Если они активно использовались, но дамп делался без них...
Есть шанс узнать что-то новое для себя в самый неподходящий для этого момент.
Дело в том, что если про эту опцию не знать, можно потратить много времени на поиск причины. С виду то как - дамп вернули, а ошибки сыпятся. А потом ещё придется потратить некоторое время на вытаскивание этих хранимок из кода или девелоперской среды.

Ответить | Правка | К родителю #26 | Наверх | Cообщить модератору

93. "Инцидент с СУБД проекта GitLab"  +1 +/
Сообщение от . (?), 02-Фев-17, 18:08 
> Для примера - у mysql есть хранимые процедуры и функции (stored routines
> (procedures and functions)). Утилита mysqldump их сохраняет, если указать -R. А

ух ты, давно я не брал в руки шашек. В смысле, что они, оказывается, для этого ключик сделали (правда, судя по ману - кривой, портит даты, не от того юзера заводит).
вообще-то сохраняет, но если mysqldump --all ;-) Приятные последствия при мерже на другой кластер - побочный эффект ;-)

А их использование по прежнему разваливает репликацию, или это я тоже уже от жизни на пять лет отстал?

> вернули, а ошибки сыпятся. А потом ещё придется потратить некоторое время
> на вытаскивание этих хранимок из кода или девелоперской среды.

а они там - опа, не той версии и "той" вообще нигде нет ;-)

P.S. чего только не узнаешь странного, тролля на опеннете


Ответить | Правка | Наверх | Cообщить модератору

80. "Инцидент с СУБД проекта GitLab"  +1 +/
Сообщение от ivn86 (ok), 02-Фев-17, 11:30 
> Естественно никто даже не пробовал их разворачивать

Попадался мне на LORе один чел, который запаковал каталог gzip'ом без tar'а. Утилита отработала прогнозируемое время, на выходе получился прогнозируемого объёма файл. Т.е. с виду всё хорошо. И только когда возникла необходимость его распаковать чел понял, что исходный каталог он уже не получит.

Ответить | Правка | К родителю #26 | Наверх | Cообщить модератору

104. "Инцидент с СУБД проекта GitLab"  +1 +/
Сообщение от freehckemail (ok), 03-Фев-17, 03:04 
> Попадался мне на LORе один чел, который запаковал каталог gzip'ом без tar'а. Утилита отработала прогнозируемое время, на выходе получился прогнозируемого объёма файл

Хм. Что-то тут не так в этом комментарии.

gzip на каталог, если с флагом -r, даст вам на выходе каталог с .gz-шниками. А без флага -r вообще откажется работать.

Какой же там файл получился на выходе? К тому же через прогнозируемое время. И в довесок прогнозируемого объёма.

Ответить | Правка | Наверх | Cообщить модератору

105. "Инцидент с СУБД проекта GitLab"  +1 +/
Сообщение от ivn86 (ok), 03-Фев-17, 07:35 
>> Попадался мне на LORе один чел, который запаковал каталог gzip'ом без tar'а. Утилита отработала прогнозируемое время, на выходе получился прогнозируемого объёма файл
> Хм. Что-то тут не так в этом комментарии.
> gzip на каталог, если с флагом -r, даст вам на выходе каталог
> с .gz-шниками. А без флага -r вообще откажется работать.
> Какой же там файл получился на выходе? К тому же через прогнозируемое
> время. И в довесок прогнозируемого объёма.

С ключом -cr гзип рекурсивно всё сжал и вывалил в stdout. Но челу нужен был файлик и он перенаправил stdout в файлик: https://www.linux.org.ru/forum/general/11356750 Речь не о том, что даже стандартными утилитами в неумелых руках можно выстрелить себе в коленку, а о том, что его при этом ничего не смутило -- файл то большой, значит все данные в нём есть, значит проверять ничего не нужно.

Ответить | Правка | Наверх | Cообщить модератору

107. "Инцидент с СУБД проекта GitLab"  +2 +/
Сообщение от freehckemail (ok), 03-Фев-17, 09:52 
> С ключом -cr гзип рекурсивно всё сжал и вывалил в stdout.

Понял. Весьма удивлён изобретательности человека. Так отстрелить себе ногу -- это ещё додуматься надо. :)

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру