...
Архитектура хранения и восстановления корпоративного сервера

NVMe, RAID и резервные копии для выделенных серверов: планирование хранилища для рабочих нагрузок с высоким вводом-выводом

14 мин. Читать Высокие рабочие нагрузки в/вывода и аварийное восстановление Команда инфраструктуры

База данных может быстро работать на NVMe и по-прежнему восстанавливаться после неудачного развертывания. Зеркальный массив может пережить сбой привода при копировании случайного удаления на оба диска. Больше емкости хранилища не решает ни одну из проблем.

выделенный сервер Архитектура хранилища сочетает в себе выбор диска, макет диска и планирование восстановления. Мы сопоставляем хранилище с вводом-выводом приложения, выбираем RAID для определенной защиты от сбоя диска и планируем независимые резервные копии в отношении допустимого времени потери данных и восстановления.

В Atal Networks, мы начинаем обсуждение хранилища с вашей рабочей нагрузкой, ростом и требованиями к восстановлению. Эти сведения помогают нам просмотреть предлагаемую конфигурацию и подтвердить область ее обслуживания перед развертыванием.

Требование Основное решение Доказательства для обзора
Производительность Тип диска и путь хранения Задержка, IOPS, пропускная способность, устойчивые записи
Избыток Макет RAID и процесс замены Толерантность к отказам и восстановление поведения
Восстановление Резервные копии и процесс восстановления Доступные точки восстановления и проверенное время восстановления

Критический принцип: Каждому требованию необходим свой план. RAID 0, несмотря на свое название, не обеспечивает избыточности диска.

Руководство по архитектуре и темам

Превратите активность приложения в требования Подтвердите, что хранилище ограничивает применение Сравнить случайную, последовательность и задержку записи Долговечные записи и обслуживание трафика Выберите NVMe, SATA/SAS SSD и HDD Проверить защиту выносливости и потерь питания Проверьте платформу вокруг дисков Сравните уровни рейда и компромиссы Сравните реализацию RAID Ухудшенная работа и восстановление Рассчитайте полезную емкость и рост Сопоставить макет с базами данных, журналами и медиафайлами Держите RAID, снимки и резервные копии отдельно Защита доступа к резервному копированию и сохранения Установить целевые точки восстановления и время Методы восстановления, совместимые с базой данных Рассчитать время передачи до восстановления Протестируйте полное восстановление Мониторинг работоспособности диска, массива и мощности Сравните стоимость хранения и объем поддержки Контрольный список планирования обзора Часто задаваемые вопросы
01 Профилирование рабочей нагрузки

Превратите активность приложения в требования к хранилищу

Мы рекомендуем записывать обычную активность, пиковый спрос и техническое обслуживание, прежде чем выбирать диски. Импорт базы данных, перестройка индекса или резервное копирование могут изменить спрос на хранилище, даже если трафик клиента остается неизменным.

Детали рабочей нагрузки Запись Покупка импликации
Размер данных Итого и активно используемые данные Емкость привода и память
Читать/записывать микс Чтение, запись и ежедневный объем записи Выносливость привода и расположение массива
Пик спроса Одновременные операции и периоды занятости Требуемая гарантия производительности
Фоновая работа Резервные копии, отчеты, импорт, уплотнение Перекрытие ввода-вывода и временное пространство
Рост Ожидаемые изменения данных и сохранения Запасной емкость и варианты расширения

Зарегистрированные пользователи или только размер базы данных не могут определить правильную конфигурацию хранилища. Две базы данных одного размера могут создавать очень разные рабочие нагрузки.

02 Проверка узкого места

Подтвердите, что хранилище ограничивает приложение

Сравните задержки приложений с событиями ожидания базы данных, использованием процессора, давлением памяти, поведением запросов и синхронизацией сети.

Медленному запросу может потребоваться лучший индекс. Для большого активного набора данных может потребоваться больше оперативной памяти. Приложение, ожидающее внешнего API, может мало выиграть от более быстрых локальных дисков.

Ожидание ввода-вывода CPU и использование диска помогают с диагностикой, но ни одна из метрик не доказывает свою причину. Просмотрите их вместе с задержкой запроса и работой, которую выполняет приложение.

03 Профили ввода-вывода и задержка

Сравните случайный ввод-вывод, последовательный ввод-вывод и задержку записи

Случайный ввод-вывод обращается к разрозненным местоположениям данных. Последовательный ввод-вывод обращается к последовательным локациям. Базы данных часто создают смешанные шаблоны, в то время как большие файлы могут включать длительные последовательные чтения или записи.

Метрика Смысл Планирование использования
ИОП Операции, выполненные в секунду Оцените спрос на малые операционные
Пропускная способность Данные, переданные в секунду Оценка больших передач и сканирования
Латентность Время завершить операцию Оценить задержки ответа приложения
Глубина очереди Выдающиеся запросы на хранение понимать параллелизм и ожидание

Прочтите эти измерения вместе. Высокий показатель IOPS без размера блока, микса чтения и записи и задержки мало что говорит нам о производительности приложения.

Увеличение глубины очереди может увеличить пропускную способность, продлевая индивидуальные запросы. Отслеживайте задержку P95 и P99 вместе со средними значениями, чтобы понять более медленные операции в периоды загруженности.

04 Долговечность и бенчмаркинг

Включите длительные записи и обслуживающий трафик

База данных может ждать, пока хранилище подтвердит долговечность записи, прежде чем подтверждать транзакцию. Тест на буферизованную копию не измеряет такое же поведение.

Мы рекомендуем протестировать реалистичный набор данных с заданными параметрами долговечности. Размер блока записи, параллелизм, микс чтения/записи, состояние кэша, продолжительность теста и версии программного обеспечения. Включите фоновые задания и активность резервного копирования.

Используйте изолированную тестовую среду для тестов записи. Держите производственные данные вне любой деструктивной цели тестирования.

05 Выбор привода

Выберите NVMe, SATA или SAS SSD и жесткие диски по рабочей нагрузке

NVMe — это протокол хранения, а не отдельная категория от твердотельных накопителей. Местные твердотельные накопители NVMe обычно подключаются через PCIe. SSD SATA и SAS используют разные интерфейсы, в то время как жесткие диски хранят данные на вращающихся дисках. NVM Express Organization Определяет спецификации NVMe.

Выбор хранилища Рабочие нагрузки для оценки Детали для подтверждения
NVMe SSD Базы данных, чувствительные к задержке, хранилище занятых приложений, смешанный ввод-вывод Выносливость, устойчивая запись, PCIe Path, охлаждение
SATA или SAS SSD Общее хранение приложений и рабочие нагрузки, соответствующие имеющейся производительности Ограничения интерфейса, спецификации привода, стоимость
жесткий диск Большие медиа-коллекции, сохраненные резервные копии, архивы Ограничения произвольного доступа, восстановление спроса, производительность передачи
Смешанное хранилище Горячие данные приложения, а также более крупные сохраненные наборы данных Размещение данных, перемещение и сложность восстановления

Конфигурация All-NVMe не является автоматически лучшим использованием бюджета. Большие репозитории резервного копирования могут больше выиграть от емкости и достаточной пропускной способности. Загруженная база данных может придавать большее значение стабильной задержке записи.

06 Надежность корпоративного диска

Проверить защиту выносливости и потерь мощности

Запросите точную модель привода и ее спецификацию выносливости. TBW описывает полную надбавку на запись в указанных условиях. DWPD выражает ежедневные записи относительно емкости диска за указанный период.

Сравните ожидаемые записи хоста на каждый диск с допущениями производителя и рабочими нагрузками. Обслуживание базы данных и RAID могут изменять записи, которые получает каждый участник.

Также проверьте защиту от потерь питания, устойчивую производительность после заполнения кэшей записи, термическое поведение и поддержку микропрограммного обеспечения. Только этикетки TLC или QLC не могут установить пригодность. Ознакомьтесь с полной спецификацией привода.

07 Шасси и архитектура

Проверьте платформу вокруг дисков

Подтвердите генерацию PCIe, выделение полосы движения, совместимость объединительной платы, отсекы привода и форм-фактор. Новый диск не может использовать пропускную способность, которую не предоставляет соединение с сервером.

Проверьте поддержку горячей замены и охлаждение. Привод M.2 и привод U.2 могут потребовать различных процедур замены. Оставьте место для расширения, если в противном случае рост заставит миграцию сервера.

08 Геометрия дискового массива

Сравните уровни RAID по емкости и неудачам

RAID объединяет диски в макет хранилища. Некоторые макеты обеспечивают избыточность; Другие отдают приоритет емкости или параллельному доступу без защиты от сбоя привода.

В приведенной ниже таблице представлены диски одинакового размера и обычные компоновки. N означает количество дисков, а S означает наименьшую емкость члена. Рисунки исключают накладные расходы на файловую систему и метаданные.

Макет Типичный минимум Примерная емкость Допуск на отказ привода
рейд 0 2 п × с Никто
Двухприводный RAID 1 2 S Один член
рейд 5 3 (n − 1) × s Один член
рейд 6 4 (n − 2) × s Два члена
Обычный рейд 10 4, даже считай п × с ÷ 2 один гарантирован; Дополнительные сбои зависят от размещения

RAID 10 может пережить несколько неудачных дисков, только если каждая пара зеркала сохраняет рабочую копию. Потеря обоих членов одной пары может потерять массив.

RAID 5 и RAID 6 используют четность, которая вносит дополнительную работу для некоторых шаблонов записи. Оцените нормальную работу и ухудшение работы, прежде чем выбирать эффективность мощности по сравнению с другой компоновкой. RAID-документация Red Hat Объясняет детали реализации и компромиссы.

09 Аппаратное обеспечение против программного RAID

Сравните реализацию RAID

Аппаратный RAID использует контроллер. Программный RAID зависит от операционной системы и ресурсов хоста. ZFS Mirrors и RAIDZ используют другой дизайн управления хранилищем, чем обычный массив контроллеров.

Сравните совместимость, мониторинг, защищенный кэш записи, накладные расходы процессора и зависимости замены. Контроллер может стать узким местом, но программный RAID также нуждается в соответствующих ресурсах платформы и администрировании.

Выберите реализацию, которую команда может работать и восстанавливать. Не думайте, что запасной контроллер, переустановка операционной системы или импортированный массив не потребуют подготовки.

10 Устойчивость и отказоустойчивость

План ухудшения эксплуатации и перестройки

Сохранившийся массив может работать медленнее, когда диск отсутствует или перестраивается. Продолжительность перестройки зависит от емкости, рабочей нагрузки, реализации и оставшейся производительности диска.

Подтвердите, кто обнаруживает неисправный диск, организовывает замену, запускает или проверяет восстановление и проверяет завершение. Горячий запасной резерв может сократить ожидание начала перестройки, но это не резервная копия.

RAID не может поддерживать доступное приложение через каждую материнскую плату, питание, файловую систему или сбой сайта. Наличие приложения может потребовать Дополнительные серверы и отдельный дизайн отказоустойчивости.

11 Математика емкости

Рассчитайте полезную емкость и рост перед заказом

Бюджет для операционной системы, приложений, базы данных, загруженных файлов, журналов, журналов транзакций, временной работы и сохраненных снимков. Затем разрешите операционную зону и рост.

Пробой расчета размеров

Иллюстративный пример: четыре диска 3,84 ТБ обеспечивают 15,36 ТБ необработанной емкости. Обычный RAID 10 оставляет около 7,68 ТБ перед накладными расходами. Резервирование рабочей маржи 20% составляет примерно 6,14 ТБ перед другими вычетами.

Usable = (Raw × 0.5) × (1 – 0.20 Margin) ≈ 6.14 TB Net Working Space

Поля 20% является примером, а не правилом для каждой файловой системы или рабочей нагрузки. Выберите запас вокруг ожидаемого роста и таких задач, как импорт, уплотнение и восстановление.

Проверяйте единицы измерения во время сравнения. Поставщики дисков обычно заявляют десятичный ТБ, а некоторые инструменты сообщают о двоичном TIB. Эта разница в единицах не указывает на отсутствие хранилища.

Рассчитайте резервную емкость отдельно. Сохранение, измененные данные, полная частота резервного копирования и поведение сжатия или дедупликации влияют на размер репозитория. Не думайте, что набор данных 5 ТБ требует всего 5 ТБ резервного пространства.

12 Выравнивание приложений

Сопоставьте макет с базами данных, журналами и носителями

В следующих примерах описываются варианты оценки, а не фиксированные пакеты серверов.

Нагрузка Основное свидетельство Макет для оценки
Транзакционная база данных Задержка фиксации, случайные записи, активный набор данных Корпоративные зеркала SSD/NVMe Enterprise или RAID 10, где его поддерживает тестирование
Журналы и аналитика Скорость приема, уплотнение, сканирование запросов, сохранение Разделяйте горячие данные и сохраненные данные, где это полезно
Медиа и большие файлы Последовательная пропускная способность, размер файла, параллелизм Массивы, ориентированные на емкость, с SSD/NVMe для метаданных или постановки, если это необходимо
Виртуальные машины Комбинированный ввод-вывод, самые загруженные гости, задержка во время пиков Общая емкость хранилища и производительность с контролем рабочей нагрузки

Для баз данных оценивайте файлы данных, журналы транзакций и временную работу. Отдельные диски могут уменьшить конкуренцию, когда измерения их оправдывают. Отдельные разделы на одних и тех же дисках не обеспечивают физическую изоляцию ввода-вывода.

Для журналов включите очистку удержания и техническое обслуживание индекса. Для мультимедиа проверьте пропускную способность хранилища и поставку сети. Быстрый диск не может удалить лимит исходящей сети.

Обсудите ваши требования к хранению с помощью Atal Networks. Поделитесь размером вашей базы данных, ежедневными записями и ожиданиями роста, чтобы мы могли просмотреть детали конфигурации вместе с вами.

13 Уровни восстановления

Держите RAID, снимки, репликацию и резервные копии отдельно

RAID защищает от указанных сбоев привода. Резервные копии предоставляют сохраненные копии восстановления. Снимки и репликация могут поддерживать план защиты, но их значение зависит от местоположения, удержания и контроля доступа.

Метод Полезная роль Ограничение адреса
избыточный рейд Непрерывный доступ после сбоев поддерживаемого привода Не сохраняет более ранние версии удаленных данных
Снимок того же массива Быстрый откат к более раннему состоянию Общий доступ к сбою исходного массива
Копирование Еще одна текущая копия и возможная поддержка отказа Может копировать удаление или повреждение
Локальный диск резервного копирования Доступная копия восстановления на другом устройстве по-прежнему разделяет сервер и, возможно, его учетные данные
Независимое удаленное резервное копирование Восстановление после потери исходного сервера Требуется соответствующая защита доступа, сохранение и восстановление емкости

Снимок, скопированный в независимую систему и надлежащим образом сохраненный, может стать частью плана резервного копирования. Его защита исходит от полной конструкции, а не от ярлыка снимка.

14 Безопасность и неизменность

Защита доступа к резервному копированию и сохранения

Использовать 3-2-1 структура В качестве отправной точки: три копии данных, два типа носителя и одна копия за пределами сайта. Затем оцените общие риски отказа напрямую.

Отдельные учетные данные производства и резервного копирования. Компромиссированная учетная запись приложения не должна иметь разрешения на удаление каждой копии восстановления. Рассмотрите автономные или неизменяемые копии и подтвердите, кто может изменить настройки сохранения.

Шифруйте резервные копии, где это необходимо, и сохраняйте ключи восстановления доступными с помощью контролируемого процесса. Резервное копирование, которое переживает инцидент, по-прежнему непригодно для использования, если команда теряет свои ключи.

Сопоставьте удержание с реальными потребностями в восстановлении. Последние копии могут не помочь, если повреждающее изменение остается незамеченным в течение нескольких недель.

15 RPO и RTO планирование

Установите точку восстановления и целевые сроки восстановления

Объективная точка восстановления, или RPO, определяет допустимое окно потери данных. Цель времени восстановления, или RTO, определяет целевое время восстановления службы. Эти цели должны управлять дизайном резервного копирования.

Бизнес, который может потерять не более 15 минут недавних изменений, нуждается в подходе, отличном от того, который может воссоздать дневную работу. Успешное ночное резервное копирование само по себе не соответствует первому требованию.

16 Транзакционная целостность

Используйте методы восстановления, совместимые с базой данных

Используйте методы резервного копирования, поддерживаемые базой данных, или правильно скоординированный процесс моментального снимка. Копирование файлов из работающей базы данных без необходимых шагов согласованности может не создавать пригодную для использования резервную копию.

PostgreSQL Восстановление требует соответствующего базового резервного копирования и требуемой непрерывной истории журналов с опережением записи. Сам по себе логический дамп не обеспечивает эту цепочку восстановления. Документация по восстановлению PostgreSQL Объясняет требования.

Убедитесь, что план также включает конфигурацию, загруженные файлы, учетные данные и другие зависимости приложений.

17 Сеть и восстановление скорости

Рассчитать время передачи до того, как обещать

Используйте одни и те же единицы с обеих сторон этого расчета:

Формула времени передачи
Время передачи = данные для восстановления ÷ Постоянная сквозная скорость передачи

Десятичное 2 ТБ передачи по холостому каналу 1 Гбит/с имеет теоретический минимум около 4,44 часа до накладных расходов протокола или других ограничений.

Фактическое восстановление также включает в себя получение замены, получение резервных копий, расшифровку данных, запись их в хранилище, воспроизведение журналов баз данных, проверку приложения и переключение трафика.

Порт 10 Гбит/с поднимает потолок сети. Это не гарантирует, что исходный репозиторий, целевые диски, CPU или путь передачи могут поддерживать эту скорость.

Для сетевого планирования сравните наши Планы трансфера 100 ТБ и 1 Гбит/с без учета параметров сервера против ожидаемого резервного копирования и восстановления трафика. Этикетка 100 ТБ относится к припуску на передачу, а не к установленной емкости диска.

18 Учения по катастрофе

Протестируйте полное восстановление

Восстановите в изолированную среду и измерьте время, пока приложение не заработает. Проверьте согласованность данных, доступ, запланированные задания и внешние интеграции.

Запишите точку восстановления, прошедшее время, отсутствующие шаги и ответственный владелец. Повторите тест после серьезных изменений в размере данных, программном обеспечении резервного копирования или архитектуре.

19 Телеметрия и проверка здоровья

Мониторинг работоспособности диска, состояния массива и емкости

Мы рекомендуем отслеживать как компоненты хранилища, так и готовность к восстановлению.

Монитор действие для определения
Приводит здоровье, ошибки, износ и температуру Изучите предупреждения и договоритесь о замене, где это необходимо
Состояние RAID и восстановление прогресса Определите ухудшимость защиты и подтвердите завершение восстановления
Свободное пространство и использование инода, где это необходимо Действуйте до записи, резервное копирование или сбой обслуживания
Задержка и рост очереди Сравните с влиянием приложения и изменениями рабочей нагрузки
Резервный возраст и неудавшиеся работы Восстановить ожидаемое окно защиты
Результаты восстановления-тестирования Исправить отсутствующие зависимости и задержки восстановления

Данные о работоспособности SMART и NVMe не могут предсказывать каждый сбой диска. Сохраняйте избыточность и независимые резервные копии, даже если диски сообщают о состоянии здоровья.

20 Моделирование затрат и прицел SLA

Сравните полные затраты на хранение и объем поддержки

Сравните стоимость Рабочей конструкции: полезная емкость, приводы, контроллеры, резервное хранилище, сохранение, передача, администрирование и восстановление.

Цена за используемый ТБ помогает сравнить емкость. Он не учитывает выносливость записи, задержку или время, необходимое команде для восстановления службы.

Операционные обязанности в письменной форме:

Задача ответственность за подтверждение
Замена физического привода Область поддержки оборудования поставщика
Мониторинг и восстановление массивов Именованный администратор или служба управления
Обслуживание файловой системы и операционной системы Согласованный владелец управления сервером
Согласованность резервной копии базы данных Владелец базы данных или контрактная служба
Сохранение резервного копирования и доступ Администратор репозитория
Восстановление тестирования и восстановления приложений Именованный владелец восстановления и команды поддержки

Управляемый хостинг не включает автоматическую настройку запросов, восстановление базы данных или восстановленное восстановление приложений. Подтвердите каждую задачу в предлагаемой услуге.

Также проверьте варианты расширения. Добавление дисков, изменение уровней RAID или перемещение данных могут потребовать простоя или миграции. Планируйте эти затраты до того, как текущий массив исчерпает место.

21 Обзор до развертывания

Принесите эти детали в наш обзор планирования хранения

Чтобы начать полезное обсуждение конфигурации, поделитесь:

  • Приложение, база данных, операционная система и версии.
  • Текущий набор данных, активные данные и ожидания роста.
  • Ежедневно записывает, микширует/записывает, а также пиковый спрос, если он известен.
  • Необходимые цели и цели задержки.
  • Сохранение резервных копий, цели и цели восстановления.
  • Предпочтительное место, бюджет и время развертывания.

Для первоначального обсуждения достаточно оценок. Держите производственные учетные данные и наборы данных о клиентах из запроса.

Перед заказом подтвердите количество дисков и модель, реализацию RAID, используемую емкость, спецификацию выносливости, область резервного копирования, надбавку к сети, обязанности по замене и восстановление права собственности. Мы можем обсудить эти варианты с вами и определить детали, требующие подтверждения для предлагаемого развертывания.

Хранение инженерных разъяснений

Распространенные вопросы о хранилище выделенного сервера

Практические инженерные ответы относительно NVMe, отказоустойчивости массива RAID, моментальных снимков, сетевых ограничений и операций резервного копирования.

Устраняет ли хранилище NVMe потребность в RAID?

Нет. NVMe касается доступа к хранилищу, в то время как избыточные макеты RAID обращаются к указанным сбоям диска. Привод NVMe все еще может выйти из строя. Выбирайте резервирование в соответствии с потребностями рабочей нагрузки и сохраняйте независимые резервные копии для восстановления.

Является ли RAID 10 лучшим выбором для сервера базы данных?

Нет. RAID 10 может удовлетворять требованиям смешанного ввода-вывода, но он использует половину необработанной емкости в обычной зеркальной компоновке. Сравните измерения рабочей нагрузки, количество дисков, используемое пространство и потребности в восстановлении, прежде чем выбирать его вместо зеркала или другого дизайна.

Сможет ли RAID 10 пережить два неудачных диска?

иногда. В обычном RAID 10 два сбоя могут быть выживаемыми, если они возникают в разных зеркальных парах, и каждая пара сохраняет рабочую копию. Потеря обоих дисков в одной паре может потерять массив.

Считаются ли снимки как независимые резервные копии?

Снимок в исходном массиве не является независимой копией восстановления. Он разделяет экспозицию этого массива. Копирование и сохранение моментальных снимков в отдельной системе может поддерживать стратегию резервного копирования, если согласованность, защита доступа и восстановление соответствуют требованиям.

Можем ли мы использовать жесткие диски для удаленного резервного копирования базы данных NVMe?

Да, если репозиторий соответствует требованиям резервного копирования, емкости и времени восстановления. Назначение резервного копирования не нуждается в том же носителе, что и в производстве. Проверьте полный путь восстановления, прежде чем полагаться на более низкую стоимость хранения.

Может ли порт 10 Гбит/с гарантировать более быстрое восстановление?

Нет. Скорость восстановления также зависит от исходного чтения, записи в целевой записи, работы процессора, сетевых условий и программного обеспечения для резервного копирования. Более быстрый порт помогает только тогда, когда остальная часть пути может использовать дополнительную емкость.

Включает ли управляемый хостинг тестирование восстановления базы данных?

Только в том случае, если в его состав входит согласованная служба. Администрирование сервера, мониторинг резервного копирования и тестирование тестирования базы данных являются отдельными задачами. Рекомендуем назвать владельца каждой задачи перед развертыванием.

Можем ли мы расширить массив без перемещения данных?

Это зависит от макета, реализации, контроллера, файловой системы и доступных отсеков. Некоторые изменения поддерживают расширение; Другие требуют перестройки или переноса массива. Перед заказом дополнительных дисков подтвердите метод, требования к резервному копированию и ожидаемые прерывания.

Развертывание инфраструктуры

Рекомендованы следующие шаги

Начните с измерений рабочей нагрузки, потребностей в используемой емкости и целей восстановления. Сравните варианты хранения со всеми тремя, затем подтвердите операционные обязанности и полную стоимость.

Обсудите требования к хранилищу выделенных серверов с помощью Atal Networks. Поделитесь своей рабочей нагрузкой, базой данных, ростом хранилища, шаблоном ввода-вывода и восстановлением, чтобы мы могли просмотреть варианты конфигурации с вами перед развертыванием.

Прокрутить вверх
Серафинит - АкселераторОптимизировано Серафинит - Акселератор
Включает высокую скорость сайта, чтобы быть привлекательным для людей и поисковых систем.