专用服务器的 NVMe、RAID 和备份:规划高 I/O 工作负载的存储
数据库可以在 NVMe 上快速运行,并且在部署失败后仍需要数小时才能恢复。 镜像阵列可以在将意外删除到两个驱动器的同时复制驱动器故障。 更多的存储容量并不能解决任何一个问题。
专用服务器 存储架构结合了驱动器选择、磁盘布局和恢复计划。 我们将存储与应用程序 I/O 匹配,选择 RAID 进行定义的驱动器故障保护,并围绕可接受的数据丢失和恢复时间计划独立的备份。
在 Atal Networks,我们根据您的工作量、增长和恢复要求开始存储讨论。 这些详细信息有助于我们在部署之前查看建议的配置并确认其服务范围。
| 需求 | 主要决定 | 证据审查 |
|---|---|---|
| 表演 | 驱动器类型和存储路径 | 延迟、IOPS、吞吐量、持续写入 |
| 冗余 | RAID 布局和替换流程 | 容错和重建行为 |
| 复苏 | 备份副本和恢复过程 | 可用的还原点和测试恢复时间 |
关键原则: 每个要求都需要自己的计划。 RAID 0,尽管它的名称,但没有提供驱动器冗余。
将应用活动转化为存储需求
我们建议在选择驱动器之前记录普通活动、峰值需求和维护工作。 即使客户流量保持不变,数据库导入、索引重建或备份也可以更改存储需求。
| 工作负载详细信息 | 记录 | 购买暗示 |
|---|---|---|
| 数据大小 | 总数据和积极使用的数据 | 驱动器容量和内存需求 |
| 读/写混合 | 读取、写入和每日写入量 | 驱动器耐久性和阵列布局 |
| 高峰需求 | 并行操作和繁忙时间段 | 所需的性能空间 |
| 背景工作 | 备份、报表、导入、压缩 | 重叠的 I/O 和临时空间 |
| 发展 | 预期数据和保留变化 | 备用容量和扩展选项 |
仅注册用户或数据库大小无法确定正确的存储配置。 相同大小的两个数据库可以创建非常不同的工作负载。
确认存储限制应用程序
将应用程序延迟与数据库等待事件、CPU 使用、内存压力、查询行为和网络时序进行比较。
慢查询可能需要更好的索引。 大型活动数据集可能需要更多 RAM。 等待外部 API 的应用程序可能会从更快的本地驱动器中获得很少的收益。
CPU I/O 等待和磁盘利用率有助于诊断,但两者都无法自行证明原因。 与请求延迟以及应用程序执行的工作一起查看它们。
比较随机 I/O、顺序 I/O 和写入延迟
随机 I/O 访问分散的数据位置。 顺序 I/O 访问连续位置。 数据库通常会产生混合模式,而大文件传输可能涉及长时间的顺序读取或写入。
| 测量的 | 意思 | 计划使用 |
|---|---|---|
| 眼压 | 每秒完成的操作 | 评估小操作需求 |
| 吞吐量 | 每秒传输的数据 | 评估大规模传输和扫描 |
| 潜伏 | 完成手术的时间 | 评估应用响应延迟 |
| 队列深度 | 未完成的存储请求 | 了解并发和等待 |
一起阅读这些测量结果。 没有块大小、读/写混合和延迟的高 IOPS 数字,几乎没有告诉我们应用程序性能。
增加队列深度可以提高吞吐量,同时使单个请求等待更长的时间。 跟踪 P95 和 P99 的延迟以及平均值,以了解繁忙时期的较慢操作。
包括持久的写入和维护流量
在确认事务之前,数据库可能会等待存储确认持久写入。 缓冲的文件复制测试不测量相同的行为。
我们建议测试具有预期耐用性设置的真实数据集。 记录块大小、并发性、读/写混合、缓存状态、测试持续时间和软件版本。 包括后台作业和备份活动。
使用隔离的测试环境进行写入基准测试。 将生产数据保留在任何破坏性测试目标之外。
按工作负载选择 NVMe、SATA 或 SAS SSD 以及 HDD
NVMe 是一种存储协议,而不是与 SSD 不同的类别。 本地 NVMe SSD 通常通过 PCIe 连接。 SATA 和 SAS SSD 使用不同的接口,而 HDD 将数据存储在旋转磁盘上。 那个 NVM Express 组织 定义 NVMe 规范。
| 存储选择 | 要评估的工作量 | 详细确认 |
|---|---|---|
| NVMe 固态硬盘 | 延迟敏感数据库、繁忙的应用程序存储、混合 I/O | 耐力、持续写入、PCIe 路径、冷却 |
| SATA或SAS SSD | 符合可用性能的一般应用程序存储和工作负载 | 接口限制、驱动器规格、成本 |
| 硬盘 | 大型媒体收集、保留备份、归档 | 随机访问限制、重建需求、转移性能 |
| 混合存储 | 热应用数据加上更大的保留数据集 | 数据放置、移动和恢复复杂性 |
全NVMe 配置不是自动的最佳使用预算。 大型备份存储库可能会从容量和足够的恢复吞吐量中受益更多。 繁忙的数据库可能会更重视一致的写入延迟。
检查耐久性和功耗保护
请求确切的驱动器型号及其耐力规格。 TBW 描述了规定条件下的总写入津贴。 DWPD 表示在规定时间内相对于驱动器容量的每日写入。
将每个驱动器的预期主机写入与制造商的评级和工作负载假设进行比较。 数据库维护和 RAID 可以更改每个成员接收的写入。
还要检查写缓存填充后的持续性能、热行为和固件支持后的断电保护。 单独的 TLC 或 QLC 标签无法确定适合性。 查看完整的驱动器规格。
检查驱动器周围的平台
确认 PCIe 生成、车道分配、背板兼容性、驱动器托架和外形尺寸。 较新的驱动器不能使用服务器连接不提供的带宽。
检查热插拔支持和冷却。 M.2 驱动器和 U.2 驱动器可能需要不同的更换程序。 如果增长会迫使服务器迁移,请留出扩展空间。
通过容量和故障权衡比较 RAID 级别
RAID 将驱动器组合到存储布局中。 一些布局提供冗余; 其他人在没有驱动器故障保护的情况下优先考虑容量或并行访问。
下表假定大小相等的驱动器和常规布局。 n 表示驱动器数,s 表示最小成员的容量。 数字不包括文件系统和元数据开销。
| 布局 | 典型的最小值 | 近似容量 | 驱动故障公差 |
|---|---|---|---|
| 突袭 0 | 2 | n × s | 没有 |
| 两驱动器 RAID 1 | 2 | S | 一名成员 |
| 突袭 5 | 3 | (n − 1) × s | 一名成员 |
| 突袭 6 | 4 | (n − 2) × s | 两个成员 |
| 常规突袭 10 | 4、偶数 | n × s ÷ 2 | 一担保证; 额外的故障取决于放置 |
仅当每个镜像对保留工作副本时,RAID 10 才能在多个故障驱动器中存活。 丢失一对的两个成员可能会丢失数组。
RAID 5 和 RAID 6 使用奇偶校验,这为某些写入模式引入了额外的工作。 在选择容量效率而不是其他布局之前,评估正常运行和降级操作。 红帽的 RAID 文档 解释实现细节和权衡。
比较 RAID 实现
硬件 RAID 使用控制器。 软件 RAID 依赖于操作系统和主机资源。 ZFS 镜像和 RAIDZ 使用与传统控制器阵列不同的存储管理设计。
比较兼容性、监控、保护写入缓存、CPU 开销和替换依赖项。 控制器可以成为瓶颈,但软件 RAID 也需要适当的平台资源和管理。
选择团队可以操作和恢复的实现。 不要假设备用控制器、操作系统重新安装或导入的阵列不需要准备。
计划退化运营和重建
当驱动器丢失或重建时,一个存活的阵列可能运行得更慢。 重建持续时间取决于容量、工作负载、实现和剩余驱动器性能。
确认谁检测到故障驱动器、安排更换、开始或检查重建,并验证完成情况。 热备件可以减少开始重建的等待,但它不是备份。
RAID 无法通过每个主板、电源、文件系统或站点故障保持应用程序可用。 应用程序可用性可能需要 附加服务器 和单独的故障转移设计。
订购前计算可用容量和增长
操作系统、应用程序、数据库、上传的文件、日志、事务日志、临时工作和保留快照的预算。 然后允许运营空间和增长。
说明性示例:四个 3.84 TB 驱动器提供 15.36 TB 的原始容量。 传统的 RAID 10 在开销前留下了大约 7.68 TB。 保留 20% 的运营利润率在其他扣除额之前约 6.14 TB。
20% 边距就是一个例子,而不是每个文件系统或工作负载的规则。 在预期增长和任务(如进口、压缩和恢复)中选择空间。
在比较期间检查单位。 驱动器供应商通常会状态十进制 TB,而一些工具报告二进制 TIB。 该单位差异不表示缺少存储空间。
分别计算备份容量。 保留、更改的数据、完整的备份频率以及压缩或重复数据删除行为会影响存储库大小。 不要假设 5 TB 数据集只需要 5 TB 的备份空间。
将布局与数据库、日志和媒体匹配
以下示例描述了评估选项,而不是固定服务器包。
| 工作量 | 主要证据 | 布局评估 |
|---|---|---|
| 事务数据库 | 提交延迟、随机写入、活动数据集 | 测试支持的企业 SSD/NVMe 镜像或 RAID 10 |
| 日志和分析 | 摄取率、压缩、查询扫描、保留 | 在有用的情况下分离热数据和保留的数据 |
| 媒体和大文件 | 顺序吞吐量、文件大小、并发性 | 以容量为中心的阵列,使用 SSD/NVMe 用于元数据或分级(如果需要) |
| 虚拟机 | 综合 I/O、最繁忙的客人、高峰期的延迟 | 工作负载控制的共享存储容量和性能 |
对于数据库,评估数据文件、事务日志和临时工作。 单独的驱动器可以减少测量证明其合理性的争用。 同一驱动器上的单独分区不提供物理 I/O 隔离。
对于日志,包括保留清理和索引维护。 对于媒体,请检查存储吞吐量和网络交付。 更快的磁盘无法删除出站网络限制。
与 Atal Networks 讨论您的存储需求。 分享您的数据库大小、每日写入和增长期望,以便我们与您一起查看配置详细信息。
将 RAID、快照、复制和备份分开保存
RAID 可防止指定的驱动器故障。 备份提供保留的恢复副本。 快照和复制可以支持保护计划,但它们的值取决于位置、保留和访问控制。
| 方法 | 有用的角色 | 限制解决 |
|---|---|---|
| 多余的突袭 | 支持的驱动器故障后继续访问 | 不保留已删除数据的早期版本 |
| 相同阵列快照 | 快速回滚到早期状态 | 共享源阵列的故障暴露 |
| 仿作 | 另一个当前副本和可能的故障转移支持 | 可以复制删除或损坏 |
| 本地备份磁盘 | 在另一台设备上的可访问恢复副本 | 仍然共享服务器及其可能的凭据 |
| 独立的远程备份 | 源服务器丢失后的恢复 | 需要适当的访问保护、保留和恢复能力 |
复制到独立系统并适当保留的快照可以构成备份计划的一部分。 它的保护来自完整的设计,而不是快照标签。
保护备份访问和保留
使用 3-2-1 框架 作为起点:三份数据副本、两种介质类型和一种非现场副本。 然后直接评估共享失败风险。
单独的生产和备份凭据。 受损的应用程序帐户无权删除每个恢复副本。 考虑离线或不可变的副本,并确认谁可以更改其保留设置。
在适当的情况下加密备份,并通过受控流程保持可用的恢复密钥。 如果团队丢失了密钥,则在事件中幸存下来的备份仍然无法使用。
将保留与实际恢复需求相匹配。 如果破坏性的更改持续数周仍未被注意到,最近的副本可能无济于事。
设置恢复点和恢复时间目标
恢复点目标(RPO)定义了可接受的数据丢失窗口。 恢复时间目标或 RTO 定义恢复服务的目标时间。 这些目标应指导备份设计。
一家可以损失不超过 15 分钟近期变化的企业需要一种与可以重新创造一天工作的方法不同的方法。 仅成功的夜间备份并不能满足第一个要求。
使用数据库一致的恢复方法
使用数据库支持的备份方法或适当协调的快照过程。 在没有所需一致性步骤的情况下从正在运行的数据库中复制文件可能不会产生可用的备份。
PostgreSQL 时间点恢复需要适当的基本备份和预写日志所需的连续历史记录。 单独的逻辑转储不提供该恢复链。 那个 PostgreSQL 恢复文档 解释要求。
检查该计划是否还涵盖配置、上传的文件、凭据和其他应用程序依赖项。
在承诺恢复之前计算转移时间
在本次计算的两侧使用相同的单位:
在协议开销或其他限制之前,在其他空闲 1 Gbps 链路上进行 2 TB 的十进制传输的理论上的最小值约为 4.44 小时。
实际恢复还包括获取替换容量、检索备份、解密数据、将其写入存储、重放数据库日志、检查应用程序和切换流量。
一个 10 Gbps 的端口提高了网络上限。 它不保证源存储库、目标磁盘、CPU 或传输路径能够维持该速率。
对于网络规划,比较我们的 100TB 转移计划 和 1Gbps 非计量服务器选项 针对预期的备份和恢复流量。 100TB 标签指的是转移余量,未安装磁盘容量。
测试完整的还原
恢复到孤立的环境并测量应用程序工作的时间。 检查数据一致性、访问、预定作业和外部集成。
记录还原点、经过的时间、缺少的步骤和负责的所有者。 在对数据大小、备份软件或架构进行重大更改后,重复测试。
监视磁盘运行状况、阵列状态和容量
我们建议同时监控存储组件和恢复准备情况。
| 监控 | 定义的动作 |
|---|---|
| 驱动健康、错误、磨损和温度 | 调查警告并在需要时安排更换 |
| 突袭状态和重建进度 | 识别降级保护并确认重建完成 |
| 相关的可用空间和 inode 使用 | 在写入、备份或维护失败之前采取行动 |
| 延迟和队列增长 | 与应用程序影响和工作负载更改进行比较 |
| 备份年龄和失败的作业 | 恢复预期的保护窗口 |
| 恢复测试结果 | 修复缺失的依赖关系和恢复延迟 |
智能和 NVMe 健康数据无法预测每次驱动器故障。 即使驱动器报告健康状态,也要保持冗余和独立备份。
比较完整的存储成本和支持范围
比较成本 工作设计:可用容量、驱动器、控制器、备份存储、保留、传输、管理和恢复工作。
每可用 TB 的价格有助于比较容量。 它不考虑写耐力、延迟或团队恢复服务所需的时间。
以书面形式写下运营职责:
| 任务 | 有责任确认 |
|---|---|
| 物理驱动器更换 | 提供商的硬件支持范围 |
| 阵列监控和重建 | 指定管理员或管理服务 |
| 文件系统和操作系统维护 | 商定的服务器管理所有者 |
| 数据库备份一致性 | 数据库所有者或合同服务 |
| 备份保留和访问 | 存储库管理员 |
| 恢复测试和应用程序恢复 | 命名恢复所有者和支持团队 |
托管托管不会自动包括查询调整、数据库恢复或经过测试的应用程序还原。 确认提议的服务中的每个任务。
还要检查扩展选项。 添加驱动器、更改 RAID 级别或移动数据可能需要停机时间或迁移。 在当前阵列空间不足之前计划这些成本。
将这些详细信息带到我们的存储计划审查中
要开始有用的配置讨论,请分享:
- 应用程序、数据库、操作系统和版本。
- 当前数据集、活动数据和增长预期。
- 每日写入、读/写组合以及已知的峰值需求。
- 所需的容量和延迟目标。
- 备份保留、目标和恢复目标。
- 首选位置、预算和部署时间。
估计足以进行初步讨论。 将生产凭证和客户数据集排除在查询之外。
订购前,确认驱动器计数和模型、RAID 实现、可用容量、耐用规范、备份范围、网络限额、替换责任和恢复所有权。 我们可以与您一起审查这些选择,并确定需要确认的详细部署的详细信息。
关于专用服务器存储的常见问题
关于 NVMe、RAID 阵列容错、快照、网络限制和备份操作的实用工程答案。
NVMe 存储是否消除了对 RAID 的需求?
No. NVMe 涉及存储访问,而冗余 RAID 布局解决了指定的驱动器故障。 NVMe 驱动器仍然可能发生故障。 根据工作负载的可用性需求选择冗余并维护独立备份以进行恢复。
RAID 10 是否始终是数据库服务器的最佳选择?
没有。RAID 10 可以满足要求的混合 I/O,但它在传统的镜像布局中使用了一半的原始容量。 在选择镜像或其他设计之前,比较工作负载测量、驱动器计数、可用空间和恢复需求。
RAID 10 可以在两个故障驱动器中幸存下来吗?
有时。 在传统的 RAID 10 中,如果出现在不同的镜像对中并且每对保留一个工作副本,则可以生存两个故障。 在同一对中丢失两个驱动器可能会丢失阵列。
快照是否算作独立备份?
源阵列上的快照不是独立的恢复副本。 它共享该阵列的失败风险。 如果一致性、访问保护和还原程序满足要求,在单独的系统上复制和保留快照可以支持备份策略。
我们可以使用 HDD 进行 NVMe 数据库的远程备份吗?
是的,如果存储库满足备份输入、容量和还原时间要求。 备份目标不需要与生产相同的介质。 在依赖较低的存储成本之前测试完整的还原路径。
10 Gbps 端口可以保证更快的恢复吗?
否。恢复速度还取决于源读取、目标写入、CPU 工作、网络条件和备份软件。 只有当路径的其余部分可以使用额外的容量时,更快的端口才会有所帮助。
托管主机是否包括数据库还原测试?
仅当约定的服务包含它时。 服务器管理、备份作业监控和经过测试的数据库还原是单独的任务。 我们建议在部署之前命名每个任务的所有者。
我们可以在不移动数据的情况下扩展数组吗?
这取决于布局、实现、控制器、文件系统和可用的托架。 一些更改支持扩展; 其他需要重建或迁移阵列。 在订购其他驱动器之前,确认方法、备份要求和预期中断。
推荐的下一步
从工作负载测量、可用容量需求和恢复目标开始。 将存储选项与所有三个进行比较,然后确认运营职责和完成成本。
与 Atal Networks 讨论您的专用服务器存储需求。 共享您的工作负载、数据库、存储增长、I/O 模式和恢复要求,以便我们可以在部署前与您一起查看配置选项。
