分片（Sharding）

当数据量增长到单个副本集无法承载，或者写操作的吞吐量达到单台主节点的极限时，就需要通过分片（Sharding）来进行水平扩展。本章节将深入探讨 MongoDB 分片集群的架构、核心组件、分片键的选择策略以及如何部署和管理一个分片集群。

分片概述

什么是分片？

分片是一种将大型数据集水平分区到多个服务器（或分片）上的数据库架构模式。每个分片都是一个独立的副本集，存储着整个数据集的一部分。通过分片，MongoDB 可以将读写负载分布到多个服务器上，从而实现近乎无限的水平扩展能力。

为什么需要分片？

存储容量扩展: 当数据量超过单台服务器的磁盘容量时，可以通过增加分片来扩展存储空间。
读写吞吐量提升: 通过将负载分布到多个分片，可以显著提高整个集群的读写处理能力。
高可用性: 分片集群的每个分片本身就是一个副本集，因此继承了副本集的高可用性特性。

分片集群架构

一个 MongoDB 分片集群由以下三个核心组件构成：

分片 (Shard)
- 作用: 存储数据的单元。每个分片都是一个独立的 MongoDB 副本集，以保证其高可用性。
- 职责: 存储集合数据的一个子集（Chunk）。
查询路由 (Query Router / mongos)
- 作用: 客户端的入口。mongos 是一个轻量级的无状态进程，它接收客户端的请求，并将其路由到正确的分片上。
- 职责: 从配置服务器获取元数据，根据分片键将查询路由到目标分片，并聚合来自多个分片的结果返回给客户端。
配置服务器 (Config Server)
- 作用: 存储集群的元数据。这些元数据包含了数据在各个分片上的分布情况（哪个 Chunk 在哪个 Shard）。
- 职责: 管理集群的配置信息。从 MongoDB 3.4 开始，配置服务器必须部署为副本集（CSRS），以保证其高可用性。

分片键（Shard Key）

分片键是决定数据如何在各个分片之间分布的关键。选择一个好的分片键至关重要，它直接影响到分片集群的性能和效率。

分片键的选择策略

一个理想的分片键应该具备以下特征：

高基数 (High Cardinality): 分片键应该有大量可能的值，以便将数据均匀地分布到多个 Chunk 中。
低频率 (Low Frequency): 分片键的值应该被均匀地访问，避免出现热点数据（Hot Spot）。
非单调变化 (Non-Monotonic): 分片键的值不应随时间单调递增或递减，这会导致所有的写操作都集中在最后一个分片上。

分片策略

范围分片 (Ranged Sharding)
- 描述: 根据分片键的范围将数据分成不同的块（Chunk）。
- 优点: 对于基于范围的查询（如 find({ x: { $gt: 10, $lt: 20 } })）非常高效，因为 mongos 可以直接将查询路由到存储该范围数据的分片。
- 缺点: 如果分片键是单调变化的（如时间戳），容易导致写操作集中在单个分片上。
哈希分片 (Hashed Sharding)
- 描述: 计算分片键的哈希值，并根据哈希值的范围来分片。
- 优点: 能够将数据在各个分片之间均匀分布，保证了写操作的负载均衡。
- 缺点: 对于范围查询不友好，因为相邻的分片键值可能被哈希到不同的分片上，导致查询需要广播到所有分片。
标签感知分片 (Tag Aware Sharding)
- 描述: 允许管理员通过标签（Tag）将特定范围的数据块（Chunk）分配到特定的分片上。例如，可以将美国用户的数据放在位于美国的服务器上，以降低延迟。

Chunks 和 Balancer

数据块 (Chunk)

Chunk 是分片集合中一段连续的数据范围（基于分片键）。MongoDB 会试图保持 Chunk 的大小在一个可配置的范围内（默认为 64MB）。
当一个 Chunk 的大小超过配置值时，它会分裂成两个更小的 Chunk。

均衡器 (Balancer)

Balancer 是一个后台进程，它负责在各个分片之间迁移 Chunk，以确保数据在整个集群中均匀分布。
当某个分片的 Chunk 数量远多于其他分片时，Balancer 会自动启动，并将一些 Chunk 从最拥挤的分片迁移到最空闲的分片。
均衡过程会消耗 I/O 和网络资源，可以在业务高峰期临时禁用 Balancer。

实践操作

需求描述

构建一个完整的 MongoDB 分片集群，模拟电商平台的订单数据存储场景。该场景需要处理大量的订单数据，要求系统具备高可用性和水平扩展能力。通过实际操作来理解分片集群的部署、配置和管理过程。

实践细节和结果验证

# 1. 创建数据目录
mkdir -p /data/mongodb-sharding/{config1,config2,config3,shard1,shard2,mongos}

# 2. 启动配置服务器副本集 (CSRS)
# 启动三个配置服务器实例
mongod --configsvr --replSet configReplSet --port 27019 --dbpath /data/mongodb-sharding/config1 --fork --logpath /data/mongodb-sharding/config1.log
mongod --configsvr --replSet configReplSet --port 27020 --dbpath /data/mongodb-sharding/config2 --fork --logpath /data/mongodb-sharding/config2.log
mongod --configsvr --replSet configReplSet --port 27021 --dbpath /data/mongodb-sharding/config3 --fork --logpath /data/mongodb-sharding/config3.log

# 连接到配置服务器并初始化副本集
mongosh --port 27019
# 在 mongosh shell 中执行：
rs.initiate({
  _id: "configReplSet",
  configsvr: true,
  members: [
    { _id: 0, host: "localhost:27019" },
    { _id: 1, host: "localhost:27020" },
    { _id: 2, host: "localhost:27021" }
  ]
})

# 验证配置服务器状态
rs.status()
# 预期结果：显示三个配置服务器节点，其中一个为 PRIMARY，两个为 SECONDARY

# 3. 启动分片副本集
# 启动第一个分片
mongod --shardsvr --replSet shard1ReplSet --port 27022 --dbpath /data/mongodb-sharding/shard1 --fork --logpath /data/mongodb-sharding/shard1.log

# 启动第二个分片
mongod --shardsvr --replSet shard2ReplSet --port 27023 --dbpath /data/mongodb-sharding/shard2 --fork --logpath /data/mongodb-sharding/shard2.log

# 初始化分片副本集
mongosh --port 27022
# 在 mongosh shell 中执行：
rs.initiate({
  _id: "shard1ReplSet",
  members: [{ _id: 0, host: "localhost:27022" }]
})

mongosh --port 27023
# 在 mongosh shell 中执行：
rs.initiate({
  _id: "shard2ReplSet",
  members: [{ _id: 0, host: "localhost:27023" }]
})

# 4. 启动 mongos 查询路由
mongos --configdb configReplSet/localhost:27019,localhost:27020,localhost:27021 --port 27017 --fork --logpath /data/mongodb-sharding/mongos.log

# 5. 连接到 mongos 并添加分片
mongosh --port 27017
# 在 mongosh shell 中执行：
sh.addShard("shard1ReplSet/localhost:27022")
sh.addShard("shard2ReplSet/localhost:27023")

# 验证分片状态
sh.status()
# 预期结果：显示两个分片已成功添加到集群中

# 6. 为数据库和集合启用分片
# 启用数据库分片
sh.enableSharding("ecommerce")

# 为订单集合创建分片键并启用分片
sh.shardCollection("ecommerce.orders", { "customerId": 1 })
# 为订单集合创建分片键：哈希策略
#  sh.shardCollection("ecommerce.orders", {"customerId": "hashed"})

# 设置新的 chunk 大小（单位：MB）
db.settings.updateOne(
  { _id: "chunksize" },
  { $set: { value: 1 } },
  { upsert: true }
)

# 7. 插入测试数据
use ecommerce
for (let i = 1; i <= 100000; i++) {
  db.orders.insertOne({
    customerId: Math.floor(Math.random() * 1000) + 1,
    orderDate: new Date(2024, Math.floor(Math.random() * 12), Math.floor(Math.random() * 28) + 1),
    amount: Math.random() * 1000,
    products: ["product" + (Math.floor(Math.random() * 100) + 1)]
  })
}

# 8. 等待3min后，观察数据分布和均衡过程
##  partitioned: false 新版本已默认开启，可以忽略
sh.status()
# 预期结果：显示数据已分布到不同的分片上，可以看到 chunks 的分布情况

# 查看集合的分片信息
db.orders.getShardDistribution()
# 预期结果：显示每个分片上的文档数量和数据大小
sh.getShardedDataDistribution()
# 预期结果：显示每个分片上的数据库和集合的分布情况

# 9. 测试分片键查询性能
db.orders.find({customerId: 123}).explain("executionStats")
# 预期结果：查询只会路由到包含该 customerId 数据的特定分片

# 加速迁移
use config
db.settings.update(
  { "_id": "balancer" },
  { $set: 
    { 
    "_waitForDelete": false,
    "_secondaryThrottle": false,
    "writeConcern": { "w": "1" } 
    } 
  },
  { upsert: true }
)

8.8 KiB Raw Permalink Blame History Unescape Escape