Apache-Doris集群扩缩容迁移方案前置准备软件安装新机器安装部署好相同版本 doris 不启动域名解析新增为了客户端读写正常需要对VIP增加新节点的域名域名解析vip添加新机器例如原域名doris01.example.com、doris02.example.com、doris03.example.com新增域名doris04.example.com、doris05.example.com、doris06.example.com迁移顺序BEFE扩缩容迁移 BE 节点扩容 BE 节点在新机器上全新部署 3 个 BE新扩容的 3 个 BE 需要注册为新节点不要用旧数据删除旧元数据命令rm -rf /data/doris/data/datastorage;重新创建元数据目录mkdir -p /data/doris/data/datastorage;启动 BE su- doris;cd/home/doris/software/doris/be;shbin/start_be.sh--daemon注册 BE 节点连接集群/home/doris/software/mysql-client/bin/mysql-hdoris01-P9030-uroot-pbigdata123在 MysqlClient 中输入ALTERSYSTEMADDBACKENDdoris04:9050;ALTERSYSTEMADDBACKENDdoris05:9050;ALTERSYSTEMADDBACKENDdoris06:9050;查看新be节点是否添加且Alive trueshowproc/backends;缩容 BE 节点连接集群/home/doris/software/mysql-client/bin/mysql-hdoris01-P9030-uroot-pbigdata123使用DECOMMISSION方式删除旧 BE 节点在 MysqlClient 中输入ALTERSYSTEM DECOMMISSION backenddoris01:9050;ALTERSYSTEM DECOMMISSION backenddoris02:9050;ALTERSYSTEM DECOMMISSION backenddoris03:9050;当迁移完成后BE 节点自动下线旧 BE 进程不会自动杀死可使用命令停止su- doris;cd/home/doris/software/doris/be;shbin/stop_be.shDECOMMISSION 命令说明发起命令后会尝试将该 BE 数据迁移到其他节点上当迁移完成后BE 节点自动下线。数据搬迁完成后删除命令生效。根据集群现有数据量可能在小时到 1 天不等时间内。同时下线多个节点不会造成数据丢失。DECOMMISSION 执行后通过SHOW backends;看到该 BE 节点SystemDecommissioned状态为true表示节点正在进行下线DECOMMISSION 的进度可以通过SHOW PROC /backends;中的 TabletNum 查看如果正在进行TabletNum 将不断减少DECOMMISSION 可以通过CANCEL DECOMMISSION BACKEND be_host:be_heartbeat_service_port;命令例如ALTER SYSTEM DECOMMISSION backend doris01:9050;取消。可以调整balance_slot_num_per_path参数调整数据搬迁速率。扩缩容迁移 FE 节点扩容 FE 节点在新机器上全新部署 3 个 FE新扩容的 3 个 FE 需要注册为新节点不要用旧元数据删除旧元数据命令rm -rf /data/doris/data/doris-meta;重新创建元数据目录mkdir -p /data/doris/data/doris-meta;上线第一台 FE启动第一台新 FEsu- doris;cd/home/doris/software/doris/fe;shbin/start_fe.sh--helperdoris01:9010 --daemon;连接 FE 集群/home/doris/software/mysql-client/bin/mysql-hdoris01-P9030-uroot-pbigdata123将节点注册为 Follower FE在 MysqlClient 中输入命令ALTERSYSTEMADDFOLLOWERdoris04:9010;等它状态正常SHOWFRONTENDS;看到 Alive true, Role FOLLOWER 再继续。上线另外两台 FE启动另外两台新 FEsu- doris;cd/home/doris/software/doris/fe;shbin/start_fe.sh--helperdoris01:9010 --daemon;将另外两台也注册为 Follower FE在 MysqlClient 中输入命令ALTERSYSTEMADDFOLLOWERdoris05:9010;ALTERSYSTEMADDFOLLOWERdoris06:9010;查看3 台 FE 状态SHOWFRONTENDS;3 台新 FE 状态应为Alive true Role FOLLOWER Join true缩容 FE 节点先找到旧 master 如doris01节点 把另外两台旧 follower 如doris02、doris03节点下掉再下 master 节点找到 master 节点在新 FE 节点上连接集群/home/doris/software/mysql-client/bin/mysql-hdoris04-P9030-uroot-pbigdata123在新节点 MysqlClient 中输入SHOWFRONTENDS;找到值IsMaster true的节点即为旧 master 节点最后下线下线旧 follower 节点在新节点 MysqlClient 中输入ALTERSYSTEMDROPFOLLOWERdoris02:9010;查看状态SHOWFRONTENDS;等该 follower 节点状态消失再下另一台。ALTERSYSTEMDROPFOLLOWERdoris03:9010;下线旧 master 节点切换 master 到新机器不允许通过命令直接下线主节点需要将 master 切换到其他新机器上在旧 master 节点机器上执行命令停止 master fe su- doris;cd/home/doris/software/doris/fe;shbin/stop_fe.sh在新节点 MysqlClient 中查看此时 master 应该切换到新机器SHOWFRONTENDS;在新节点 MysqlClient 中输入命令下线旧 master 节点ALTERSYSTEMDROPFOLLOWERdoris01:9010;域名解析删除域名解析vip删除旧机器例如旧域名doris01.example.com、doris02.example.com、doris03.example.com
