1、便利蜂数据库运维自动化从0到1演进之路目录目录01 02 03萌芽期萌芽期突破期突破期迭代期迭代期2017.6 2018.22018.2 2018.102018.10 现在SQL变更、SQL查询、数据库高可用流程规范、备份监控、慢查询系统集群部署扩容、服务治理、容量管理目录目录01 02 03萌芽期萌芽期突破期突破期迭代期迭代期2017.6 2018.22018.2 2018.102018.10 现在SQL变更、SQL查询、数据库高可用流程规范、备份监控、慢查询系统部署扩容、服务治理、容量管理第一天数据丢失数据丢失innodb_flush_log_at_trx_commit=0备份监控CMDB
2、基石备份配置备份方法:XtraBackup保留策略:最近3个备份备份频率:2天压缩算法:LZ4备份系统1.生成任务2.获取任务1.中心节点生成备份任务2.中心节点CMDB备份节点备份节点执行备份任务3.中心节点应用备份日志4.中心节点压缩历史备份5.中心节点删除历史备份3 .执行任务MySQL Server备份邮件监控ZabbixOpen-falconDelta(graphit)流程规范01配置统一05开发规范02权限回收04组件收敛03变更流程慢查询系统慢查询系统Box Anemometor1.部署简单2.使用方便准实时:10分钟架构原理Slow logSlow logPt-query-de
3、gist100ms100mswebPt-query-degistPt-query-degistSlow log100ms报表邮件目录目录01 02 03萌芽期萌芽期突破期突破期迭代期迭代期2017.6 2018.22018.2 2018.102018.10 现在SQL变更、SQL查询、数据库高可用流程规范、备份监控、慢查询系统集群部署扩容、服务治理、容量管理SQL变更系统邮件审批工单系统自动化系统 标题不一 信息缺失 不够规范 编码问题 时间碎片 深夜变更 日变更20+方案选择方案二方案一变更流程小心drop index变更情况MySQL高可用MySQL高可用1.选择新Master2.调整复制
4、结构3.修改VIP/DNS4.业务重连恢复方案选择方案优点缺点组件Proxy-basedAtlasCetus语言无关业务透明访问链路长可控难度大Client-based语言相关(java业务代码侵入TDDLZebra业务直连灵活度大)最终方案Client-basedMySQL HA(WDDL)(MHA)高可用架构123API接口复制方案ORPosition-based ReplicationGTID-based Replication线上测试集群推广上线STEP 1 组织分享&文档APPS 800+DBS 400+STEP 2 基础组件业务吃螃蟹STEP 3 新上线业务使用WDDLSTEP 4
5、 DB维度分期推进STEP 5 GIT仓库配置扫描遗漏应用SQL查询系统解决方案数据库平台1.查询权限控制2.账号命名规则3.MySQL命令监控Query机APPServersMySQL cliMySQL cliMySQLMySQLMySQL查询界面1243查询情况目录目录01 02 03萌芽期萌芽期突破期突破期迭代期迭代期2017.6 2018.22018.2 2018.102018.10 现在SQL变更、SQL查询、数据库高可用流程规范、备份监控、慢查询系统集群部署扩容、服务治理、容量管理0102安装部署集群扩容05040603 库表信息03070405060708容量管理服务治理02010809备份管理数据导出查询日志09 数据归档服务端SQL响应时间(performance_schema=ON)