UCloudExodus刘坚君UCloud资深数据库研发工程师200920122013201420172019阿里云PolarDB公测UCloudExodus公测AWS发布RDS服务阿里云推出RDSUCloud推出UDBAWSAurora公测公有云数据库发展-关键时间节点云数据库1.
0基于互联网包装和完善传统数据库软件云数据库2.
0基于用户需求特点以及公有云平台和技术,重新进化数据库软件和服务1.
云数据库1.
0的三个问题2.
UCloudExodus的解决之道云数据库1.
0的用户价值弹性:快速部署免运维故障救援:数据恢复慢查询参数调优知识复用:高可用架构读写分离分库分表问题1:容量和性能硬件成本SQL兼容性工程实现难度低硬件成本高SQL兼容性低硬件成本低工程实现难度低工程实现难度高SQL兼容性垂直升级中间件+MySQLNewSQL(Spanner/F1OceanBase等)问题2:用户成本用户的感受:贵我们的观察:云数据库资源近80%处于准空闲状态原因:1.
数据库是高频产品:新项目的开发、测试、上线、老项目的扩容2.
云数据库并非按需使用和计费3.
刚上线的新业务,峰值无法预估4.
衰退期的老项目无法缩容问题3:运营成本硬件成本:机型选型/TCO人力成本:分库分表&业务改造/支持故障救援运营风险:大数量备份/容灾失败UCloudExodus架构图1.
计算和存储分离.
计算层只做SQL解析、事务处理、数据修改等计算操作,真正的存储下放到了底层的分布式存储(UCloudUDisk)2.
计算层和存储层分别扩展3.
数据实时更新到对象存储4.
设计指标:十万级写QPS、百万级读QPS、100TB容量,MySQL100%兼容云数据库1.
0三大问题迎刃而解容量和性能1.
容量达100TB,写入延迟接近于本地SSD,单点写入达到10WQPS2.
针对大部分业务数据库读多写少的特点,增加只读实例实现读性能大幅提升3.
MySQL100%兼容4.
低硬件成本1.
存储容量和计算能力按需扩容,根据业务需求按需付费2.
多个业务的开发、测试环境可共用一套Exodus实例3.
新业务按量逐步扩容,老业务按使用量逐步缩容租用成本运营成本资源成本:计算机型和存储机型分开选型,成本大幅降低人力成本:MySQL100%兼容,无需分库分表、业务改造运营风险:数据实时备份、存储三副本冗余、计算节点秒级迁移UCloudExodus至少和业内发布的三款云数据库2.
0产品,在架构上是相似的.
而作为一家中立无巨头背书的云厂商,如果只是做一个产品和服务能力跟大厂差不多的产品,在市场上没有太大机会那么,UCloudExodus和竞品相比,还能够有什么区别(更大的价值点)更大的难题计算和存储分离架构SQL引擎事务引擎逻辑存储引擎物理存储引擎(分布式存储)SQL引擎事务引擎逻辑存储引擎MasterSlave计算和存储分离,其思路是把数据库的计算层(SQL+事务)和存储层(数据持久化)解耦,打开,各自独立扩展.
要实现高性能,需解决两个问题:1.
IO路径的问题:IO由本地IO变成网络IO,延迟增加吞吐量降低,IO如何优化2.
主从数据同步的问题:读性能的增加依赖于从节点的数量,主从数据如何高效同步,将是平衡可用性和数据一致性的重要问题AWSAurora:Shared-StorageIO路径的问题:1.
数据写入时(计算层到存储层),只写RedoLog不写page,存储节点根据RedoLog重演出page;同时避免Binlog、DoubleWrite写入,最终单事务平均IO为单机MySQL的1/7.
7主从同步的问题:将RedoLog写入到存储层的同时,同步RedoLog到从节点,从节点根据RedoLog更新缓存page,实现数据最终一致Shared-storage:存储层负责page重演、多副本一致性保证、故障恢复、备份还原等操作,包含大量数据库业务逻辑,是一个专门为数据库定制的分布式存储引擎AliyunPolarDB:Shared-DiskIO路径问题:采用最新软硬件技术(RDMA/NVMe/SPDK),对数据库IO路径做极致优化主从同步问题:事务提交时,同步Redolog地址到从节点,从节点从PloarStore加载redolog并刷新page缓存Shared-Disk:从目前公开的论文的资料看,底层存储PolarStore并不针对数据库的特殊逻辑,其作用本质上为一个分布式Disk,故将其归类为Shared-Disk范畴UCloudExodus:Shared-ALL-DiskIO路径的问题:更进一步1.
充分相信未来公有云的底层分布式存储,能提供低延迟(微秒级别)、高IOPS的产品.
2.
以此为出发点,改造传统数据库内核,打造适配大部分公有云平台的,大容量高性能数据库.
主从同步的问题:改造传统数据库内核,实现高性能的主从同步,增强Exodus的读处理能力.
公有云云平台1公有云云平台2UCloudExodus功能完备通用开源和行业做朋友和用户做朋友和时间做朋友技术方案Part1:IO路径问题分布式存储MySQL文件系统虚拟机宿主机Front-enddriverback-enddriverVIRTIOSPDK+RDMASQL引擎事务引擎存储引擎数据块/LOG分布式存储方案:基于MySQL+InnoDB,直接复用公有云分布式存储产品(如UCloud块存储产品UDisk)我们判断,未来云平台的底层的分布式存储产品,在Io路径上将实现极致优化,主流云平台底层分布式存储将实现微秒级延迟,百万级IOPS,足以支持高性能业务(如数据库)以UDisk为例,我们通过虚拟机->VIRTIO->宿主机->SPDK+RDMA->chunkserver的技术方案,已经测得100us的IO延迟,100W+IOPS技术方案Part2:IO路径问题SQL引擎事务引擎存储引擎保留:page/redolog/frm移除:binlog/doubleWrite/内部两阶段提交分布式存储把难题交给队友,押宝公有云产品的生长能力,不意味着我们在Io路径优化上毫无作为.
具体做法:1.
移除Binlog,主从同步采用redolog复制,下游系统数据同步根据归档日志(由redolog归档而来)反向生成binlog然后同步;2.
Binlog移除后,事务提交时内部两阶段提交亦可省去3.
基于分布式存储的原子写能力,有效去DoubleWrite技术方案Part3:主从同步问题SQL引擎事务引擎存储引擎分布式存储SQL引擎事务引擎存储引擎MasterSlaveRedoLogAddrViaBinlogChannelRedoLog/Page/Frm1.
借鉴:和大部分2.
0数据库一样,主从数据同步采用Redolog.
主从之间同步RedologAddr,从收到Addr之后再去底层存储拉取2.
创新:利用MySQL原有的机制,设计了一种简单可靠的Redolog
LightNode官网LightNode是一家位于香港的VPS服务商.提供基于KVM虚拟化技术的VPS.在提供全球常见节点的同时,还具备东南亚地区、中国香港等边缘节点.满足开发者建站,游戏应用,外贸电商等应用场景的需求。为用户带来高性能服务器以及优质的服务的同时还提供丰厚的促销活动,新用户注册最高送$20。注册用户带新客即可得10%返佣。商家支持PayPal,支付宝等支付方式。官网:https:/...
搬瓦工最近上线了一个新的荷兰机房,荷兰 EUNL_9 机房,这个 9 的编号感觉也挺随性的,之前的荷兰机房编号是 EUNL_3。这次荷兰新机房 EUNL_9 采用联通 AS9929 高端路线,三网都接入了 AS9929,对于联通用户来说是个好消息,又多了一个选择。对于其他用户可能还是 CN2 GIA 机房更合适一些。其实对于联通用户,这个荷兰机房也是比较远的,相比之下日本软银 JPOS_1 机房可...
UCloud优刻得近日针对全球大促活动进行了一次改版,这次改版更加优惠了,要比之前的优惠价格还要低一些,并且新增了1核心1G内存的快杰云服务器,2元/首年,47元/年,这个价格应该是目前市面上最低最便宜的云服务器产品了,有需要国内外便宜VPS云服务器的朋友可以关注一下。UCloud好不好,UCloud服务器怎么样?UCloud服务器值不值得购买UCloud是优刻得科技股份有限公司旗下拥有的云计算服...
虚拟主机mysql为你推荐
linux虚拟主机基于linux操作系统的虚拟主机控制面板有哪些?免费虚拟主机空间免费的虚拟主机空间有没有linux主机Linux中,用户名和主机名有什么区别?asp主机空间Asp空间是什么空间啊?跟有的网站提供的免费空间有什么区别吗?ip代理地址ip代理有什么用?免费域名空间求1个免费空间送域名那种成都虚拟空间成都市规划信息技术中心如何?虚拟主机软件谁知道这个虚拟机软件叫什么。合肥虚拟主机虚拟主机哪里买好一些?虚拟主机mysql在虚拟主机如何打开数据库?
tk域名注册 购买域名和空间 awardspace mach5 42u机柜尺寸 远程登陆工具 韩国网名大全 蜗牛魔方 韩国名字大全 jsp空间 刀片服务器的优势 服务器托管什么意思 四核服务器 江苏双线服务器 根服务器 双线asp空间 石家庄服务器托管 东莞主机托管 云服务器比较 酷锐 更多