在MySQL和PostgreSQL之外,为何阿里要研发HybridDB数据库?

jopen 3年前
   <p style="text-align: center;"><a href="/misc/goto?guid=4958989277964147997" title="阿里巴巴"><img alt="在MySQL和PostgreSQL之外,为何阿里要研发HybridDB数据库?" src="https://simg.open-open.com/show/224683e6897a5f1c496b95b998984980.png" /></a></p>    <p>在大数据火遍 IT 界之前,大家对数据信息的挖掘通常聚焦在 BI(Business Intelligence)之上。BI 具有着明确的分析需求,清晰地知道需要处理哪些信息,并且如何最终获得多维度的 SQL 类型数据,这种多维度的分析对应的是 OLAP 处理技术。在实际商业分析应用中,公司复杂信息模型、多样化的分析需求会给数据库带来极大的技术挑战。</p>    <p>对于阿里而言,实现 OLAP、进行在线大规模并行处理,是一个无法规避的技术问题。为此,阿里云研发了 HybridDB 方案,它基于数据库 Greenplum 的开源版本,并且吸收 PostgreSQL 精髓。那么为什么会有 HybridDB 的诞生?它经历了怎样的研发历程?它的应用场景和情况是怎样的?带着这些问题,InfoQ 对阿里云的数据库专家兼 Postgres 中国社区/中国用户会主席萧少聪先生进行了采访,以下文字整理自采访文稿。</p>    <p><strong>先来讲讲 OLTP 和 OLAP</strong></p>    <p>数据库领域中大家经常会看到两个词:OLTP 及 OLAP。</p>    <p>举例说明,比如进行一次交易,资金从A帐户转帐到B帐户,这整个过程就是一次交易事务。如果过程中有任何系统错误,交易会回滚A帐户中的金额都回恢到操作前的状态,这就是 On-Line Transaction Processing 联机事务处理过程(OLTP)的操作。在 OLTP 场景中用户并发操作量会很大,要求系统实时进行数据操作的响应,在查询时往往也是只会检索一条或几条明确的目标数据,以实现用户的业务交互。</p>    <p>OLAP 意思是 On-Line Analytical Processing 联机分析处理,顾名思义就是主要针对于数据的分析汇总操作。如我们的业务系统中每天都需要出销售日报,这个操作需要对当天所有数据进行汇总,并需要进行计算,以得到全天收入、产品销售排名、分时段的销售量,甚至与过去 30 天及去年当天进行对比,这样的操作都属于 OLAP。</p>    <p>业界早期使用数据时,尤其是 OLTP 场景下,通常选择非分布式的关系型数据库,如 MySQL、SQLServer、Oracle、PostgreSQL 即可满足大部份的需求。</p>    <p><strong>OLAP 中主流数据库遭遇瓶颈</strong></p>    <p>从技术角度而言,OLAP 场景,不仅涉及的数据量大而且要求分析的结果实时返回,对应的 SQL 查询十分复杂。如何做到技术性能和业务功能权衡,对于数据库而言是一个重大考验。</p>    <p>已有的两个主流开源数据库,MySQL 和 PostgreSQL 都是针对 OLTP 环境的,在 OLAP 在线分析需求下它们的性能明显不足。特别是 MySQL 在大规模分析操作时多表 Join 的性能是当前互联网用户的一大痛点。</p>    <p>在 OLAP 发展的早期,其操作并没有专门的数据库支撑,直接就与 OLTP 业务放在同一个数据库中完成。但随着业务量的增加,OLAP 每次要分析的数据量越来越大,这样的分析操作执行时就会导致数据库的业务交易下降。因此业界开始将 OLTP、OLAP 拆分成两套不同的数据库进行处理,OLTP 数据库中的数据通过 ETL 软件持续或定期抽取到 OLAP 数据库,让业务交易与报表分析进行分离。</p>    <p>而新的问题很快又到来了,联互网爆发后数据量也激增,OLTP 的业务库可以保存比较少的数据量如 3 个月到半年,但 OLAP 的数据量将可能要保存几年甚至更多。单台服务服务的性能上限已经无法满足 OLAP 分析数据持续增加所带来的压力,因此催生出如阿里 HybridDB 这样的大规模并行处理(Massive Parallel Processing,MPP)分布式 OLAP 数据库。</p>    <p><strong>新的分布式 OLAP 数据库</strong></p>    <p>在提供 HybridDB 方案之前,我们会给用户提供如分库分表等处理方案,但这样的方案对于 SQL 查询内容不确定的 OLAP 业务并不友好。当用户需要进行多个数据表的组合操作时,由于数据需要跨服务器进行大规模的聚合,性能十分低下。这个问题在 HybridDB 中也同样会出现,所幸的是,Greenplum Database 开源项目中借助平行的数据扩展技术及 interconnect 的专用协议,通过自定义的网络协议有效地解决了网络瓶颈的问题。这也是我们选择基于 Greenplum Database 开源项目的原因之一。</p>    <p>简单来说,MPP 是一种平衡的性能扩张模型。以 HybridDB 的模型为列,每个节点可存放的数据量及计算能力为 1Core / 8GB Mem / 80GB SSD(即将开放 500GB HDD 版本),如果用户 80GB 以内的数据在这样的计算单元中,可以在毫秒内查询出结果,那将数据计算能力及容量平衡扩展到上百 TB 甚至 PB 时,用户查询“等比”数据量时依然可以达到毫秒级别。</p>    <p>MPP 分布式 OLAP 数据库系统架构已经发展了有 10 多年之久,十分成熟,当前使用这类系统的企业都是中大型公司。OLAP 是一个很大的市场,有别于如同 EMR (Hadoop)的大数据分析市场,它要求海量数据的 SQL 查询在几分钟、几秒,甚至毫秒级返回结果,因此对于服务器、网络及数据库软件本身的架构都提出了很高的要求。</p>    <p><strong>技术攻坚之路</strong></p>    <p>阿里一直都在使用并研究 OLAP,实际上在 2009 年左右开始使用 Greenplum,如果没有记错,那个时候的规模应该是国内甚至全亚洲最大的 GPDB 集群。</p>    <p>研发之路并不是一帆风顺,甚至一度突围失败。一方面,彼时 Greenplum 还处在萌芽期,只发布了 4 年。另一方面,Greenplum 没有开源,既无法掌握更为深入的资料,又不得不考虑价格因素。你可以想象阿里所在行业对于数据可靠性的要求以及规模量,使得对于数据库的选择会有多个维度的考虑。</p>    <p>不过早期的经历还是给我们留下了宝贵的经验。当年的很多运维经验我们都进行了收集,并在现有平台中变成了我们的监控项,通过自动化运维的手段进行资源调配及故障预警,这对我们平台的稳定性提供了很重要的经验。同时针对以前遇到的很多让我们技术同学不理解的原理性问题,通过 Greenplum Database 的源代码我们进行了重点分析,并找到了问题的答案。有很多之前遇到过的问题,通过源码可以明确发现已经由厂商进行了修复,而有一些问题可能与我们的业务场景有关,结合源码我们也进行了内核的优化。</p>    <p>2015 年 10 月 Greenplum Database 由 Pivotal 开源后,阿里云 PostgreSQL 内核团队便开始进行深度的调研,于 2016 年开始进行产品的研发工作,到今年 7 月份我们对用户开放了公测邀请并准备正式商业化的工作。</p>    <p>为什么选择基于 Greenplum?主要有三点考虑:</p>    <ol>     <li>生态:基于 10 年商业数据库建立的生态是宝贵的财富,让用户的使用变得更为便捷。</li>     <li>成熟:经过我们深度的压力测试(过程还是十分暴力的,在此不表^_^),我们验证了 Greenplum 本身的稳定性,同时 GPDB 提供丰富的 SQL 支持、编程接口易于进行扩展,这些都体现了她的成熟度。</li>     <li>开源:只有掌握源码才可以协助用户最快地解决问题,同时 Greenplum 基于 PostgreSQL,基于这一点,用户可以使用统一的 PostgreSQL 的 JDBC 或 .NET 驱动开发 OLTP 及 OLAP 的软件,减少不同数据库协议之间的学习成本及研发复杂度。</li>    </ol>    <p><strong>揭秘 HybridDB 方案</strong></p>    <p>HybridDB 基于开源 Greenplum Database (内核实际上就是 PostgreSQL)项目的 MPP 分布式数据仓库,与 PostgreSQL 不同,HybridDB 可以实现横向扩展,提供用户需要的百 GB 到百 TB 的高性能分析能力。</p>    <p>接下来结合项目说明实际应用。</p>    <p>我们有一个广告行业的用户,他们给用户提供线上的数据分析业务,同时也会将他们的产品进行线下私有环境的软件售卖。每天他们都需要进行过亿数据的汇总分析,增量数据也都在千万级别,当前通过使用 HybridDB 进行他们线上业务的支持。一些单表的查询在毫秒级别就可以输出结果,而很多需要多表 Join 的复杂查询也在数秒内就会有结果返回。同时这个用户给 HybridDB 提出 HyperLogLog 的功能需求后,我们在 2 周内就给予了这个功能的支持,使得用户在进行数据预估分析的操作性能提高几十倍。与此同时用户线上使用 HybridDB 开发的产品,也可以十分便捷地运行在线下的开源或商业版本的 Greenplum 上,避免了在不同数据库平台上需要重新开发应用系统的工作量。</p>    <p>在阿里云官网上,HybridDB 归结在 “数据库” 和 “分析” 两个类目。阿里内部已经有业务开始使用 HybridDB ,主要是看重它对 SQL 的丰富支持,同时可以支持 GIS 数据类型及基于事务一致性的存储过程。</p>    <p style="text-align:center"><img alt="在MySQL和PostgreSQL之外,为何阿里要研发HybridDB数据库?" src="https://simg.open-open.com/show/ff5e81d3fa6fcac3e439de2c67cd54f7.png" /></p>    <p>HybridDB 最大的三个特色:</p>    <ol>     <li>基于成熟的 GPDB 及 PostgreSQL 生态,软开发合作伙伴进行一次软件开发,即可在云上云下同样使用,免去迁移的烦恼,更容易实现混合云中的数据分析支持。</li>     <li> <p>支持多种混合数据类型(多达 23 种)的 SQL 统一查询,包括:</p> <p>传统数据类型:字符、数字、浮点、日期等;</p> <p>非结构化数据:JSON、XML;</p> <p>特殊功能数据类型:GIS 地理信息数据、IPv4/v6 网络数据、HyperLogLog 预估分析数据。</p> </li>     <li>支持混合的数据存储,包括:行存、列存、SSD/HDD 本地存储、OSS 云存储,未来更将支持“存储计算分离”,用户可以更为灵活在进行资源的购买及分配。</li>    </ol>    <p>那么,HybridDB 在 OLAP 读取中都做了哪些优化?</p>    <p>优化方面从引擎底层我们针对阿里云的硬件及网络特点,进行的源码级别的深度优化,特别是在网络调度上进行了针对性的处理,提高跨网络数据节点的吞吐能力。同时在用户业务层中对特殊数据类型进行扩展,如果物联网中的 JSON 数据类型是 Greenplum Database 所不支持的,HybridDB 通过直接支持这一数据类型,避免用户自行进行非结果化的解析,同时提供基于函数的 JSON 属性级索引,提高数据库处理 JSON 的检索性能。</p>    <p><strong>除此之外,HybridDB 还有哪些新意?</strong></p>    <p>HybridDB 是云上的数据仓库,用户如果在自己的私有环境中进行类似架构的部署,将需要富有经验的架构师进行完整的规划,同时还要聘用高水平的技术团队进行持续管理。因为如果系统出现故障无法提供服务,将很可能影响到企业的决策分析,对于以数据分析的基础的企业甚至会导致业务中断,通过使用云数据库 HybridDB 将免除这些烦恼。</p>    <p>将 MySQL 和 PostgreSQL 数据导入到 HybridDB 的这个流程实际上并没有很深的数据难度,因为 MySQL 和 PostgreSQL 都支持基于的逻辑日志,我们只需要进行解析并入库就可以了。在数据导入方面,我们借助 OSS 分布式数据存储的能力,实现了多计算节点的并行导入,每个计算单元(1Core/8GBMem 为一个计算单元)可以达到接近 20MB/s的数据导入,如果用户构建出一个 64 节点的 HybridDB 集群将可以达到 1GB/s的数据导入能力。在我们的实际用户使用中,已经有用户通过这个方法在 4 分钟内导入了 4 亿条数据。</p>    <p>另一方面 HybridDB 还支持将数据存放到 OSS 云存储,实现廉价的数据存储方案,为用户节省更多成本。</p>    <p><strong>数据存储</strong></p>    <p><strong>1、本地存储</strong></p>    <p>HybridDB 的本地存储分为行储存和列存储两种方式。行存储和列存储各有长处。行存适合于近线数据的分析,特别是要求查询结果返回表中某几跳符合条件记录的所有字段的情况。列存适合用于数据的统计分析。</p>    <p>那么两者的适用情况是怎样的呢?举例说明:在行存的情况下,如果一个用于存放用户的表中有 20 个字段,但我们只要统计用户年龄的平均值,这时数据库要对用户表进行全表扫描,遍历所有行的所有数据;但如果使用列存,数据库只要定位到这一列,然后只扫描这一列的数据就可以得到所有的结果,性能上相比列存理论上就会直接快 20 倍,加上 HybridDB 将数据分布式存储到多个计算节点,性能将再次提高几倍,达到 100 倍性能提升是十分常见。</p>    <p>HybridDB 是混合两者搭配使用的。用户可以配搭进行使用,定义不同的表使用不同的存储方式,让用户适应不同的业务场景,并进行数据生态周期的管理。如 6 个月内的数据可能要经常获取全行数据,因此使用行存储,6 个月后的数据通过列存储进行保存提高分析汇总操作的查询性能。</p>    <p><strong>2、外部存储</strong></p>    <p>高性能的数据分析是在本地存储完成的。OSS 作为外部存储,HybridDB 可以将 OSS 中的 CSV 格式化文本作为外部表进行数据查询,同时还可以对这些外部表进行写入操作。写入到 OSS 的数据可以提供给 RDS for PostgreSQL 或 EMR 等云数据库服务进行读取及处理,因此也同时实现了数据的无缝打通。</p>    <p>同时我们也将支持“存储计算分析”的模型,在这样模型上我们平时甚至可以只通过 OSS 进行数据的存储,当需要进行计算时再开启足够的计算节点进行数据分析处理,计算处理结束后关闭计算节点资源以节省使用成本。</p>    <p style="text-align:center"><img alt="在MySQL和PostgreSQL之外,为何阿里要研发HybridDB数据库?" src="https://simg.open-open.com/show/19161807496a1b7db7462aea5f012097.png" /></p>    <p><strong>HybridDB 的幕后故事</strong></p>    <p><strong>1、扎根社区</strong></p>    <p>当前我们基于开源版本的 Greenplum Database,同时我们也会进行一些功能的添加及性能稳定性上的优化工作,我们也会逐步进行对开源社区的更多的贡献,如当前我们就已经开源了支持 Greenplum、PostgreSQL 及 HybridDB 的数据同步工具 dbsync (<a href="/misc/goto?guid=4958996335500680832">https://github.com/aliyun/rds_dbsync)</a>,有兴趣的读者可以下载测试及使用。</p>    <p>在 Greenplum Database 的开源社区我们会有很多的合作,甚至我们已经在向开源社区提交新功能及 patch。同时 Greenplum 也是 PostgreSQL 开源数据库生态重要的力量,我个人同时作为 PostgreSQL 中国社区及用户会的主席也当然会进行更多线上线下活动的支持。</p>    <p><strong>2、商业合作</strong></p>    <p>Greenplum 背后的公司是 Pivotal。所以同时也与 Pivotal 有更多的商业合作。阿里也会与 Pivotal 方面进行持续的接触,相信我们会有机会碰出绚丽的火花。</p>    <p><strong>写在最后</strong></p>    <p>长期以来国外开源社区都认为中国用户仅仅使用开源软件,但是贡献甚少。不过,随着阿里的发展,我们已经开始反哺开源社区并共同建立生态。几个月前,AliSQL 的开源说明了阿里对开源业界的支持。HybridDB 同样如此,虽然我们的版本才刚刚发布,但在版本研发的过程中已经开始向社区共享代码。</p>    <p>阿里云当前支持云数据库 HybridDB,暂时没有计划去支持私有环境的 Greenplum 数据库。不过我们团队的大神德哥,会继续贡献他在使用 Greenplum 的经验心得。希望对大家有所帮助。</p>    <p>用户在线下可以使用 Greenplum 的开源数据库版本或商业版本,据我所了解也已经有很多数据库服务商开始提供 Greenplum 的技术支持,使用这个数据库的用户不需要再担心未来上云迁移的问题。同时,我们也会在未来结合 PostgreSQL 及 HybridDB 提供一系列的使用教学视频,让用户更快速地掌握产品的正确使用场景及方法。</p>    <p><strong>作者简介</strong></p>    <p>萧少聪,Postgres 中国社区/中国用户会主席,阿里云计算有限公司 ApsaraDB 云数据库产品专家。红帽认证 RHCA 架构师/EDB 认证 PostgreSQL 数据库专家,参与的著作有《Linux 系统案例精解》、《深入理解大数据》。在阿里主要负责 PostgreSQL 数据库产品线。拥有多年开发、架构设计及项目管理经验,专注于开源 Linux 系统管理及 Postgres 数据库、优化、集群系统、云架构设计。</p>    <p>来自: <a href="/misc/goto?guid=4958996335587223459" id="link_source2">InfoQ</a></p>