分布式存储推荐论文

jopen 7年前

The Google File System. Sanjay Ghemawat, Howard Gobioff, and Shun-Tak Leung。 基于普通服务器构建超大规模文件系统的典型案例,简单实用, 是google的重要基础设施,大数据的基石, 主要面向大文件和批处理系统。 主要技术特点包括: 假设硬件故障是常态, 64MB大块, 单Master设计,Lease/链式复制, 重点支持追加写。

Bigtable: A Distributed Storage System for Structured Data. Fay Chang, Jeffrey Dean, Sanjay Ghemawat, et. 支持PB数据量级的多维非关系型大表, 在google内部应用广泛,大数据的奠基作品之一 , Hbase就是仿照BigTable设计。 Bigtable的主要技术特点包括: 底层存储使用GFS, 使用非原地更新技术实现数据修改, 采用range分区等。

Spanner: Google’s Globally-Distributed Database. James C. Corbett, Jeffrey Dean, et. 第一个用于大规模产品的, 高可用,跨数据中心,支持事务的分布式数据库。 主要技术特点包括, 基于GPS和原子钟全球同步时间TrueTime, Paxo, 多版本事务。

PacificA: Replication in Log-Based Distributed Storage Systems. Wei Lin, Mao Yang, et. 支持强一致的log-based存储的主从复制协议, 具有实用性, 能加深对主从强一致复制的理解程度。 技术特点: 支持强一致主从复制协议, 允许多种存储实现, 分布式的故障检测/Lease/成员管理方法。

Object Storage on CRAQ, High-throughput chain replication for read-mostly workloads. Jeff Terrace and Michael J. Freedman. 支持强一直的链式复制方法, 支持从多个副本读取数据。

Ceph: Reliable, Scalable, and High-Performance Distributed Storage. Sage A. Weil. 功能强大的开源海量存储系统, 支持文件系统、块设备、以及S3接口。 主要技术特色: CRUSH数据对象定位算法, 基于动态子树的文件系统元数据管理。

Finding a needle in Haystack: 非死book’s photo storage. Doug Beaver, Sanjeev Kumar, Harry C. Li, Jason Sobel, Peter Vajgel. 非死book分布式Blob存储, 主要用于存储图片。 主要技术特色: 小文件合并大文件, 小文件元数据放在内存读写只需一次IO。

Windows Azure Storage: A Highly Available Cloud Storage Service with Strong Consistency. Brad Calder, Ju Wang, Aaron Ogus, Niranjan Nilakantan, et. 微软的分布式存储平台, 支持S3对象存储、表格、队列等数据模型。 主要技术特点: 类似BigTable Stream/Partition两层设计;写错(写满)就封存Extent, 使得副本字节一致, 简化了选主和恢复操作; 将S3对象存储、表格、队列、块设备等融入到统一的底层存储架构中。

The Chubby lock service for loosely-coupled distributed systems. Mike Burrows. 高可用、可靠的分布式锁服务, 可用于实现选主加锁等功能, ZooKeeper就是根据此论文实现。 主要技术特点: 将paxo协议封装成文件系统接口, 高可用、高可靠,但是不保证性能。

Paxos Made Live – An Engineering Perspective. Tushar Chandra, Robert Griesemer,Joshua Redstone. Paxo在chubby中的工程应用论文, 是理解Paxo协议, 及其应用场景的必备论文。 主要技术特点: paxo协议, replicated log, multi-paxo。

Dynamo: Amazon’s Highly Available Key-Value Store。 Giuseppe DeCandia, Deniz Hastorun, Madan Jampani, et. 高可用的kv系统, 主要技术特点:综和运用一致性哈希,vector clock, 最终一致性构建一个高可用的kv系统, 可应用于amazon购物车场景。