P38

  Hadoop 技术讲解 文档

主要内容Hadoop项目简介 HDFS体系结构 HDFS关键运行机制 Hadoop VS.Google(分布式文件系统) Hadoop API Hadoop环境搭建 3. Hadoop项目简介Apache的解决方

xiexiantao 2012-06-20   2317   0
P38

  Hadoop项目简介 文档

主要内容Hadoop项目简介 HDFS体系结构 HDFS关键运行机制 Hadoop VS.Google(分布式文件系统) Hadoop API Hadoop环境搭建 3. Hadoop项目简介Apache的解决方

451237450 2011-11-10   4302   0
P38

  Hadoop 技术讲解 文档

主要内容Hadoop项目简介 HDFS体系结构 HDFS关键运行机制 Hadoop VS.Google(分布式文件系统) Hadoop API Hadoop环境搭建 3. Hadoop项目简介Apache的解决方

ning042712 2012-12-03   498   0
P38

  各公司服务器架构 文档

用相应的框架进行开发后,即可做到对外统一界面、统一运维管理、统一报表展示等;也包括分布式缓存、分布式文件系统分布式数据库等通用技术,上层应用可以根据自己的需要使用相应的API就可以使用到这些通用技术。

lxhoyxc 2014-05-05   3818   0
P4

  Google 架构学习 文档

  目前在Google有超过200个GFS集群。一个集群可以有1000或者甚至5000台机器。成千上万的机器从运行着5000000000000000字节存储的GFS集群获取数据,集群总的读写吞吐量可以达到每秒40兆字节

daibiao 2012-06-13   6192   0

谷歌三大核心技术(一)Google File System中文版 经验

我们设计并实现了Google GFS文件系统,一个面向大规模数据密集型应用的、可伸缩的分布式文件系统GFS虽然运行在廉价的普遍硬件设备上,但是它依然了提供灾难冗余的能力,为大量客户机提供了高性能的服务。 虽然GFS的设计目

fmms 2012-02-09   406182   0

PayPal高级工程总监:读完这100篇论文 就能成大数据高手 资讯

: 关键架构层 图 1:大数据处理的关键架构层(点击图片可看大图) 文件系统层: 在这一层里,分布式文件系统需具备存储管理、容错处理、高可扩展性、高可靠性和高可用性等特性。 数据存储层:

jopen 2015-07-07   40256   0
P12

  Google 云计算平台架构 文档

(Google file system 简称GFS) 数据管理技术 (Big Table ) 编程模型 (Map—Reduce) 4. 数据存储技术(GFS) 网页搜索业务需要海量的数据存储,同时还需要满足高可用性、高可靠性和经济性等

doc5dx 2012-10-17   17978   0
P25

  Google File System 中文说明 文档

System,一个适用于大规模分布式数据处理相关应用的,可扩展的分布式文件系统。它基于普通的不算昂贵的硬件设备,实现了容错的设计,并且为大量客户端提供极高的聚合处理性能。 我们的设计目标和上一个版本的分布式文件系统有很多相

f0xf0x 2013-11-21   2604   0

谷歌技术"三宝"之MapReduce 博客

江湖传说永流传: 谷歌技术有"三宝",GFS、MapReduce和大表(BigTable)! 谷歌在03到06年间连续发表了三篇很有影响力的文章,分别是03年SOSP的 GFS ,04年OSDI的MapRe

openkk 2012-05-04   5497   0
P51

  自己动手写网络爬虫(二) 文档

分布式爬虫 分布式爬虫 第2章 分布式爬虫 随着互联网技术的发展以及风起云涌的云计算浪潮。爬虫技术也逐渐向着分布式方向发展。比如,Google的爬虫就是使用成千上万台小型机和微机进行合作,完成分布式

Wyh_D_Void 2011-05-23   890   0

Etcd v3.0.14 发布,一个分布式环境下的 key/value 存储服务 资讯

Etcd 是一个应用在分布式环境下的 key/value 存储服务。利用 etcd 的特性,应用程序可以在集群中共享信息、配置或作服务发现,Etcd 会在集群的各个节点中复制这些数据并保证这些数据始终正确。Etcd

jopen 2016-11-06   5825   0

亚马逊发布分布式跟踪服务“AWS X-Ray”的预览版本 资讯

在美国拉斯维加斯举行的 AWS re:Invent 2016 大会上,亚马逊发布了一款名为 AWS X-Ray 的分布式跟踪服务,它目前处于预览版本,能够在 AWS 的 12 个公开 Region 中使用。AWS X-Ray

jopen 2016-12-14   19891   0

Etcd v3.1.5 发布,一个分布式环境下的 key/value 存储服务 资讯

Etcd 是一个应用在分布式环境下的 key/value 存储服务。利用 etcd 的特性,应用程序可以在集群中共享信息、配置或作服务发现,Etcd 会在集群的各个节点中复制这些数据并保证这些数据始终正确。Etcd

jopen 2017-03-27   8694   0

针对分布式系统(例如云计算等)设计的可扩展监控系统:GangLia 简介 经验

Ganglia是一个针对高性能分布式系统(例如,集群、网格、云计算等)所设计的可扩展监控系统。该系统基于一个分层的体系结构,并能够支持 2000个节点的集群。它允许用户能够远程监控系统的实时或历史统计

fmms 2012-04-02   70564   0

Codis作者黄东旭细说分布式Redis架构设计和踩过的那些坑们 经验

Codis在生产环境中的使用的经验和坑们; 对于分布式数据库和分布式架构的一些看法; Q & A环节。 Codis是一个分布式Redis解决方案,与官方的纯P2P的模式不同,Codis

jopen 2015-07-08   464071   0

豌豆荚分布式redis设计与实现-刘奇(豌豆荚资深系统架构师) 经验

。我们做第一个版本花了一周的时间,但是我们之前想的比较多,大概想了两周的时间,为什么呢?因为这个分布式系统是比较复杂,而且在我们这个之前是没有能够扩容的方案的,我们要做的就是第一个,那第一个就是你要考

jopen 2014-12-30   74809   0

本文主要介绍在一个分布式系统中, 怎么样生成全局唯一的 ID 经验

一, 问题描述 在分布式系统存在多个 Shard 的场景中, 同时在各个 Shard 插入数据时, 怎么给这些数据生成全局的 unique ID? 在单机系统中 (例如一个 MySQL 实例)

jopen 2015-12-17   11546   0

基于阿里企业级分布式应用服务(EDAS)的敏捷服务开发与架构实践 经验

8月30日~31日2016蚂蚁金服&阿里云在线金融技术峰会拉开帷幕,阿里云中间件技术部资深专家沈询带来了“基于阿里企业级分布式应用服务(EDAS)的敏捷服务开发与架构实践”的重要演讲。 本文主要从高速增长的阿里业务开始谈

Twitter分布式高性能日志复制服务 Distributedlog v0.3.51-RC1 发布 资讯

一致性的功能,这对于构建可靠的分布式系统都是至关重要的,如复制状态机(replicated-state-machines)、通用的发布/订阅系统、分布式数据库以及分布式队列。 下载 Downloads

jopen 2016-05-31   6531   0
1 2 3 4 5 6 7 8 9 10