浅谈分布式消息技术 Kafka 经验

Kafka的基本介绍 Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx日志

wgpd9383 2017-07-26   17443   0

CAP 理论与分布式系统设计 经验

CAP 和 分布式系统的讨论和研究很多,但我认为这一篇肯定给大家带来不一样的收获,欢迎留言讨论。 Author Taosheng  Shi WeChat  Contact data-lake

基于Redis的开源分布式服务Codis 资讯

ng==》单个Twemproxy==》多个 Twemproxy==》Codis,豌豆荚自己开发的分布式Redis服务。在大规模的Redis使用过程中,他们发现Redis受限于多个方面:单机 内存有限、

jopen 2015-02-02   18695   0
Codis  
P5

  分布式文件系统综述 文档

xiaoyongli@sjtu.edu.cn 海量存储与安全实验室 上海交通大学 2009年11月 分布式文件系统均为Client/Server架构。数据保存在服务器端,而客户端的应用程序能够像访问本地文

zhuys 2013-03-17   3130   0
P56

  10 分布式对象体系 文档

分布对象处理技术---发展趋势 9.6 分布对象主流技术开发过程 1 2. 9.1 分布对象技术要解决的基本问题以下情况是不是分布式? 1、浏览 2、两个及其之间的通信 3、计算引擎 2 3. ?B机A机就是支持访问异地对象同一地址空间C++编译器完成连接

panyong15 2014-01-06   1467   0
Java开发   HTTP   Java   Perl   C/C++  

ZooKeepe分布式系统协调 开源项目

ZooKeeper是Hadoop的正式子项目,它是一个针对大型分布式系统的可靠协调系统,提供的功能包括:配置维护、名字服务、分布式同步、组服务等。ZooKeeper的目标就是封装好复杂易出错的关键服务

码头工人 2019-01-17   594   0
P28

  zookeeper分布式协同 文档

1. zookeeper分布式协同 2. 目录CONTENTS01 / 自身特性02 / 应用案例03/ 分布式系统概论 3. 01 / 自身特性-初识zookeeperWhat is zookeeper

summerwild 2018-01-24   760   0
Java  
P28

  高性能和分布式计算 文档

1. 高性能和分布式计算 林小拉 linxl@mail.sysu.edu.cn 中山大学信息科学与技术学院 2. 内容提要分布式计算和分布式系统 P2P计算 云计算和网格计算 传感器网络和物联网 3.

萧萧若水 2011-10-30   6695   0

海量文件的分布式计算处理方案 博客

Hadoop 是Google MapReduce的一个Java实现。MapReduce是一种简化的分布式编程模式,让程序自动分布到一个由普通机器组成的超大集群上并发执行。就如 同java程序员可以不考虑内存泄露一样,

Hadoopp 2012-09-28   803   0

分布式系统,你真的了解吗? 经验

承载量是分布式系统存在的原因 当一个互联网业务获得大众欢迎的时候,最显著碰到的技术问题,就是服务器非常繁忙。当每天有1000万个用户访问你的网站时,无论你使用什么样的服务器硬件,都不可能只用一台机

分布式ID生成方法 经验

为了解决上述两个问题,引出了第二个常见的方案 【常见方法二:单点批量 ID 生成服务】 分布式系统之所以难,很重要的原因之一是“没有一个全局时钟,难以保证绝对的时序”,要想保证绝对的时序,还是

hanxiaola 2016-02-22   19338   0

分布式团队工作的乐趣与好处 资讯

当我说我们是一个分布式团队时,我是指我们确实分布在整个地球上。Buffer 团队现在有 25 人,下面是 团队成员的位置图 。 分布式是如此快乐的 6 个原因 我认为分布式团队经常关注在挑

jopen 2014-07-23   7228   0

分布式云端机器学习 资讯

普遍需求。随着数据量的剧增,分布式储存已成为必然趋势。在许多应用中,收集数据本身就是一个 分散的过程,自然导致了分布式的数据储存。这种情况下,建立起以分布式计算处理分布式数据的机器学习(以下简称“ML”)方案就十分必要。这些方案包括:

jopen 2015-06-03   14644   0

用于处理分布式数据 - COOPY 经验

COOPY 是一组工具包用于处理分布式数据,支持数据比较、补丁、合并以及版本控制,支持数据格式包括:CSV, Excel, MySQL, Sqlite 等等 项目主页: http://www

openkk 2012-02-15   17151   0

分布式文件系统介绍( MooseFS ) 经验

MooseFS 系统简介 MooseFS 是一个高容错性的分布式文件系统,它能够将资源分布存储于几台不同的物理介质,对外只提供给用户一个访问接口。对它的操作与其它文件系统完全一样: l 分层文件结构(目录树结构);

openkk 2012-02-28   28859   0

分布式文件系统 Gfarm 经验

Gfarm file system是下一代网络共享文件系统,它将是NFS的一个替代解决方案。非常适合于更大型,更可靠,更快速文件系统的要求。

Comcast 的开源的分布式系统库:Sirius 经验

Sirius 是一个来自 Comcast 的开源的分布式系统库,为你的应用程序提供方便、低延迟的访问呢重要的参考数据,这些数据的特点是小、相对很少更新的只读数据集。由于目前的内存资源成本越来越低,多数数据都直接在内存中存放。

jopen 2014-04-24   13044   0

Hadoop2.2.0分布式安装 经验

Hadoop2.2.0分布式安装

jopen 2014-09-10   10791   0

开源分布式的时序:InfluxDB 经验

InfluxDB是一个开源分布式的时序、事件和指标数据库。InfluxDB使用Go语音编写,无需外部依赖。其设计目标是实现分布式和水平伸缩扩展。 在InfluxDB数据库中,一切都是基于时间序列的

jopen 2014-02-01   34777   0

分布式应用协同服务:ZooKeeper 经验

Hadoop的一个子项目,其实现的功能与Google的Chubby基本一致,主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。 数据模型: zooke

jopen 2013-12-28   17492   0
1 2 3 4 5 6 7 8 9 10