可伸缩Web架构与分布式系统(1) 经验

计大型网站时需要考虑的关键问题和一些为达到这些目标所使用的组件。本文主要关注于Web系统,然而其中的一些内容同样适用于其他分布式系统。 1、Web分布式系统设计准则 构建和运行一个可伸缩的网站或应用来说究竟意味着什么?从一个基本的层面

jopen 2014-02-10   21836   0

Hadoop 2.3.0 分布式集群搭建图文 经验

0 /home 配置环境变量:在环境变量加入 hadoop 的 sbin目录并重载。 五。分布式集群搭建 1. 增加虚拟系统 1 )复制出一定数量的虚拟系统文件 2 )修改 UUID CMD$

jopen 2014-03-14   61471   0

地理空间信息的分布式版本控制系统:GeoGit 经验

GeoGit是一个开源工具,它的设计灵感来自Git,但适用其核心概念来处理地理空间数据的分布式版本控制。 ~$ geogit help List geogit commands ~/new-folder

jopen 2014-07-09   13963   0

分布式缓存服务器 memcachedb 经验

一个由新浪网的开发人员开放出来的开源项目,给memcached分布式缓存服务器添加了Berkeley DB的持久化存储机制和异步主辅复制机制,让memcached具备了事务恢复能力、持久化能力和分布式复制能力,非常适合于需要超高性能读写速度,但是

openkk 2011-11-30   14500   0

分布式内存数据云存储:EVCache 经验

Volatile  - 数据可以在任何时候消失 Cache - 一个内存键值存储 特性 分布式键值存储 AWS 跨域复制存储数据 注册和自动发现新节点或者新服务 项目主页: http://www

jopen 2015-05-19   11201   0
EVCache  

基于 HBase 构建可伸缩的分布式事务队列 经验

发者可以自由操作任何形式的数据操作而不用担心不一致 性,潜在的返工和失败。它可以帮助开发者在没有分布式系统背景的情况下建立他们的大数据应用。此外,如果需要可以关闭这种强大的保护机制换取高性能。它总 是比其他方式更容易使用。

ccwv 2015-06-15   11652   0

分布式计算系统,Spark 发布1.0.0 版本 资讯

可以像操作本地集合对象一样轻松地操作分布式数据集。 尽管创建 Spark 是为了支持分布式数据集上的迭代作业,但是实际上它是对 Hadoop 的补充,可以在 Hadoop 文件系统中并行运行。通过名为Mes

jopen 2014-05-30   29373   0
Spark  

如何编写一个分布式数据库 经验

刘奇(goroutine) 个人简介 : PingCAP创始人兼CEO。分布式系统专家,擅长分布式数据库,分布式缓存。目前从事NewSQL方向的创业,通过开源方式重建google内部的F1和s

jopen 2015-09-24   193269   0

CurioDB: 用 Scala和Akka构建的分布式持久化Redis克隆 经验

CurioDB: 用 Scala和Akka构建的分布式持久化Redis克隆。 Installation I've been using SBT to build the project, which

jopen 2015-07-13   20073   0

Adam:大规模分布式机器学习框架 经验

Adam是微软研究院的深度学习项目,该项目仍然是应用卷积神经网络进行图像分类,效果提高了很多,但从我读论文的角度看,adam更偏向于分布式 框架的实现,而非理论的创新,自Alex和Hinton在2012年发出[2]以后,其实卷积神经网络

jopen 2015-07-02   25877   0

构建高可扩Web架构和分布式系统实战 经验

1 Web分布式系统设计的原则 构建并运营一个可伸缩的Web站点或应用程序到底是指什么?在最初,仅是通过互联网连接用户和访问远程资源。 和大多数事情一样,当构建一个Web服务时,需要提前抽出时

jopen 2015-11-11   11631   0

FastDFS 分布式的文件存储环境搭建 经验

FastDFS 分布式的文件存储环境搭建 FastDFS环境安装包地址: http://download.csdn.net/detail/rzg813/9273935 (包含6个) 在Linux CentOS

jopen 2016-01-08   13922   0

Cola:一个分布式爬虫框架 经验

了这个 cola 。下面的文字来自 wiki 。 Cola是一个分布式的爬虫框架,用户只需编写几个特定的函数,而无需关注分布式运行的细节。任务会自动分配到多台机器上,整个过程对用户是透明的。 依赖

jopen 2016-01-07   14582   0

分布式的系统用于构建,部署和运行服务:PaaSTA 经验

PaaSTA是一个高度可用的,分布式的系统用于构建,部署和运行服务使用容器和Apache Mesos。 组件 Note : PaaSTA is an opinionated platform that

jopen 2015-11-13   13084   0

分布式并行计算调度和管理系统Summoner 经验

Summoner的特性 Summoner 是国玺部门推出的基于 MySQL+Redis+Zookeeper 的分布式并行计算调度和管理系统,李红红主设。 0x00,为什么要做“数据”并行计算调度? 大家都可能做过

jopen 2016-01-08   15956   0

分布式,高可用性,数据中心感知调度器:Nomad 经验

Nomad 是一个分布式,高可用性,数据中心感知调度器,专为微服务和批量处理工作流设计。Nomad 是分布式,高可用,可扩展到跨数据中心和区域的数千个节点。 Nomad 提供一个常规工作流跨基础设

jopen 2015-09-30   12529   0

在 CentOS 7.1 上安装分布式存储系统 Ceph 经验

读博士的时候开发了这套牛逼的分布式存储系统,最初是奔着高性能分布式文件系统去的,结果云计算风口一来,Ceph 重心转向了分布式块存储(Block Storage)和分布式对象存储(Object Storage),现在分布式文件系统

pm45e 2015-08-03   23051   0

当当网分布式作业调度组件:Elastic-Job 经验

Elastic-Job 是 ddframe 中 dd-job 的作业模块中分离出来的分布式弹性作业框架。去掉了和 dd-job 中的监控和 ddframe 接入规范部分。 ddframe 其他模块也有可独立开源的部分,之前当当曾开源过

jopen 2015-09-12   49607   0

大型网站架构系列:分布式消息队列(一) 经验

一、消息队列概述 消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题。实现高性能,高可用,可伸缩和最终一致性架构。是大型分布式系统不可缺少的中间件。 目前在生产

免费教程 2016-03-30   22182   0

zerg - 基于docker的分布式爬虫服务 经验

zerg 基于docker的分布式爬虫服务 特性 多机多 IP,充分利用 IP 资源 服务自动发现和注册(基于 etcd 和 registrator) 负载均衡 + 一致性哈希 服务端客户端通信基于

1 2 3 4 5 6 7 8 9 10