Spark 是一个基于内存计算的开源的集群计算系统，目的是让数据分析更加快速。Spark非常小巧玲珑，由加州伯克利大学AMP实验室的Matei为主的小团队所开发。使用的语言是Scala，项目的core

CurioDB: 用 Scala和Akka构建的分布式持久化Redis克隆。 Installation I've been using SBT to build the project, which

Adam是微软研究院的深度学习项目，该项目仍然是应用卷积神经网络进行图像分类，效果提高了很多，但从我读论文的角度看，adam更偏向于分布式 框架的实现，而非理论的创新，自Alex和Hinton在2012年发出[2]以后，其实卷积神经网络

1 Web分布式系统设计的原则 构建并运营一个可伸缩的Web站点或应用程序到底是指什么？在最初，仅是通过互联网连接用户和访问远程资源。 和大多数事情一样，当构建一个Web服务时，需要提前抽出时

FastDFS 分布式的文件存储环境搭建 FastDFS环境安装包地址： http://download.csdn.net/detail/rzg813/9273935 （包含6个） 在Linux CentOS

虫框架。最近由于要抓取新的数据，于是我就写了这个 cola 。下面的文字来自 wiki 。 Cola是一个分布式的爬虫框架，用户只需编写几个特定的函数，而无需关注分布式运行的细节。任务会自动分配到多台机器上，整个过程对用户是透明的。

PaaSTA是一个高度可用的，分布式的系统用于构建，部署和运行服务使用容器和Apache Mesos。 组件 Note : PaaSTA is an opinionated platform that

为什么要做“数据”并行计算调度？ 他山之玉：azkaban2/oozie/mesos Summoner的特性 Summoner 是国玺部门推出的基于 MySQL+Redis+Zookeeper 的

Ceph 的介绍网上一大堆，这里就不重复了。Sage Weil 读博士的时候开发了这套牛逼的分布式存储系统，最初是奔着高性能分布式文件系统去的，结果云计算风口一来，Ceph 重心转向了分布式块存储（Block

Elastic-Job 是 ddframe 中 dd-job 的作业模块中分离出来的分布式弹性作业框架。去掉了和 dd-job 中的监控和 ddframe 接入规范部分。 ddframe 其他模块也有可独立开源的部分，之前当当曾开源过

一、消息队列概述 消息队列中间件是分布式系统中重要的组件，主要解决应用耦合，异步消息，流量削锋等问题。实现高性能，高可用，可伸缩和最终一致性架构。是大型分布式系统不可缺少的中间件。 目前在生产

zerg 基于docker的分布式爬虫服务 特性 多机多 IP，充分利用 IP 资源 服务自动发现和注册（基于 etcd 和 registrator） 负载均衡 + 一致性哈希 服务端客户端通信基于

一致性的功能，这对于构建可靠的分布式系统都是至关重要的，如复制状态机（replicated-state-machines）、通用的发布/订阅系统、分布式数据库以及分布式队列。 Distribute

背景 数据库作为一个非常基础的系统，任何一家互联网公司都会使用，数据库产品也很多，有Oracle、SQL Server 、MySQL、PostgeSQL、MariaDB等，像SQLServer/Oracle

。 对数据库的操作的相关接口放到接口服务项目，这些接口的实现放在后台服务项目，pc端网站和微信端网站都依赖接口服务项目，调用后台数据库数据。在这种场景下就是应该使用Dubbo这种分布式服务框架了。

1、Gearman介绍和使用场景 Gearman是一个分发任务的程序框架，可以用在各种场合，与Hadoop相 比，Gearman更偏向于任务分发功能。它的任务分布非常简单，简单得可以只需要用脚本即可完

本文是学习大型分布式网站架构的技术总结。对架构一个高性能，高可用，可伸缩，可扩展的分布式网站进行了概要性描述，并给出一个架构参考。一部分为读书笔记，一部分是个人经验总结。对大型分布式网站架构有很好的参考价值。

来自： http://mtydev.net/?p=630 背景介绍 这几年我一直从事分布式存储产品的测试开发工作，伴随着产品的第一次上线，第一次升级，一直到今天。期间参与发布了无数个版本，支持着海量的用户对我们存储产品的需求。

但就总体来说响应速度和吞吐量在单台普通笔记本上还是达到了一个比较理想的状态。 至此这个综合的分布式项目全部完毕，在此基础上可以迭代出很多东西，代码我已经更新，在github上可以看到全部代码，有兴趣的自己fork

应用程序进行平面的克隆, Y维度上的扩展就是将不同的应用程序功能进行分割, 而Z维度上的扩展就是对数据进行分区和分片。当Y维度上的扩展被应用到整体应用程序时，应用程序就会被分成许多更小的单元，各自被分配到具有微服务架构风格的业务功能。