如何设计一个复杂的分布式爬虫系统? 经验

一个复杂的分布式爬虫系统由很多的模块组成,每个模块是一个独立的服务(SOA架构),所有的服务都注册到Zookeeper来统一管理和便于线上扩展。模块之间通过thrift(或是protobuf,或是so

BlaSidney 2016-09-29   37085   0

fourinone分布式协调设计解析 经验

分布式协同是分布式应用中不可缺少的,通常担任协调者的角色,或者说是将多机协同的职责从分布式应用中独立出来,以减少系统的耦合性和增强扩充性。 Apache 的 Zookeeper, google 的 Chubby

P5

  分布式采集系统总体设计方案 文档

 分布式采集系统 总体设计方案 贺志明 2010-4-8 第一篇 系统总体设计 1 系统流程图 2 系统体系结构 3 体系结构概述 分布式采集系统是建立在hadoop分布式文件系统和zookeepe

gonow86 2013-01-30   7894   0
P55

  chapter 3 分布式程序设计语言 文档

第三章 分布式程序设计语言 2. 3.1 分布式程序设计语言概述对应用程序进行程序设计的理由: 减少单个计算的周转时间; 增加可靠性和可用性; 使系统的某些部分提供某些特殊功能以及固有的分布式应用。10/22/20182

dejunw 2013-02-05   488   0

PhantomJS & NodeJS 在京东网站前端监控平台的最佳实践 经验

为什么需要一个前端监控系统 通常在一个大型的 Web 项目中有很多监控,比如后端的服务 API 监控,接口存活、调用、延迟等监控,这些一般都用来监控后台接口数据层面的信息。而且对于大型网站系统来说,从后端服务到前台展示会有很多层:内网

小而麦 2016-11-17   9444   0

一个母婴电子商务网站的大数据平台及机器学习实践 经验

com/archives/2016/02/609.htm 母婴相对一般的电子商务网站有一些特点:第一个特点是商品周期短,在母婴网站上的商品,在线的时间不会超过5-7天,第二个是用户需求的变化快,在母婴行业,

GweMedlin 2016-02-16   25526   0

飞天5K实战经验:大规模分布式系统运维实践 经验

传统的运维人员通常只面对几十或者上百台的服务器,但在大规模分布式集群中,运维人员面 临工作任务明显不同。本文分别阐述服务器数量激增,要求提升全局掌控能力,如何实现系统的自我保护和自动化恢复,大规模与精细化的平衡,以及需要开发和运

jopen 2014-10-29   36395   0
P45

  Spring技术内幕:深入解析Spring架构设计原理 文档

Spring技术内幕 深入解析Spring架构设计原理(一)引子 缘起 已经很久没有写帖子了,现在总算是有点时间写些东西,也算是对自己的一个记录吧。刚刚完成了一个软件产品,从概念到运营都弄了一下,

shenhua 2011-10-23   8486   0

一种Android客户端架构设计分享 经验

Android 客户端 架构 设计,五花八门,但我们不能简单地说哪种架构更好,因为脱离业务谈架构是没有任何意义的,适合业务的才是好架构。而架构也不是一成不变的,随着业务的发展,也许当初设计架构已不足以支撑目前

RoxMalin 2017-03-21   27609   0

垂直型爬虫架构设计(1) 经验

从事爬虫方向开发马上也将近两年时间了,今天基友问我关于爬虫的架构设计问题.其实这么久也想总结一下自己的整个开发的过程,架构设计问题..对自己进行一些总结..仅作参考. 1.爬虫的分类 : 对于我来说

jopen 2015-09-16   13384   0

全解Google(谷歌)基础设施架构安全设计 经验

关键,是整个谷歌网络服务赖以存在的安全基础。FreeBuf在原文基础上,针对谷歌技术基础设施的安全设计作了简要分析与介绍,这些技术基础设施为谷歌全球信息系统提供了一系列安全防护,它们包括运行安全服务、

eagleundersun 2017-02-06   260489   0
谷歌   运维  

架构设计分享之权限系统(看图说话) 问答

面一篇文章《 最近架构随想 》,我提到架构设计的一些构想,其实也是对之前项目经验的一些归纳及总结。今天我们就以权限系统作为切入点,谈一谈怎么设计权限系统以及怎么做到系统具有以下特性: Organize

xw43 2014-08-31   12864   0
架构   数据库   C/C++   Go  
P63

  Petshop5.0详解之一(系统架构设计) 文档

Petshop5.0 详解之一(系统架构设计)   前言:PetShop是一个范例,微软用它来展示.Net企业系统开发的能力。业界有许多.Net与J2EE之争,许多数据是从微软的PetShop和Su

zengweibo 2012-01-20   3819   0
P3

  应用软件系统架构设计的“七种武器” 文档

应用软件系统架构设计的“七种武器”   对于软件架构这一概念,有太多的版本,目前在业界由大师级人物或组织提出的对这一概念的阐述就超过十种以上,我个人比较赞同RUP(Rational Unified

jelly0812 2012-01-05   396   0
P15

  iOS开发那些事-移动平台架构设计 文档

呼叫中心专家 http://www.focustar.net iOS开发那些事-移动平台架构设计 低耦合企业级系统架构设计 我们往往称JavaEE或.Net 开发的产品为“系统”,而移动平台(主要是:And

syy0601 2013-05-04   5516   0
P43

  Tomcat 系统架构与模式设计分析 文档

面详细介绍。Connector 组件是可以被替换,这样可以提供给服务器设计者更多的选择,因为这个组件是如此重要,不仅跟服务器的设计的本身,而且和不同的应用场景也十分相关,所以一个 Container 可以选择对应多个

xf_1029 2013-07-30   3863   0

领域驱动设计(Domain Driven Design)参考架构详解 经验

摘要: 本 文将介绍领域驱动设计(Domain Driven Design)的官方参考架构,该架构分成了Interfaces、Applications和Domain三层以及包含各类基础设施的 Infr

jopen 2015-12-04   19982   0
架构  

iOS应用架构谈(三):网络层设计方案(上) 经验

编者按 :iOS客户端应用架构看似简单,但实际上要考虑的事情不少。本文作者将以系列文章的形式来讨论iOS应用架构中的种种问题,本文是其中的第三篇,主要讲网络层设计以及安全机制和优化方案。 前言 网

jopen 2015-07-22   14576   0

Uber容错设计与多机房容灾方案 - 高可用架构系列 经验

此文是根据赵磊在【QCON高可用架构群】中的分享内容整理而成。转载请事先联系赵磊及相关编辑。 赵磊,Uber高级工程师,08年上海交通大学毕业,曾就职于微软,后加入Facebook主要负责Mess

jopen 2015-07-22   28117   0

IM 去中心化概念模型与架构设计 经验

去中心化涉及的架构模型变化和设计思路,去中心化的概念就是说用户的访问不是集中在一个数据中心,这里的去中心是针对数据中心而言的。 站在这个角度而言,实际上并非所有的业务都能做去中心化设计,对于一致性要

ifetz 2016-08-11   10216   0
1 2 3 4 5 6 7 8 9 10