Storm笔记 经验

有可无,再后来又觉得没有了全部自己做也麻烦。 1. 集群管理:支持应用的部署,工作节点的管理(任务分配、HA、Scalable等),Metrics的收集。 2. 数据流的传输与路由:支持多种数

jopen 2015-03-29   37998   0

Lambda架构与推荐在电商网站实践 经验

存储最重要的就是 “主题推荐结果表”,需要满足如下特性 KV查询,根据用户id查询推荐结果; 保留一定时间内历史推荐数据。 根据上述两个特点,我们决定选用HBase。HBase的kv、多版本属性满足上述需求。有如下两个要点

jopen 2015-11-24   31238   0
P23

  网站架构之缓存应用 文档

2:对非常热点的数据进行捕捉,可以采用实时更新缓存的方式来平衡缓存与实时性的问题,例如可以单独开启一个后台服务来定时做更新缓存的工作。         3:调整缓存KEY值的算法,尽量保证缓存KEY的细粒度,KEY-VALUE就是很好的细粒度例子。

jelly0812 2011-12-27   3907   0
P23

  Yahoo! Hadoop教程 文档

Hadoop系统的许多方向,还将向你展示:如何进行简单和高级的集群配置;如何使用分布式文件系统;如何使用分布式文件系统,如何开发复杂的Hadoop MapReduce应用,并且其它相关的分布式系统也提及。 本章的目标: 1.         理解Hadoop适用的问题范围。

huafenged 2011-08-17   4717   0
P23

  Yahoo的Hadoop教程 文档

Hadoop系统的许多方向,还将向你展示:如何进行简单和高级的集群配置;如何使用分布式文件系统;如何使用分布式文件系统,如何开发复杂的Hadoop MapReduce应用,并且其它相关的分布式系统也提及。 本章的目标: 1.         理解Hadoop适用的问题范围。

linyouzhu 2012-05-31   6122   0
P45

  大数据应用解决方案 文档

16 3.1.1.5. 数据质量和数据管理 17 3.1.2. 存储数据库 17 3.1.3. 分布式计算技术 18 3.2. 大数据处理过程 20 3.2.1. 采集 20 3.2.2. 导入/预处理

guet_lee 2017-01-12   2609   0
P18

  Hudson配置说明 文档

Hudson 是一个可扩展的持续集成引擎。主要用于: 1.持续、自动地构建/测试软件项目。 2.监控一些定时执行的任务。 Hudson拥有的特性包括: 1. 易于安装-只要把hudson.war部署到servlet容器,不需要数据库支持。

挨咋咋地 2011-02-17   9804   0
P18

  网易大型应用架构与实践 文档

跨节点或跨DDB分布式事务(2PC) 在线模式修改 支持MySQL和Oracle混合使用 丰富的管理功能,GUI/CLI/WEB管理工具 模式定义、权限管理、统计、数据迁移、定时任务等等 8. DDB:

shootings 2012-03-09   753   0
软件架构   方案   HTTP   Intel   Go  

兼顾稳定和性能,58大数据平台的技术演进与实践 经验

所先后毕业的,之前在百度和360工作,现在是58赶集高级架构师、58大数据平台负责人。我有多年的分布式系统(存储、计算)的实践和研发经验,在我工作的这些年中运营了大大小小的集群,最大单集群也达到了四五

vb236376 2017-05-18   26289   0

深入理解JVM性能调优 经验

现的问题。 一、 CPU 过高。 查看 CPU 最简单的我们使用任务管理器查看,如下图所示, windows 下使用任务管理器查看, Linux 下使用 top 查看。 一般我们的服务器都采用

fmms 2012-04-18   256172   0
JVM   Java开发  
P16

  Map/Reduce工作原理 文档

Hadoop原来是Apache Lucene下的一个子项目,它最初是从Nutch项目中分离出来的专门负责分布式存储以及分布式运算的项目。简单地说来,Hadoop是一个可以更容易开发和运行处理大规模数据的软件平台。下面列举hadoop主要的一些特点:

jsyzthz 2011-08-13   8574   0
P11

  大型网站系统架构分析 文档

有个问题就是各地的访问问题,也许我们的服务器在北京,可能在云南或者海南的访问速度如何解决?如果做分布式,那么我们的文件索引以及架构该如何规划。 接下来讨论大型网站的底层系统架构,来有效的解决上述问题。

简单的海 2012-04-19   5238   0
P28

  大数据分析技术架构解决方案 文档

大数据分析技术架构解决方案大数据分析平台 产品技术架构 典型行业应用案例 2. 技术基础研究方向研究方向关键任务制高点大数据 可视化挖掘 1)新型内存迭代数据挖掘算法 2)数据挖掘可视化开发平台 3)房地产、金融、电信等机器学习模型研究

guet_lee 2017-01-12   2620   0

日存储量超10TB,海量数据挑战下腾讯全链路日志监控平台实践 经验

开发全链路日志监控平台所经历的挑战及解决方案。 背景 全链路日志监控在现在盛行的微服务和分布式环境下,能有效地提高问题定位分析效率,成为开发和运维利器。 当前已有开源解决方案和成熟的厂商提供,比如

Java线程池使用 经验

前言:最近在做分布式海量数据处理项目,使用到了java的线程池,所以搜集了一些资料对它的使用做了一下总结和探究, 前面介绍的东西大多都是从网上搜集整理而来。文中最核心的东西在于后面两节无界队列线程池和有界队列线程池的实例

openkk 2012-06-14   104443   0
P24

  Joinwork 工作流引擎总体设计 文档

运行中模板管理 18 任务管理 18 任务管理器 18 任务的生成和分配 19 任务代理人信息 19 任务的存储 20 任务日志记录 21 消息管理 21 消息定义 21 消息处理 22 定时管理 23 动作组件

xzwork 2015-10-10   2861   0
P7

  持续集成工具的选择 文档

版本,有兴趣的也可以去看看。 功能对比 CI Server在本质上就是一个定时调度器。我们配置一系列的项目,然后设定一个定时器,让它干一些活,然后通知大家。所以很多公司都使用所谓Home-made的工

javale 2012-11-28   3516   0

抛开命令驱动,采用事件驱动方式构建服务 经验

一个本来就是异步的世界。 在实践中我们也会很自然地接受这一点。我们会定时查询数据库去获取变更过的数据,或者实现某类定时任务来批量获取数据变更,这些都是变同步为异步的方法。 把这些问题总结起来我

UlrPressley 2017-10-07   33185   0
P26

  Hudson 持续集成 文档

构建结果或当构建失败时通过e-mail实时通知 4、生成JUnit/TestNG测试报告。 5、分布式构建支持-Hudson能够让多台计算机一起构建/测试 6、文件识别- Hudson能够跟踪哪次构建

sunbingjue 2014-09-15   644   0
P11

  PowerCenter 安装配置指南 文档

PowerCenter安装配置指南 目录 简介: 1 目标程序: 2 安装环境: 3 假设: 3 前置任务: 3 数据库需求: 3 PowerCenter域配置存储库 3 PowerCenter 存储库 4

athos1981 2013-05-09   3509   0
1 2 3 4 5 6 7 8 9 10