在Docker上使用Weave搭建Hadoop和Spark跨主机容器集群 资讯

实际环境是开发使用的两台服务器,每个服务器上是三个集群容器节点,总共六个节点,使用weave实现跨主机的通信,并且利用小插件可以实现在局域网或者是在外网查看监控集群的webUI和开放7077等关键端口进行程序远程调试功能。

jopen 2016-02-24   36540   0
Spark   Docker   Hadoop  

Ubuntu上Hadoop Mapreduce集群搭建以及程序运行 经验

为了完成计算机综合实验的考核,折腾了三天,终于完成了在Hadoop集群上完成了Mapreduce的实验。但是,后面的考试接踵而至,也就没能及时写下心得,考试结束了。赶紧把过程中的步骤和遇到的困难记录下

jopen 2013-01-20   22851   0

hadoop集群ambari搭建(1)之ambari-server安装 经验

Apache Ambari是一种基于Web的工具,支持Apache Hadoop集群的供应、管理和监控。Ambari目前已支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、

jopen 2016-01-18   60642   0

hadoop再次集群搭建(3)-如何选择相应的hadoop版本 经验

之前接触过很多很多hadoop版本,现在重新搭建平台,面临选择哪个版本的问题。 当我们决定是否采用某个软件用于开源环境时,通常需要考虑以下几个因素: ( 1 )是否为开源软件,即是否免费。 ( 2

jopen 2016-01-18   8804   0
P7

  mongodb+sharding(集群的配置步骤和真实生产环境的搭建过程) 文档

30000 --configdb localhost:20000 3、连接刚才启动的mongos,为集群添加一个片 $ /Apps/mongodb-linux-x86_64-2.0.2//bin/mongo

renshifa 2013-08-02   4169   0

玩转数人云:快速搭建ZooKeeper集群 资讯

西。只是搭建ZooKeeper集群却不是一件容易的事。使用数人云部署ZooKeeper集群?那就是分分钟的事。 注:ZooKeeper 介绍见本文尾部 两步搭建 ZooKeeper 集群 第一步:创建集群

jopen 2015-12-07   18414   0

Redis复制与可扩展集群搭建 经验

整个快照文件发给Slave,也就是没有象MySQL那样有复制位置的概念,即无增量复制,这会给整个集群搭建带来非常多的问题。 比如一台线上正在运行的Master主库配置了一台从库进行简单读写分离,这

jopen 2013-01-21   30556   0

hadoop集群ambari搭建(2)之制作hadoop本地源 经验

准备好源资源服务器,我使用之前的一台node4,配置都是1GB内存20GB存储 集群最好的安装方式一定是通过本地源的,如果是公共源,那么网络将会严重影响我们的安装进度。所以制作本地源是每一个大数据工作者的必会技能。

jopen 2016-01-18   10823   0

从零开始搭建Hadoop2.7.1的分布式集群 经验

有一些教程也存在很大的问题,配置环境,系统环境都没说清楚。在此我将记录下来从零搭建Hadoop2.7.1的过程,以及搭建过程中所遇到的一些问题。 一 操作环境说明 1.1 :操作系统: window8

jopen 2016-01-18   29490   0

几条命令就搞定:教你使用Docker搭建Ceph集群 经验

OSchina还有所有的开源社区一起推动国内的Docker商用和技术能力。 用Docker搭建Ceph非常简单,只需要几条命令就可以搞定,甚至比Ceph出的ceph-deploy还方便,也无国内或许不能访问获得软件包。

jopen 2015-06-18   13413   0
Docker  

Kafka入门:简介、使用场景、设计原理、主要配置及集群搭建 经验

zookeeper在kafka的作用是什么? 2.kafka中几乎不允许对消息进行“随机读写”的原因是什么? 3.kafka集群consumer和producer状态信息是如何保存的? 4.partitions设计的目的的根本原因是什么?

jopen 2015-11-12   31728   0

Redis复制与可扩展集群搭建 经验

本文会讨论一下Redis的复制功能以及Redis复制机制本身的优缺点以及集群搭建问题。 Redis复制流程概述 Redis的复制功能是完全建立在之前我们讨论过的基于内存快照的持久化策略基础上的,也

jopen 2015-11-15   11577   0

hadoop2.0集群搭建详解 经验

hadoop2.2.0集群搭建 PS:apache提供的hadoop-2.2.0的安装包是在32位操作系统编译的, 因为hadoop依赖一些C++的本地库,所以如果在64位的操作上安装 hadoop-2

jopen 2014-04-01   16479   0
P13

  Hadoop+HBase集群搭建 详细手册v0.9 文档

Hadoop,ZooKeeper,HBase分布式搭建 前提准备 注: hbase的安装需要hadoop和zookeeper和hbase,生产环境下需要将zookeeper独立安装,hbase软件选

xnbw 2016-01-11   2102   0
P3

  redis集群 文档

Redis目前版本是没有提供集群功能的,如果要实现多台Redis同时提供服务只能通过客户端自身去实现(Memchached也是客户端实现分 布式)。目前根据文档已经看到Redis正在开发集群功能,其中一部分已经

pro_lv 2017-02-23   3349   0
P12

  Tomcat 集群 文档

文档名称:维护说明书 TOMCAT集群 编写: 许致猛 日期: 2010/ 06/ 28 文档名称:维护说明书 目录 TOMCAT集群 1 1 相关说明 1 1.1 目标 1 1.2 环境说明 1 2

xmong 2011-11-25   5428   0

memcache 集群 经验

memcache 是一个分布式的缓存系统,但是本身没有提供集群功能,在大型应用的情况下容易成为瓶颈。但是客户端这个时候可以自由扩展,分两阶段实现。第一阶段:key 要先根据一定的算法映射到一台memc

openkk 2012-06-22   94429   0
P4

  Hadoop 集群 文档

Hadoop集群搭建 1. 机器规格 CPU:2个四核 2~2.5 GHz CPU 内存:8~16GB ECC RAM(非ECC会产生校验和错误) 存储器:4*1T SATA硬盘(硬盘大小一般是数据量的3—5倍)

serisboy 2013-04-09   2702   0

集群的分类 经验

一般来讲,集群根据侧重的方向和试图解决的问题,分为三大类: 高性能集群(High performance cluster,HPC) 负载均衡集群(Load balance cluster, LBC)

jopen 2016-01-03   9552   0
P5

  ORACLE集群 文档

数据库双机可以有两种不同的方式:双机热备份、双机集群。 双机热备份方式的集群完全通过操作系统的cluster软件来实现,在同一个时刻,只有一台机器对数据库作操作,当这台机器发生故障以后,由操作系统c

johnny_56 2011-08-31   3854   0
1 2 3 4 5 6 7 8 9 10