Hadoop中MapReduce框架入门 经验

le提出,主要用于搜索领域,解决海量数据的计算问题.对于业 界的大数据存储及分布式处理系统来说Hadoop2提出的新MapReudce就是YARN: A framework for job scheduling

jopen 2014-11-17   47213   0

Hadoop数据传输工具:Sqoop 经验

Sqoop(SQL-to-Hadoop) 项目旨在协助 RDBMS 与 Hadoop 之间进行高效的大数据交流。用户可以在 Sqoop 的帮助下,轻松地把关系型数据库的数据导入到 Hadoop 与其相关的系统

jopen 2014-12-02   18913   0

Hadoop 2.x HDFS新特性 经验

Hadoop 2.x HDFS新特性 HDFS联邦 HDFS HA(要用到zookeeper等,留在后面再讲) HDFS快照 回顾: HDFS两层模型 Namespace: 包

jopen 2015-01-13   19497   0

阿里类似Hadoop MapReduce的系统:jstorm 经验

Storm 是一个类似Hadoop MapReduce的系统, 用户按照指定的接口实现一个任务,然后将这个任务递交给JStorm系统,Jstorm将这个任务跑起来,并且按7 * 24小时运行起来,一旦中间一个worker

jopen 2014-02-27   43539   0

Cloudbreak - 基于Hadoop的Docker service API 经验

Cloudbreak 是首个基于hadoop的docker service API。 Cloudbreak 建立于 Apache Ambari , Docker containers, Serf 和 dnsmasq

jopen 2014-08-24   15444   0

在 Docker 上建立多节点的 Hadoop 集群 经验

上建立多节点的 Hadoop 集群 在 上篇文章 中你已经看到了在你的devbox创建一个单点Hadoop 集群是多么简单。 现在我们提高门槛,在Docker上创建一个多点hadoop集群。在开始前,确保你有最新的Ambari镜像:

jopen 2014-07-01   29523   0

Hadoop构建电影推荐系统 经验

Hadoop家族系列文章 ,主要介绍Hadoop家族产品,常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari

jopen 2014-07-30   77065   0
P23

  Hadoop源码分析-MapReduce部分 文档

2009-02-21 Hadoop源代码分析(MapReduce概论) 大家都熟悉文件系统,在对HDFS进行分析前,我们并没有花很多的时间去介绍HDFS的背景,毕竟大家对文件系统的还是有一定的理解的

dishad631 2010-10-01   5060   0
P12

  Hadoop 源码以及流程解析 文档

Hadoop源码以及流程解析 整体结构 DN: Configuration,JobClient,JobConf Master:JobTracker,JobInProgress,TaskInProgress

xfj3526 2012-06-13   2384   0

Elasticsearch、MongoDB和Hadoop比较 经验

引擎,它们存储着JSON文 档,MongoDB存着JSON文档,或者一堆JSON文档存放在一个Hadoop集群的HDFS中。你可以使用这三种配置完成很多同样的事情。 ES是否可以作为一个NoSQL

jopen 2015-05-12   22864   0

hadoop作业调优参数整理及原理 经验

观。 当采用map中间结果压缩的情况下,用户还可以选择压缩时采用哪种压缩格式进行压缩,现在hadoop支持的压缩格式有:GzipCodec,LzoCodec,BZip2Codec,LzmaCode

mq2126 2016-01-21   9102   0

Hadoop和Spark框架的异同 经验

谈到大数据,相信大家对Hadoop和Apache Spark这两个名字并不陌生。但我们往往对它们的理解只是停留在字面上,并没有对它们进行深入的思考,下面不妨跟我一块看下它们究竟有什么异同。 1 解决问题的层面不一样

oxzr6054 2016-09-02   14060   0

Apache Hadoop 2.0 Alpha 发布 资讯

Hadoop并不仅仅是一个用于存储的分布式文件系统,而是设计用来在由通用计算设备组成的大型集群上执行分布式应用的框架。 Apache Hadoop 2.0 今天发布了首个 alpha 版本,该版本

jopen 2012-05-27   18210   1

Apache Hadoop 2.3.0发布 资讯

分布式计算开源框架Hadoop近日发布了今年的第一个版本Hadoop-2.3.0,新版本不仅增强了核心平台的大量功能,同时还修复了大量bug。 新版本对HDFS做了两个非常重要的增强: 支持异构的存储层次

jopen 2014-02-27   10093   0

Apache拟在Docker中运行Hadoop 资讯

Apache 在其 Hadoop 维基百科发布了一个 页面 ,主要整理了 Docker 中运行 Hadoop 的好处,以及要完全在 Docker 中运行 Hadoop 所需要完成的工作。在 Docker,或者说其它容器中运行

jopen 2014-09-04   8223   0
Hadoop   Docker  

Hunk/Hadoop: 性能最佳实践 资讯

com/cn/news/2015/09/Hunk-Performance 无论有没有使用Hunk,当运行Hadoop时,有很多种方式导致偶尔的性能底下。多数时候人们是增加更多的硬件来解决问题,但是有时候只需要简单更改下文件的名称就可以解决问题。

jopen 2015-09-28   5966   0
Hadoop  

Spark和Hadoop,孰优孰劣? 资讯

http://www.infoq.com/cn/news/2015/12/Spark-Hadoop-HDFS Spark 已经取代 Hadoop 成为最活跃的开源大数据项目。但是,在选择大数据框架时,企业不能因此就厚此薄彼。近日,著名大数据专家

jopen 2015-11-30   16341   0
Spark  
P33

  Hadoop与HBase自学笔记 文档

bihuman.com Hadoop与HBase自学笔记 1、 安装jdk 安装eclipse时已经提过,这里略,使用jdk1.6.0_12版本。 2、 安装Cygwin以及相关服务 2.1 安装Cygwin

ka520 2015-11-14   1170   0
P5

  How To Write Map-Reduce On Hadoop 文档

How To Write Map-Reduce On Hadoop 概述 Hadoop Map-Reduce是一个使用简易的软件框架,基于它写出来的应用程序能够运行在 由上千个商用机器组成的大型集群

thinkingx 2011-12-15   4828   0
P6

  Hadoop 学习总结之一:HDFS简介 文档

一、HDFS的基本概念 1.1、数据块(block) · HDFS(Hadoop Distributed File System)默认的最基本的存储单位是64M的数据块。 · 和普通文件系统相同的是

huafenged 2012-02-24   3626   0
1 2 3 4 5 6 7 8 9 10