ELK 在 Spark 集群的应用 经验

,存储数据三大功能;是一套开放 REST 和 JAVA API 等结构提供高效搜索功能,可扩展的分布式系统。它构建于 Apache Lucene 搜索引擎库之上。 Kibana 是一个基于 Web

b4zc51o3 2016-11-08   16819   0
P52

  构建Java编程环境 文档

扩展知识Java语言的基本特点 基本数据类型 控制语句 数组24 25. 1.4.1 Java的基本特点(1)简单 面向对象 分布式 Java的风格类似于C++,因而对C++程序员而言非常容易掌握Java编程技术; Java摒弃了

zixiyugu 2012-06-20   2437   0
Java开发   HTTP   HTML   C/C++   Go  

基于hive的日志数据统计实战 经验

hadoop 的开源数据仓库工具,用于存储和处理海量结构化数据。 它把海量数据存储于 hadoop 文件系统,而不是数据库,但提供了一套类数据库的数据存储和处理机制,并采用 HQL (类 SQL )语言对

jopen 2013-12-11   48080   0

深度学习系列:深度学习在腾讯的平台化和应用实践(一) 经验

完成DNN的数据并行框架,以及CNN的模型并行和数据并行框架。数据并行和模型 并行是Google分布式大神Jeff Dean和深度学习大佬Andrew Ng在2012年NIPS会议上发表的DistBelief[3]

jopen 2015-01-05   56568   0

作为大数据工程师,你必须熟练运用的性能优化技术 经验

对于大数据的分析应用而言,Join操作是非常常见的,并且Join操作本身对硬件的短板也更敏感,特别是网络,因为大多数的分布式操作,每个数据节点可以独立地完成,但 Join经常需要来自其他节点数据才能完成本节点的执行,并且这

闲谈Kubernetes 的主要特性和经验分享 - 时速云 王磊 资讯

awsElasticBlockStore 类似于GCE disk, 节点必须是 AWS EC2的实例 nfs - 支持网络文件系统 rbd - Rados Block Device - Ceph secret 用来通过Kubernetes

jopen 2015-08-12   23435   0

Git超级简明手册 经验

提交。 建立分支依靠本地目录复制。空间利用率低。 Mercurial----分布式版本控制系统。 Git----免费的分布式版本控制系统。在BitKeeper不再免费提供给linux项目使用后开发。本地有完整的备份。使用软链接减少内容。

jopen 2015-12-11   24066   0

陈超:Spark这一年,从开源到火爆 资讯

作。 图1 Spark Stack 同时,由于现存系统必须要与以HDFS为代表的分布式文件系统进行数据共享和交换,由此造成的IO开销大幅度地降低了计算效率;除此之外,反复的 序列化与反序列

jopen 2015-03-10   34447   0
Spark  

云+微服务+新硬件:下一代大规模并行数据库架构风格 资讯

系统。其中最重要的关键词是并行。 在组成大规模计算机集群的时候,通常有两种特性要考虑:并行和分布式。并行强调多节点同时执行,共同解决一个大问题,通常在严格的高性能网络环境 中,有严格的执行要求和反

jopen 2015-07-16   30812   0
架构  
P15

  科达科技软件系统架构说明文档模板 文档

为视频摘要,图片检索,图片分析等任务。作业和任务之间的协调可通过基于开源框架ZooKeeper的分布式任务协作系统完成,该任务协作系统可记录,通知各作业及任务的执行情况和状态等信息。 4.3. 组件交互视图

1912a 2015-08-13   3036   0

Kubernetes容器集群中的日志系统集成实践 经验

入侵小:尽量不需要改动应用容器和云平台系统 大集中:将所有分布在各个主机节点上的日志集中在一起分析和查询 易部署:方便自动化部署到分布式集群中 易定制:方便处理不同日志格式,方便对接不同的存储方式 实效性:日志在产生之后需要能在短时间内即可以进行查看分析

JeroldNale 2016-08-09   31956   0

新浪SCE Docker最佳实践 经验

为了产品线更方便使用Docker官方镜像,我们的自动同步工具会依据镜像注册表,周期性的自动同步Docker官方镜像到SCE分布式后端存储集群,使得产品线用户可以通过内网快速pull到Docker官方镜像。 由于SCE不保证也不可能保证Docker

yg3n 2015-06-04   37673   0
Docker  

Caicloud基于Docker技术的CI&CD实践 经验

Server组件向用户提供一个获取日志的Websocket服务器,从Kafka拉取实时日志推送给用户。 Circle也可以多节点分布式部署,部署图如下所示。每一个立方体代表一个节点,使用Haproxy反向代理实现负载均衡和SSL数据

chiw5645 2016-09-18   13433   0
Docker  
P9

  Nutch 主要类分析 文档

crawl.Indexer:     这个类的任务是另一方面的工作了,它是基于hadoop和lucene的分布式索引。它就是为前面爬虫抓取回来的数据进行索引好让用户可以搜索到这些数据。     这里的输入就比较

228823266 2012-01-17   5175   0
P63

  云计算--云计算概述 文档

网格计算3 5. 什么是云计算?4 6. 云计算定义云计算(Cloud Computing ):是分布式处理(Distributed Computing)、并行处理(Parallel Computing)和网格计算(Grid

jinoor 2011-11-29   10374   0

Elasticsearch 2.20 使用环境说明 经验

注意:如果使用安装包(.deb, .rpm)来进行安装,此值会自动进行设置。 文件系统的存储类型 有不同的文件系统的有不同存储类型。这个参数一般会自动选择:Windows 64bit操作系统一般是mmapfs,在Windows

njshdf2p 2016-02-06   18306   0

八一八Windows Docker的有趣事实 经验

Windows容器的文件系统怎么隔离的? 和Linux一样,Windows容器映像采用分层的文件系统,基于映像创建容器后,相当于在只读的分层文件系统上再覆盖一层可读写的文件系统层。如果要修改的文件

FrancesStil 2016-01-31   13637   0
Windows   Docker  
P27

  docker简介 文档

仓库 存放镜像的地方,分为公有和私有两种形式。 7. Docker主要特性文件系统隔离:每个进程容器运行在完全独立的根文件系统里。 资源隔离:可以使用cgroup为每个进程容器分配不同的系统资源,例如CPU和内存。

lyglyg1394 2016-04-12   685   0
P58

  HP-UX 系统维护手册 文档

HP-UX System Administration Tasks 3. 文件系统维护 发现文件系统已满,应及时删除无用文件或扩大文件系统。 4. 系统日常管理 系统管理员最好用 sam (System Administrator

baitf 2012-06-04   684   0
手册  

Ubuntu 如果支持 ZFS 将侵犯 GPL 许可证 资讯

Xerus将支持甲骨文/Sun的ZFS文件系统。Software Freedom Conservancy(SFC)发表文章认为Canonical支持ZFS的计划 将侵犯内核的GPLv2许可证 。 ZFS文件系统使用的是 CD

jopen 2016-02-26   4263   0
1 2 3 4 5 6 7 8 9 10