当当网Docker应用实践 经验

tes? A:因为Mesos比较成熟,Kubernetes也不好拉镜像,而且我们数据分析用Spark也是运行在Mesos上,比较熟悉,而且混合负载也比较好。 Q::容器网络用的是什么? A:是用它自己的Bridge。

xfct 2016-09-28   12953   0
Docker  

明略数据吴明辉:人工智能的核心一定是大数据 经验

明略数据技术框架 明略数据整个底层的核心开发是基于开源的,采用Apache Hadoop、Apache Spark、Apache Kylin等开源的项目,同时也在这些开源项目上在做积极的贡献。但是应用层面,在行

京东容器集群建设之路 经验

在第一代容器引擎正直壮年时候,团队又接受新的挑战,把京东数据库迁移到容器环境上,把京东实时计算storm,spark集群迁移到容器环境上。在团队内部,京东数据库容器化叫CDS,同样解决2个痛点,物理机资源利用率和申请DB速度。JDOS1

hongfu97 2017-01-15   7582   0

我们真的缺前端工程师吗? 资讯

的时候,我学会了nginx配置缓存、负载均衡服务器, gatling 测试工具,Hadoop/Spark等的集群配置,还有一些和项目相关的 GIS(地理信息系统) 的技术栈,前后端分离策略等。 第

jopen 2015-06-17   56290   0

Mesos在Qunar的应用 资讯

23提供了持久化的支持,但是没敢上到生产环境中。 Q:Storm on Mesos,快可用了吗?是否跟Spark on Mesos做过比较? A:Storm on Mesos的代码在github可以找到,

jopen 2015-09-15   18302   0
Mesos  

有了Mesos,Verizon终于不用再羡慕Google了 资讯

来支持IoT服务,包括多媒体服务、视频流媒体服务等等。Verizon还计划将其 Hadoop和Spark分析任务从他们的专属集群上迁移到Mesos集群。 Verizon的具体容器技术选型 系统采用

jopen 2015-09-09   7215   0
Mesos  

Linux容器将颠覆虚拟化 资讯

Windows server上。但尽管如此,大多数重要的新软件是在Linux之上开发的 – Hadoop、Spark、NoSQL数据库、多种文件系统等等,所以这不会受限于人们所构建的平台的特定部分。 有意思的

ffc8 2015-12-04   14454   0
Linux  

如何使用Docker快速配置数据科学开发环境? 资讯

具配置的数据科学环境。例如,你肯定会希望能快速启动一个安装了Jupyter notebook、spark和pandas的容器。 Docker Docker容器的里层包裹的是Linux容器(a layer

jopen 2015-11-26   23807   0
Docker  

Java工程师成神之路~ 资讯

在linux上部署solr,solrcloud,,新增、删除、查询索引 3.4.3. Storm,流式计算,了解Spark,S4 在linux上部署storm,用zookeeper做协调,运行storm hello

jopen 2015-12-08   213763   15
Java  

2017谷歌云大会,一口气发布100+消息 资讯

笔记本上执行模型迭代、分析数据。 Cloud Dataproc updates :对于运行 Apache Spark、Flink、Hadoop 管道的管理服务提供了新的支持,支持创建轻量级部署的单节点集群,提供了

jopen 2017-03-15   38844   0
Google  
P69

  大数据技术平台调研报告 文档

Hortonworks主导开发,运行在YARN上的DAG计算框架 Presto Facebook开源 Shark Spark上的SQL执行引擎 Pig 基于Hadoop MapReduce的脚本语言 Cloudera Impala

dszhao 2017-03-22   3018   0

一文了解甲骨文云计算全景,看“狂人”拉里如何重新洗牌云产业 资讯

软件事业部首席技术官以及 Sun x64 系统集团执行副总裁等要职。John 表示,针对大数据的开源 Apache Spark 内存数据库,M7 可以将 10 亿行数据的处理速度提升 6 倍。他说“下一个十年将是软件功能嵌入服务器芯片的时代,而

jopen 2015-11-02   47479   0

Python和Ruby对比 经验

作者提到了我就顺便找了个我只 听说过名字,根本没用过的spark。google的结果是”racc ruby”:”python spark”=159,000:659,000。至于doctools

jopen 2012-11-06   129807   0

每个软件工程师都应该知道的有关实时数据的统一概念 经验

TelegraphCQ 2) Aurora 3) NiagaraCQ 4) 离散流 :这篇论文讨论了Spark的流式系统。 5) MillWheel 它是Google的流处理系统之一。 6) Naiad:一个实时数据流系统

jopen 2014-02-10   98975   0

Kafka剖析(一):Kafka背景及架构介绍 经验

率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm、Spark都支持与Kafka集成。InfoQ一直在紧密关注 Kafka的应用以及发展 ,“Kafka剖析”

jopen 2015-03-10   38718   0

Redis上踩过的一些坑-美团 经验

Redis集群技术及Codis实践 谈Twitter的百TB级Redis缓存实践 Hadoop、Spark、HBase与Redis的适用性讨论 Codis作者黄东旭细说分布式Redis架构设计和踩过的那些坑们

y139733 2016-02-03   318495   0

机器学习中的数据清洗与特征处理综述 经验

离线特征获取方案离线可以使用海量的数据,借助于分布式文件存储平台,例如HDFS等,使用例如MapReduce,Spark等处理工具来处理海量的数据等。 在线特征获取方案 在线特征比较注重获取数据的延时,由于是

jopen 2015-02-10   39228   0

微服务设计指南 经验

据科学、备份、审计)或用于实时调用(运营分析、CEP、管理仪表板、警报应用程序)。上图中,使用Spark按指定的时间间隔,将持续的输入数据流划分为微批次,并输入到WSO2 Siddhi CEP引擎中。

aihua_022 2018-12-18   17514   0

iOS 开发者必知的 75 个工具(译文) 资讯

快速简单的访问你的模拟器文件夹。根据 iOS 版本来浏览,然后是应用名,可以直接在 Finder 中打开文件夹。 Spark Inspector -  在调试模式运行你的应用时,可以用 3D 来展示调试你的视图层次。这个

jopen 2013-08-27   62763   1
IOS  

Kafka剖析(一):高扩展、高吞吐的分布式消息系统初探 经验

率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm、Spark都支持与Kafka集成。InfoQ一直在紧密关注 Kafka的应用以及发展 ,“Kafka剖析”

jopen 2015-03-10   56968   0
1 2 3 4 5 6 7 8 9 10