优酷、YouTube、Twitter及JustinTV视频网站架构设计 经验

但是,优酷是如何解决跨shard的查询呢,这个是个难点,据介绍优酷是尽量不跨shard查询,实在不行通过多维分片索引、分布式搜索引擎,下策是分布式数据库查询(这个非常麻烦而且耗性能) 四、缓存策略 貌似大的系统都对“缓存

jopen 2015-10-06   58490   0
架构  
P49

  linux面试题知识整理 文档

方式访问设备 。 2. Linux内核引导时,从文件 /etc/fstab 中读取要加载的文件系统。 3. Linux文件系统中每个文件用 i节点 来标识。 4. 全部磁盘块由四个部分组成,分别为引导块 、专用块

ai小艺 2012-12-25   2647   0
P47

  http连接状态的保持技术 文档

目录1客户端与服务端交互过程2客户端解决方案3服务端解决方案4单点登录方案5常见分布式Session解决方案6在线公司分布式Session解决方案 3. 1、客户端与服务端交互过程 4. 什么是HTTPHTTP是hypertext

qiaozhong 2017-05-26   4385   0
网络技术   方案   HTTP   HTML   Java  
P50

  Java计算池技术架构 文档

数据库集群-Continuent,squeoia,mysql 自动化维护管理-cfengine+SVN 监控系统-分布式集群监控系统ganglia 管理系统 13. SVN/监控/配置引擎自动化管理Java应用LVS,入口LVS

huafenged 2011-08-18   518   0
P30

  大型高并发高负载网站的系统架构 文档

  缓存一词搞技术的都接触过,很多地方用到缓存。网站架构和网站开发中的缓存也是非常重要。这里先讲述最基本的两种缓存。高级和分布式的缓存在后面讲述。   架构方面的缓存,对Apache比较熟悉的人都能知道Apache提供了自己的

andylance 2013-02-17   580   0

Kafka和DistributedLog技术对比 经验

utedLog的概况。 Kafka是什么? Kafka是最初由Linkedin开源出来的一套分布式消息系统,现在由 Apache软件基金会 管理。这是一套基于分区的发布/订阅系统。Kafka中的关

fqmm1318 2016-09-28   48587   0

Apache所有项目介绍 经验

络的应用中,我们可以用CouchDB暂存数据,随后进行同步。也可以在Cloud环境中,作为大型的分布式的数据存储。CouchDB提供了基于 HTTP的API的访问方式,这样,保证了所有的常见的语言都可以使用CouchDB。

jopen 2015-01-07   72752   0
Apache  

后台程序员转算法的参考秘籍:大规模机器学习框架的四重境界 经验

如何利用相对廉价的机器搭建分布式超大规模机器学习集群是一件非常复杂的事情,对工程和算法都有极高的要求,从Spark到李沐的通用参数服务器,业界对此都进行过哪些尝试?本文尝试梳理一下这方面的历史和当前最佳实践。

TraceyVang 2017-10-09   42260   0

Kafka入门:简介、使用场景、设计原理、主要配置及集群搭建 经验

1、持久性 kafka使用文件存储消息,这就直接决定kafka在性能上严重依赖文件系统的本身特性.且无论任何OS下,对文件系统本身的优化几乎没有可能.文件缓 存/直接内存映射等是常用的手段.因为kafka是对日志文件进行append操作

jopen 2015-11-12   31728   0
P8

  Ganglia原理介绍 文档

能起到重要作用。 看下ganglia监控的一个图: 可以很只直观的观察系统的各个指标,特别是对于分布式系统来说,无疑非常重要,而且Hadoop,Hbase提供了集成了ganglia的配置文件。 2 工作原理以及配置简介

小牛牛 2015-03-24   640   0
P10

  windows下安装使用openldap 文档

500不同,LDAP支持TCP/IP,这对访问Internet是必须的。 目录是一个为查询、浏览和搜索而优化的专业分布式数据库,它成树状结构组织数据,就好象Linux/Unix系统中的文件目录一样。目录数据库和关系数据

l2121245 2017-01-17   1439   0
P10

  Windows下安装使用OpenLDAP 文档

500不同,LDAP支持TCP/IP,这对访问Internet是必须的。 目录是一个为查询、浏览和搜索而优化的专业分布式数据库,它成树状结构组织数据,就好象Linux/Unix系统中的文件目录一样。目录数据库和关系数据

icesunxu 2012-02-25   5410   0
P51

  C1000K 高性能服务器构建技术 文档

d dev ethX ... ] initcwnd 10 21. IO子系统  磁盘硬件的选择 文件系统的选择 IO调动算法的选择 page cache的设置 不同类型的IO系统调用   对IO的性能都有很多的影响!

erldy 2012-09-05   627   0
方案   Intel   ErLang   Go  

3亿Docker容器部署的挑战及应对方案 资讯

REST API、环境版本控制、获取 /提交镜像、轻松获取统计数据等功能。Docker支持使用 CoW文件系统 来更安全的隔离数据。这意味着,任务中对文件的所有改变都分开存储,并可以用一个命令清除。 LXC是不能跟踪这种变化。

jopen 2014-11-05   10668   0
Docker  

MapReduce原理与设计思想 经验

通过把牌分给多个玩家并且让他们各自数数,你就在 并行 执行运算,因为每个玩家都在同时计数。这同时把这项工作变成了 分布式的 ,因为多个不同的人在解决同一个问题的过程中并不需要知道他们的邻居在干什么。 通过告诉每个人

jopen 2014-12-04   32865   0

MongoDB与MySQL的插入、查询性能测试 经验

具备一些非常鲜明的特性。比如: 1.       它里面自带了一个名叫 GirdFS 的分布式文件系统 ,这就为MongoDB的部署提供了很大便利。而像MySQL这种比较早的数据库,虽然市面上有很

VanGillingh 2016-01-22   32313   0

科技公司钟爱的50款开源工具 资讯

apache.org 4. Presto Presto 由 Facebook 开发,自称是“一款开源分布式 SQL 查询引擎,用于对大大小小(从 GB 级到 PB 级)的数据源运行交互式分析查询。”Facebook

jopen 2016-02-26   38527   0

MapReduce实例浅析 经验

reduce任务 。通常作业的输入和输出都会被存储在文件系统中。 整个框架负责任务的调度和监控,以及重新执行已经失败的任务。 通常,Map/Reduce框架和分布式文件系统是运行在一组相同的节点上的,也就是说,

jopen 2014-12-19   17044   0

Docker 的现状与未来 资讯

迄今为止发生的那些事情 Docker 是一个专为 Linux 容器而设计的工具集,用于‘构建、交付和运行’分布式应用。它最初是 DotCloud 的一个开源项目,于2013年3月发布。这个项目越来越受欢迎,以至于

jopen 2015-01-30   37096   0
Docker  
P32

  VMware 云计算 文档

vNetwork的组件主要包括虚拟网络接口卡vNIC、vNetwork标准交换机vSwitch和vNetwork分布式交换机dvSwitch 1)虚拟网络接口卡 每个虚拟机都可以配置一个或者多个虚拟网络接口卡vNI

zhraner 2013-06-02   744   0
1 2 3 4 5 6 7 8 9 10