hello, world!
” } 简单前端框架满足的特性 . 模块分离，多人开发 . 无状态：前端可扩展 . 分层，UI分离 . 没有采用第三方Web框架 . 自建CMS解决掉大部分页 面显示 可扩展 (Scalability) √ 在线升级 √ 效率 可靠性 √ 可理解 √√ 简单核心 √√ 独立性 √ 模块化 √ CMS前端架构(局部) 从最简单开始 apache php . 能run就行 . 时间：1个月 . 功能：核心功能 . MySQL : 1 . 单点 . 搜索引擎：无 . 中间层：无 架构进化 . 访问量迅速增加，如何进化? . 改进策略：增加缓存 缓存黄金原则：local, local ,local CPU一级缓存 CPU二级缓存 内存 硬盘 LAN WAN . 如何让数据更靠近CPU? . 让少部分常用数据就近存起来 缓存数据 空闲槽 数据仅供参考 Browser HTTP缓存 – Squid/Varnish Cache proxyHTTP Reverse Proxy Browser Cache apache php apache php apache php HTTP Response: Cache-Control: max-age=3600, must-revalidate Expires: Fri, 28 Oct 2007 14:19:41 GMT Last-Modified: Mon, 27 Jun 2007 05:21:17 GMT 分布式内存key-value缓存 Browser Cache proxyCache proxy Browser Cache apache php apache php apache php Cache proxyMemcached Memcached 协议： 存：set key1 0 0 3\r\nfoo\r\n\--> STORED\r\n 取：get key1\r\n --> VALUE key1 0 3\r\nfoo\r\nEND\r\n 大文件缓存(内部项目) . Squid问题 . write()，用户进程空间消耗 . lighttpd1.5/AIO问题 . AIO读取文件到用户内存导致效率低下 . Sendfile() . ZeroCopy直接发送文件到网卡接口 . 不用内存做缓存 . 避免内存拷贝 . 避免锁 缓存满足的特性 . 如果数据可缓存，效率增 长明显 . 扩展性 . 缓存命中率直接影响效率 . 缓存技术容易被滥用 可扩展 (Scalability) √√ 在线升级 √ 效率 √ 可靠性 √√ 可理解 √√ 简单核心 √√√ 独立性 √ 模块化 √ 新的问题？ . 数据库成为性能瓶颈 Browser Cache proxyCache proxy Browser Cache apache php apache php apache php Cache proxyMemcached 扩展中间层 or 扩展数据库 VS read cluster MySQL Replication apache php apache php apache php write 主/从复制 MySQL 主/从复制过程 主库 丛库 100 ... 101 UPDATE t1... 102 INSERT t2... 103 ALTER t1... 104 ... UPDATE t1 ... INSERT t2... ALTER t1 ... I/O thread SQL thread binary log 100 ... 101 UPDATE t1... 102 INSERT t2... 103 ALTER t1... 104 ... relay log UPDATE t1 ... INSERT t2... ALTER t1 ... tcp 长连接 数据复制带来的特性 . 读扩展 – 适合读多写少的业务 . 可靠性 . 简单 . 复制延时 < 0.1s . 并非万灵金丹 . 复制延时恶化 可扩展 (Scalability) √√√ 在线升级 √ 效率 √ 可靠性 √√√ 可理解 √√ 简单核心 √√√√ 独立性 √ 模块化 √ MySQL 复制问题 – 无法写扩展 read cluster 100w 100w 250r 100w 250r 100w 250r 100 write 100w 250r apache php apache php apache php 1000 read . 写入无法扩展 . 写入无法缓存 . 复制延时 . 锁表率上升 . 表变大，缓存率下降 现在该如何进化? . MySQL Proxy/HSCALE ? lighttpd同一作者，进度受限。 lua中间层，性能/可维护性/成熟度？ . MySQL 分区技术 ? 无法进行跨服务器分区。 . MySQL集群(MySQL NDB Cluster) ? 厚重的瑞士军刀，层面过多，性能/复杂度？ . 没有银弹方案。 .? SSD优化MySQL . 某单台MySQL服务器(intel-4core,16G, ssd) . 单表8000万rows . 1000+连接/秒 . iowait < 1% read cluster DB写入拆分 read cluster apache php apache php apache php DB垂直分区 Part 1 Part 2 Part 3 其他 消息 用户其他 消息 用户 join join DB水平分片(Sharding) 其他 消息用户 其他 用户 消息 其他 用户 消息 Shard 1 Shard 2 按user_id分片 分片定位 apache php apache php apache php Sharding Manager User_ID Shard_ID 101 1 102 1 103 2 目录 Shard 1 Shard 2 (1) 获取user 103的messages (2) user 103在哪?(3) shard 2 Shard群的分组管理 Server1 shard_db1 shard1 shard2 shard3 shard_db2 shard4 shard5 shard6 Server2 shard_db3 shard7 shard8 shard9 shard_db4 shard10 shard11 shard12 如何处理跨shard的查询? . 上策：不面对 . 中策：多维分片索引、分布式搜索引擎 . 下策：分布式数据库查询 良好的扩展性 Browser Cache proxyCache proxy Browser Cache apache php apache php apache php Cache proxyMemcached 分区带来的特性 . 分区并非必要 . 增加管理复杂度 可扩展 (Scalability) √√√√ 在线升级 √ 效率 √ 可靠性 √√√√ 可理解 √√√ 简单核心 √√√√ 独立性 √ 模块化 √ Part IV 网络吞吐量优化 . 吞吐量同响应速度的不同 . 进程切换开销 . 保持当前cpu寄存器(eax,ebx,esi,edi,...) . 恢复新进程cpu寄存器(eax,ebx,esi,edi,...) . jmp new_eip . fork/pthread问题 . 大量进程切换开销 . 寄存器越多效率越低 . 用vmstat查看cs . Apache prefork和MySQL的pthread . 大量进程切换开销过大 事件驱动 . select()问题 . 1024限制 . 位扫描 . poll()问题 . 从内核到用户进程拷贝描述符数组 . epoll(kernel 2.6+) . 采用mmap()避免内核到用户进程的拷贝 . libevent封装epoll/kqueue . epoll推动当今Web . memcached/lighttpd/nginx/squid/haproxy 案例：Memcached 连接问题 . PHP对memcached的tcp连 接开销 . 静态Hash扩展不方便 本地Memcached agent(内部项目) . 基于libevent(封装epoll) . memcached兼容接口 . 本地unix domain socket . 对Memcached长连接 . Memcached动态任意扩展(Consistent hashing) agent memcached phpphp tcp连接池 unix domain socket memcached Q & A 谢谢！
贡献于2010-12-01