通用高性能 Windows Socket 组件:HP-Socket

dumiyue 11年前

HP-Socket

  
HP-Socket 是一套通用的高性能 Windows Socket 组件包,包含服务端组件(IOCP 模型)和客户端组件(Event Select 模型),广泛适用于 Windows 平台的 TCP 通信系统。HP-Socket 对通信层实现完全封装,上层应用不必关注通信层的任何细节;HP-Socket 提供基于事件通知模型的 API 接口,能非常简单高效地整合到各类应用程序中;另外,为了让大家能更方便的学习 HP-Socket,特此精心制作了一个功能测试示例(Test Echo)一个性能测试示例(Test Echo-PFM)一个 PULL 模型测试示例(Test Echo-Pull),用户可以通过这两个测试示例入手,迅速掌握组件的设计思想和使用方法。

----------------------------------------------------------------

通用性

  • 通信组件的唯一职责就是接受和发送字节流,绝对不能参与上层协议解析等工作;
  • 与上层使用者解耦、互不依赖,组件与使用者通过操作接口和监听器接口进行交互,组件实现操作接口为上层提供操作方法;使用者实现监听器接口把自己注册为组件的 Listener,接收组件通知。因此,任何使用者只要实现了监听器接口都可以使用组件;另一方面,甚至可以自己重新写一个实现方式完全不同的组件实现给使用者调用,只要该组件遵从组件的操作接口,这也是 DIP 设计原则的体现。

可用性

  可用性对所有通用组件都是至关重要的,如果太难用还不如自己重头写一个来得方便。因此,组件的操作接口和监听器接口设计得尽量简单易用(通俗来说就是“傻瓜化”),这两个接口的主要方法均不超过 5 个。另外,组件完全封装了所有的底层 Socket 通信,上层应用看不到任何通信细节,不必也不能干预任何通信操作,Socket 连接被抽象为 Connection ID,该参数作为连接标识提供给上层应用识别不同的连接。

高性能

  作为底层的通用组件,性能问题是必须考虑的,绝对不能成为系统的瓶颈。而另一方面,从实际出发,根据客户端组件与服务端组件的性能要求采用不同的 Socket 模型。组件在设计上充分考虑了性能、现实使用情景、可用性和实现复杂性等因素,确保满足性能要求的同时又不会写得太复杂。做出以下两点设计决策:

  • 客户端:在单独线程中实现 Socket 通信交互。这样可以避免与主线程或其他线程相互干扰;I/O 模型选择 Event Select 通信模型。
  • 服务端:采用 Windows 平台效率最高的 IOCP 通信模型;利用缓存池技术,在通信的过程中,通常需要频繁的申请和释放内存缓冲区,建立了动态缓存池, 只有当缓存池中没有可用对象时才创建新对象,而当缓存对象过多时则会压缩缓存池;另外,组件的动态内存通过私有堆(Private Heap)机制分配,避免与 new / malloc 竞争同时又减少内存空洞。

伸缩性

  可以根据实际的使用环境要求设置组件的各项性能参数(如:工作线程的数量、各种缓存池的大小、收发缓冲区的大小、Socket 监听队列的大小、Accep 派发的数目以及心跳检查的间隔等)。

  (项目主页:点击这里,下载地址:点击这里)


 PUSH / PULL 模型简介:

  通信组件向上层应用提交数据有以下两种模式:

  1. PUSH 模型:当通信组件接收到数据后调用应用接口的 OnReceive(dwConnID, const BYTE* pData, int iLength) 方法向应用程序推送数据,应用程序实现该方法并在方法内部取得 pData 进行处理。
  2. PULL 模型:当通信组件接收到数据后调用应用接口的 OnReceive(dwConnID, int iTotalLength) 方法(注意,不包含 pData 参数)通知应用程序有 iLength 长度的数据可取,如果应用程序认为该长度的数据能组成一个完整的数据包则调用通信组件的 Fetch(BYTE* pData, int iDataLength) 方法抓取 iDataLength 长度的数据(iDataLength <= iTotalLength)。

  其中 PUSH 模型效率相对较高,但应用程序本身要负责处理解包和粘包等问题,带来一定的复杂性;PULL 模型则相对简单,只要上层协议定义得足够严谨(PULL 模型的数据包通常划分为 Header 数据包和 Body 数据包),能大大简化数据包处理工作,但由于组件中间加了一个间接层,效率往往低于 PUSH模型。


 更新记录:

 *** v2.2.1 更新 ***

> PULL 模型支持:

-----------------

  1. ISocketListener 增加 PULL 模型数据接收通知方法 OnReceive(dwConnID, int)
  2. 增加 PULL Socket 接口 IPullSocket,该接口的 Fetch(dwConnID, pBuffer, iLength) 方法用于抓取通信数据

> Server:

-----------------

  1. 服务端 Socket 接口 ISocketServer 改名为 IServerSocket
  2. 增加 PULL Server Socket 监听器抽象类 CPullServerSocketListener
  3. 增加 PULL Server Socket 接口 IPullServerSocket
  4. 增加 PULL Server Socket 实现类 CIocpPullServer

> Client:

-----------------

  1. 客户端 Socket 接口 ISocketClient 改名为 IClientSocket
  2. 客户端 Socket 实现类 CSocketClient 改名为 CClientSocket
  3. 增加 PULL Client Socket 监听器抽象类 CPullClientSocketListener
  4. 增加 PULL Client Socket 接口 IPullClientSocket
  5. 增加 PULL Client Socket 实现类 CPullClientSocket  

> 其它更新:
-----------------

  1. 增加 PULL Socket 测试程序 TestEcho-Pull
  2. 在 SocketHelper.h (.cpp) 中添加若干帮助结构体

> 升级说明:
-----------------

  1. 使用 HP-Socket v2.1.1 的应用程序可以安全升级到 v2.2.1
  2. 由于 ISocketServer、ISocketClient 和 CSocketClient 的名称已修改,因此,应用程序需要对引用的名称和包含的头文件名作相应修改

 相关博文:

高性能 Windows Socket 服务端与客户端组件(源代码及测试用例下载)

基于 IOCP 的通用异步 Windows Socket TCP 高性能服务端组件的设计与实现

通用异步 Windows Socket TCP 客户端组件的设计与实现