概念

Netty 是一款提供异步的、事件驱动的网络应用程序框架和工具,用以快速开发高性能、高可靠性的网络服务器和客户端程序。

也就是说,Netty 是一个基于 NIO 的客户、服务器端编程框架。使用 Netty 可以确保你快速和简单地开发出一个网络应用,例如实现了某种协议的客户,服务端应用。Netty 相当简化和流线化了网络应用的编程开发过程,例如,TCP 和 UDP 的 socket 服务开发。

(以上摘自百度百科)。

解析

Netty特性

  • Netty 具有如下特性( 摘自《Netty in Action》 )
分类 Netty的特性
设计 1. 统一的 API ,支持多种传输类型( 阻塞和非阻塞的 )
2. 简单而强大的线程模型
3. 真正的无连接数据报套接字( UDP )支持
4. 连接逻辑组件( ChannelHander 中顺序处理消息 )以及组件复用( 一个 ChannelHandel 可以被多个ChannelPipeLine 复用 )
易于使用 1. 详实的 Javadoc 和大量的示例集
2. 不需要超过 JDK 1.6+ 的依赖
性能 拥有比 Java 的核心 API 更高的吞吐量以及更低的延迟( 得益于池化和复用 ),更低的资源消耗以及最少的内存复制
健壮性 1. 不会因为慢速、快速或者超载的连接而导致 OutOfMemoryError
2. 消除在高速网络中 NIO 应用程序常见的不公平读 / 写比率
安全性 完整的 SSL/TLS 以及 StartTLs 支持,可用于受限环境下,如 Applet 和 OSGI
社区驱动 发布快速而且频繁

Netty 的使用场景

  • 构建高性能、低时延的各种 Java 中间件,Netty 主要作为基础通信框架提供高性能、低时延的通信服务。例如:
    • RocketMQ ,分布式消息队列。
    • Dubbo ,服务调用框架。
    • Spring WebFlux ,基于响应式的 Web 框架。
    • HDFS ,分布式文件系统。
  • 公有或者私有协议栈的基础通信框架,例如可以基于 Netty 构建异步、高性能的 WebSocket、Protobuf 等协议的支持。
  • 各领域应用,例如大数据、游戏等,Netty 作为高性能的通信框架用于内部各模块的数据分发、传输和汇总等,实现模块之间高性能通信。

Netty 如何实现高性能

  • 性能是设计出来的,而不是测试出来的。那么,Netty 的架构设计是如何实现高性能的呢?
    • 线程模型 :采用异步非阻塞的 I/O 类库,基于 Reactor 模式实现,解决了传统同步阻塞 I/O 模式下服务端无法平滑处理客户端线性增长的问题。
    • 堆外内存 :TCP 接收和发送缓冲区采用直接内存代替堆内存,避免了内存复制,提升了 I/O 读取和写入性能。
    • 内存池设计 :支持通过内存池的方式循环利用 ByteBuf,避免了频繁创建和销毁 ByteBuf 带来的性能消耗。
    • 参数配置 :可配置的 I/O 线程数目和 TCP 参数等,为不同用户提供定制化的调优参数,满足不同的性能场景。
    • 队列优化 :采用环形数组缓冲区,实现无锁化并发编程,代替传统的线程安全容器或锁。
    • 并发能力 :合理使用线程安全容器、原子类等,提升系统的并发能力。
    • 降低锁竞争 :关键资源的使用采用单线程串行化的方式,避免多线程并发访问带来的锁竞争和额外的 CPU 资源消耗问题。
    • 内存泄露检测 :通过引用计数器及时地释放不再被引用的对象,细粒度的内存管理降低了 GC 的频率,减少频繁 GC 带来的时延增大和 CPU 损耗。

Netty 如何实现高可靠

  • 链路有效性检测:由于长连接不需要每次发送消息都创建链路,也不需要在消息完成交互时关闭链路,因此相对于短连接性能更高。为了保证长连接的链路有效性,往往需要通过心跳机制周期性地进行链路检测。使用心跳机制的原因是,避免在系统空闲时因网络闪断而断开连接,之后又遇到海量业务冲击导致消息积压无法处理。为了解决这个问题,需要周期性地对链路进行有效性检测,一旦发现问题,可以及时关闭链路,重建 TCP 连接。为了支持心跳,Netty 提供了两种链路空闲检测机制:
    • 读空闲超时机制:连续 T 周期没有消息可读时,发送心跳消息,进行链路检测。如果连续 N 个周期没有读取到心跳消息,可以主动关闭链路,重建连接。
    • 写空闲超时机制:连续 T 周期没有消息需要发送时,发送心跳消息,进行链路检测。如果连续 N 个周期没有读取对方发回的心跳消息,可以主动关闭链路,重建连接。
  • 内存保护机制:Netty 提供多种机制对内存进行保护,包括以下几个方面:

    • 通过对象引用计数器对 ByteBuf 进行细粒度的内存申请和释放,对非法的对象引用进行检测和保护。
    • 可设置的内存容量上限,包括 ByteBuf、线程池线程数等,避免异常请求耗光内存。
  • 优雅停机:优雅停机功能指的是当系统推出时,JVM 通过注册的 Shutdown Hook 拦截到退出信号量,然后执行推出操作,释放相关模块的资源占用,将缓冲区的消息处理完成或清空,将待刷新的数据持久化到磁盘和数据库中,等到资源回收和缓冲区消息处理完成之后,再退出。

总结

  • Netty 是一个基于 NIO 的客户、服务器端编程框架,拥有比 Java 的核心 API 更高的吞吐量以及更低的延迟,所以在技术上没有最好只有更好

  • Netty 主要作为基础通信框架提供高性能、低时延的通信服务,比如 RocketMQ、Dubbo都有使用。

参考