首页

你的位置:不用充会员的污软件-草草免费直播在线观看手机官网-人畜人马狗 > 首页 > Netty常用招式—ChannelHandler与编解码

Netty常用招式—ChannelHandler与编解码

发布日期:2021-10-11 08:54    点击次数:96

上一篇文章我们深入学习了Netty逻辑架构中的核心组件ChannelHandler和ChannelPipeline,并介绍了它在日常开发使用中的最佳实践。文中也提到了,ChannelHandler主要用于数据输入、输出过程中的加工处理,比如编解码、异常处理等。

今天,我们就选取日常开发中最常用的一种ChannelHandler用途来学习——编解码器。

如果说ChannelHandler的学习是Netty的基础招式,那么编解码就是“基础招式”中衍生出的“常用招式“,我们往往会以一个ChannelHandler来实现编解码逻辑。无论是网络编程实战,还是面试八股文,都离不开编解码的知识。

本文预计阅读时间约 15分钟,

将重点围绕以下几个问题展开:

学习编解码器,从粘包/拆包开始 如何实现自定义编解码器 Netty有哪些开箱即用的编解码器 1、学习编解码器,从粘包/拆包开始 1.1 为什么会有粘包/拆包粘包/拆包

问题,相信大家都有所耳闻,这个问题的出现主要包括三个原因:

1)MTU 和 MSS 限制

MTU(Maxitum Transmission Unit) 是OSI五层网络模型中 数据链路层 对一次可以发送的最大数据的限制,一般来说大小为 1500 byte。

MSS(Maximum Segement Size) 是指 TCP报文中data部分的最大长度,它是传输层一次发送最大数据的大小限制。

MSS和MTU的关系如下所示:

MSS长度=MTU长度 - IP Header - TCP Header 

因此,当 MSS长度 + IP Header + TCP Header > MTU长度 时,就需要拆分多个报文进行发送,会导致“拆包”现象。

2)TCP滑动窗口

TCP的流量控制方法就是“滑动窗口”。当A向B发送数据时,B作为接收端会告知发送端A自己可以接受的窗口数值,以此来控制A的发送流量大小,从而达到流量控制的目的。

假设接收方B告知发送方A的窗口大小为256,意味着发送方最多还可以发送256个字节,而由于发送方的数据大小是518字节,因此只能发送前256字节,等到接收方ack后,才能发送剩余字节。会导致“拆包”现象。

3)Nagle算法

TCP/IP协议中,无论发送多少大小的数据,都要在数据(DATA)前面加上协议头(TCP Header + IP Header)。如果每次需要发送的数据只有 1 字节,加上 20 个字节 IP Header 和 20 个字节 TCP Header,每次发送的数据包大小为 41 字节,但真正有效的信息只有1个字节,这就造成了非常大的浪费。

因此,TCP/IP中使用Nagle 算法来提高效率。

Nagle 算法核心思想在于“化零为整“。它是在数据未得到确认之前先写入缓冲区,等待数据确认或者缓冲区积攒到一定大小再把数据包发送出去。

多个小数据包合并后一起发送出去,就造成了粘包。

1.2 怎么处理粘包/拆包

对于TCP,其实我们都知道它的一个特点就是“面向字节流”的传输协议,本身并没有数据包的界限。所以不管什么原因造成了“粘包/拆包”,TCP协议本身的数据传输是可靠且正确的。

我们首先要明确一点:“粘包/拆包”导致的问题,本质上是应用层的数据解析问题。

因此,解决拆包/粘包问题的核心方法:定义应用层的通信协议。

核心在于定义正确的数据边界。

常见协议的解决方案包括三种:

1)固定长度

每个数据报文都约定一个固定的长度。

当接收方累计读取到固定长度的报文后,就认为已经获得一个完整的消息。

比如我们要发送一个ABCDEFGHIJKLM的消息,约定固定消息长度为4,那么接收方就可以按照4的长度来解析。如下所示。

当发送方的数据小于固定长度时,比如最后一个数据包,只有MN两个字符,这时候就需要空位补齐。

这种方案非常简单,但是缺点也非常明显,非常不灵活。

如果固定长度定义太长,就会浪费数据传输空间。如果定义太短,就会影响正确的数据传输。

这种方法一般不采用。

2)特定分隔符

除了固定长度外,我们比较容易想到的区分“数据边界”的方法,就是用“特定分隔符”。当接收方读到特定的分隔符,就认为拿到了一个完整的消息。

比如我们使用换行符 \n 来区分。

AB\nCDEFG\nHIJK\nLMN\n 

这种方法就比较灵活了,适应不同长度的消息。但是,必须要注意,“特殊分隔符”不能和消息内容重复,否则就会解析失败了。

因此,我们在实践过程中,可以考虑把消息进行编码(如base64),然后用编码字符集之外的符号作为“特定分隔符”。

这种方案一般用在协议比较简单的场景中。

3)消息长度+内容

一般项目开发中,最通用的方式还是采用 消息长度+内容 的方式进行处理。

比如定义一个这样的消息格式:

以这样一个格式存储,消息接收方在解析时,先读取4字节长度的信息作为”消息长度“,这里是3,表示消息长度为3字节。然后就读取3字节的消息内容作为 完整 的消息。

举个例子:

2AB5CDEFG4HIJK3LMN 

消息长度+内容 的方式非常灵活,可以应用于各种场景中。

注意,在消息头中,除了定义消息长度外,还可以自定义其他扩展字段,比如消息版本、算法类型等。

2、如何在Netty中实现自定义编解码器

上面我们了解了出现“粘包/拆包”的原因以及常用的解决方法。下面看看如何在Netty中实现自定义编解码器。

Netty作为一个优秀的网络通信框架,已经提供了非常丰富的处理编解码的抽象类,我们只需要自定义编解码算法扩展即可。

2.1 自定义编码器

我们先来看看自定义编码器。因为编码器比较简单,不需要关注「粘包/拆包问题」。

常用的编码抽象类包括MessageToByteEncoder 和 MessageToMessageEncoder,继承自

ChannelOutboundHandlerAdapter,操作的是Outbound相关数据。

1)MessageToByteEncoder<I>

这个编码器用于消息对象编码成字节流。它提供了encode的抽象方法,我们只需要实现encode方法,就能进行自定义编码了。

编码器实现非常简单,不需要关注拆包/粘包问题。

我们举一个栗子,将String类型消息转换为字节流:

2)MessageToMessageEncoder

这个编码器用于将一种消息对象编码成另一种消息对象。这里的第二个Message可以理解为任意一个对象。如果是使用ByteBuf对象的话,就和上面的MessageToByteEncoder是一样的了。

我们找一个Netty自带的栗子看看,StringEncoder:

2.2 自定义解码器

解码器比编码器要复杂一些,因为需要考虑“拆包/粘包”问题。

由于接收方有可能没有接收到完整的消息,所以解码框架需要对入站的数据做缓冲操作,直至获取到完整的消息。

常用的解码器抽象类包括 ByteToMessageDecoder 和 MessageToMessageDecoder,继承自

ChannelInboundHandlerAdapter,操作的是Inbbound相关数据。

一般通用的做法是使用 ByteToMessageDecoder 解析 TCP 协议,解决拆包/粘包问题。解析得到有效的 ByteBuf 数据,然后传递给后续的 MessageToMessageDecoder 做数据对象的转换。

1)ByteToMessageDecoder

ByteToMessageDecoder解码器用于字节流解码成消息对象。

拿上面的“固定长度法”解决“粘包/拆包”举一个栗子,Netty自带的FixedLengthFrameDecoder。

通过固定长度frameLength,来对消息进行解析。

生产实践中,可能会使用更加复杂的协议来实现自定义编解码,比如protobuf。

2)MessageToMessageDecoder

MessageToMessageDecoder解码器用于将一种消息对象解码成另一种消息对象。如果你需要对解析后的字节数据做对象模型的转换,这时候便需要用到这个解码器。

3、Netty有哪些开箱即用的解码器

作为一个优秀的网络编程框架,Netty除了支持扩展自定义编解码器外,还提供了非常丰富的开箱即用的编解码器。尤其是针对我们上文1.2节中提过的三种解决「粘包/拆包问题」的方式,都有开箱即用的实现。

3.1 固定长度解码器 FixedLengthFrameDecoder

这个解码器上文已经提到过,对应1.2节中的「固定长度解码」,这里再稍微展开一下。

通过构造函数配置固定长度 frameLength,然后在decode时,按照frameLength 进行解码。

当读取到长度大小为 frameLength 的消息,那么解码器认为已经获取到了一个完整的消息。 当消息长度小于 frameLength,FixedLengthFrameDecoder 解码器会一直等后续数据包的到达,直至获得完整的消息。 3.2 特殊分隔符解码器 DelimiterBasedFrameDecoder

这个解码器对应1.2节中的「特殊分隔符解码」,也是一个继承自ByteToMessageDecoder的解码器。

这个解码器会使用 1个 或 多个 符号delimiter 对传入的消息(ByteBuf)进行解码。

我们看一下构造器,了解一下几个重要参数。

maxFranmeLength

maxFranmeLength 是待处理消息的最大长度限制。如果超过 maxFranmeLength 还没有检测到指定分隔符,将会抛出 TooLongFrameException。

stripDelimiter

stripDelimiter是一个boolean类型, 用于判断解码后得到的消息是否移除分隔符。如果 stripDelimiter=false,那么解码后的消息内容就会保留分隔符信息。

failFast

failFast是一个boolean类型。如果为true,那么消息在超出 maxFranmeLength 后,会立即抛出 TooLongFrameException。如果为false,那么会等到解码出一个完整的消息后才会抛出TooLongFrameException。

delimiters

delimiters 的类型是 ByteBuf 数组,可以在构造器中同时传入多个分隔符,但是在解析时,最终会选择长度最短的分隔符进行消息拆分。

例如收到的数据为:

ABCD\nEFG\r\n  

如果指定的分隔符为 \n 和 \r\n,那么会解码出两个消息。

ABCD   EFG 

如果指定的特定分隔符只有 \r\n,那么只会解码出一个消息:

ABCD\nEFG 
3.3 长度域解码器 LengthFieldBasedFrameDecoder

这个解码器是生产实践中运用比较广泛的一种(比如RocketMQ),相对复杂,但是特别灵活,基本能覆盖各种基于长度进行拆包的方案,比如1.2节中提到的「消息长度+内容」的方案。

使用这个解码器的时候,重点需要了解4个参数,掌握了参数的设置,就能快速实现不同的基于长度的拆包解码方案。

1)解码方案一:基于消息长度 + 消息内容,解码结果不截断消息头

报文只包含消息长度 Length 和消息内容 Content 字段,其中 Length 为 16 进制表示,共占用 2 字节,Length 的值 0x000C 代表 Content 占用 12 字节。

解码示例:

2)解码方案二:基于消息长度 + 消息内容,解码结果截断

与方案一不同之处在于,解码结果会截断消息头(跳过2字节)

解码示例:

3)解码方案三:基于消息头 + 消息长度 + 消息内容

消息起始位置添加特殊消息头,消息长度 Length字段 后移。

解码示例:

4)解码方案四:基于消息长度 + 消息头 + 消息内容

消息起始位置为消息长度 Length字段,后面并不直接添加 消息内容,而是先添加 消息头header,再添加 消息内容。

解码示例:

由于 Length 后面不是马上添加content,所以需要加上 lengthAdjustment(2 字节)才能得到 Header + Content 的内容(14 字节)。

4、小结

来简单回顾下吧。

本文主要介绍了ChannelHandler的一种典型应用场景——编解码器。

编解码器核心关注点在于「粘包/拆包」的处理,我们介绍了「粘包/拆包」产生的原因以及常用解决方案。然后说明了如何使用Netty框架实现自定义编解码器。

最后,介绍了Netty中非常好用的几个开箱即用的编解码器。

【编辑推荐】

鸿蒙官方战略合作共建——HarmonyOS技术社区 如何从Windows 10免费升级到Windows 11? Windows 11正式推送!安装方法、ISO镜像下载都在这里 突发!苹果正式关闭iOS 14.8验证系统 你升级了吗?Windows 11正式版发布 体积缩小40% 更新Windows 11了吗 为啥我到现在还没收到推送