Golang序列化框架对决 - 为什么andyleap/gencode那么快?

我在github上创建了一个Go语言序列化/反序列化库的性能比较的项目gosercomp,用来比较常见的Go语言生态圈的序列化库。
性能是以Go官方库提供的JSON/XML序列化库为基准,比较一下第三库能带来多大的性能提升。
尽管一些第三方库会自动产生Struct的代码,我们还是都以下面的数据结构为例:

1
2
3
4
5
type ColorGroup struct {
Id int `json:"id" xml:"id,attr" msg:"id"`
Name string `json:"name" xml:"name" msg:"name"`
Colors []string `json:"colors" xml:"colors" msg:"colors"`
}

其中Colors是一个slice。我并没有测试Struct嵌套以及循环引用的情况。

目前本项目包含了以下几种序列化库的性能比较:

对于序列化库的实现来讲,如果在运行时通过反射的方式进行序列化和反序列化,性能不会太好,比如官方库的Json和Xml序列化方法,所以高性能的序列化库很多都是通过代码生成在编译的时候提供序列化和反序列化的方法,下面我会介绍MessagePackgencode两种性能较高的序列化库。

本项目受alecthomas/go_serialization_benchmarks项目的启发。

对于第三方的序列化库,它们的数据结构的定义可能是自有形式的,比如Thrift:

1
2
3
4
5
6
7
namespace go gosercomp
struct ThriftColorGroup {
1: i32 id = 0,
2: string name,
3: list<string> colors,
}

比如flatbuffers:

1
2
3
4
5
6
7
8
9
namespace gosercomp;
table FlatBufferColorGroup {
cgId:int (id: 0);
name:string (id: 1);
colors: [string] (id: 2);
}
root_type FlatBufferColorGroup;

对于protobuf:

1
2
3
4
5
6
7
8
package gosercomp;
message ProtoColorGroup {
required int32 id = 1;
required string name = 2;
repeated string colors = 3;
}

看以看出,所有测试的数据结构都是一致的,它包含三个字段,一个是int类型的字段Id,一个是string类型的字段Name,一个是[]string类型的字段Colors

测试结果

完整的测试结果可以看这里,

以下是Json、Xml、Protobuf、MessagePack、gencode的性能数据:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
benchmark _name iter time/iter alloc bytes/iter allocs/iter
-------------------------------------------------------------------------------------------------------------------------
BenchmarkMarshalByJson-4 1000000 1909 ns/op 376 B/op 4 allocs/op
BenchmarkUnmarshalByJson-4 500000 4044 ns/op 296 B/op 9 allocs/op
BenchmarkMarshalByXml-4 200000 7893 ns/op 4801 B/op 12 allocs/op
BenchmarkUnmarshalByXml-4 100000 25615 ns/op 2807 B/op 67 allocs/op
BenchmarkMarshalByProtoBuf-4 2000000 969 ns/op 328 B/op 5 allocs/op
BenchmarkUnmarshalByProtoBuf-4 1000000 1617 ns/op 400 B/op 11 allocs/op
BenchmarkMarshalByMsgp-4 5000000 256 ns/op 80 B/op 1 allocs/op
BenchmarkUnmarshalByMsgp-4 3000000 459 ns/op 32 B/op 5 allocs/op
BenchmarkMarshalByGencode-4 20000000 66.4 ns/op 0 B/op 0 allocs/op
BenchmarkUnmarshalByGencode-4 5000000 271 ns/op 32 B/op 5 allocs/op

可以看出Json、Xml的序列化和反序列化性能是很差的。想比较而言MessagePack有10x的性能的提升,而gencode比MessagePack的性能还要好很多。

MessagePack的实现

MessagePack是一个高效的二进制序列化格式。它可以在多种语言直接交换数据格式。它将对象可以序列化更小的格式,比如对于很小的整数,它可以使用更少的存储(一个字节)。对于短字符串,它只需一个额外的字节来指示。

上图是一个27个字节的JSON数据,如果使用MessagePack的话可以用18个字节就可以表示了。

可以看出每个类型需要额外的0到n个字节来指明(数量依赖对象的大小或者长度)。上面的例子中82指示这个对象是包含两个元素的map (0x80 + 2), A7 代表一个短长度的字符串,字符串长度是7。C3代表true,C2代表false,C0代表nil。00代表是一个小整数。

完整的格式可以参照官方规范

MessagePack支持多种开发语言

题外话,一个较新的RFC规范 CBOR/rfc7049 (简洁的二进制对象表示)定义了一个类似的规范,可以表达更详细的内容。

推荐使用的Go MessagePack库是 tinylib/msgp,它比ugorji/go有更好的性能。

tinylib/msgp提供了一个代码生成工具msgp,可以为Golang的Struct生成序列化的代码,当然你的Struct应该定义msg标签,如本文上面定义的ColorGroup。通过go generate就可以自动生成代码,如本项目中生成的msgp_gen.go:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
package gosercomp
// NOTE: THIS FILE WAS PRODUCED BY THE
// MSGP CODE GENERATION TOOL (github.com/tinylib/msgp)
// DO NOT EDIT
import (
"github.com/tinylib/msgp/msgp"
)
// MarshalMsg implements msgp.Marshaler
func (z *ColorGroup) MarshalMsg(b []byte) (o []byte, err error) {
o = msgp.Require(b, z.Msgsize())
// map header, size 3
// string "id"
o = append(o, 0x83, 0xa2, 0x69, 0x64)
o = msgp.AppendInt(o, z.Id)
// string "name"
o = append(o, 0xa4, 0x6e, 0x61, 0x6d, 0x65)
o = msgp.AppendString(o, z.Name)
// string "colors"
o = append(o, 0xa6, 0x63, 0x6f, 0x6c, 0x6f, 0x72, 0x73)
o = msgp.AppendArrayHeader(o, uint32(len(z.Colors)))
for xvk := range z.Colors {
o = msgp.AppendString(o, z.Colors[xvk])
}
return
}
// UnmarshalMsg implements msgp.Unmarshaler
func (z *ColorGroup) UnmarshalMsg(bts []byte) (o []byte, err error) {
var field []byte
_ = field
var isz uint32
isz, bts, err = msgp.ReadMapHeaderBytes(bts)
if err != nil {
return
}
for isz > 0 {
isz--
field, bts, err = msgp.ReadMapKeyZC(bts)
if err != nil {
return
}
switch msgp.UnsafeString(field) {
case "id":
z.Id, bts, err = msgp.ReadIntBytes(bts)
if err != nil {
return
}
case "name":
……

生成的代码的使用类似官方库的Json和Xml,提供了Marshal和UnmarshalMsg的方法。

结合MessagePack的规范,可以看到MarshalMsg方法很简洁的,它使用了msgp.AppendXXX方法将相应的类型的数据写入到[]byte中,你可以预先分配/重用[]byte,这样可以实现 zero alloc。同时你也注意到,它也将字段的名字写入到序列化字节slice中,因此序列化后的数据包含对象的元数据。

反序列化的时候会读取字段的名字,再将相应的字节反序列化赋值给对象的相应的字段。

总体来说,MessagePack的性能已经相当高了,而且生成的数据也非常小,又是跨语言支持的,是值得关注的一个序列化库。

gencode

对于MessagePack还有没有可提升的空间?测试数据显示, andyleap/gencode的性能还要好,甚至于性能是MessagePack的两倍。

andyleap/gencode的目标也是提供快速而且数据很少的序列化库。
它定义了自有的数据格式,并提供工具生成Golang代码。

下面是我测试用的数据格式。

1
2
3
4
5
struct GencodeColorGroup {
Id int32
Name string
Colors []string
}

它提供了类似于Golang的数据类型struct,定义结构也类似, 并提供了一组数据类型。

你可以通过它的工具生成数据结构的代码:

1
gencode.exe go -schema=gencode.schema -package gosercomp

和MessagePack一样的处理,对于大于或者等于0x80的整数,它会使用2个或者更多的字节来表示。

但是与MessagePack不同的是,它不会写入字段的名字,也就是它不包含对象的元数据。同时,它写入的额外数据只包含字段的长度,并不需要指明数据的类型。
所有的值都以它的长度做先导,并没有像MessagePack那样为了节省空间会对对象进行压缩处理,所以它的代码会更直接而有效。

当然它们的处理都是通过字节的移位或者copy对字符串直接进行拷贝,这样的处理也非常的高效。

反序列化的时候也是依次解析出各字段的值,因为在编译的时候已经知道每个字段的类型,所以gencode无需元数据,可以聪明的对字节按照流的方式顺序处理。

可以看出,gencode相对于MessagePack,本身并没有为数据中加入额外的元数据的信息,也无需写入字段的类型信息,这样也可以减少生成的数据大小,同时它不会对小整数、短字符串,小的Map进行刻意的压缩,减少的代码的复杂度和判断分支,代码更加的简练而高效。

值得注意的是,gencode生成的代码除了官方库外不依赖其它的第三方库。

从测试数据来看,它的性能更胜一筹。

评论