golang中snappy的使用场合实例详解
时间：2021-05-09 07:43:11|栏目：Golang|点击： 次
前言
项目中遇到的压缩/解压缩需求应该是很多的，比如典型的考虑网络传输延时而对数据进行压缩传输，又或者其他各种省空间存储需求等。这次同样是遇到了类似需求，在做一个爬虫时，因为抓取项目还未确定，所以考虑将整个html页面压缩存储于数据库，于是又是各种google，最后不出意外的google到了google家的Snappy :-)
google 自家的snappy 压缩优点是非常高的速度和合理的压缩率。压缩率比gzip 小，CPU 占用小。
golang中snappy使用场合
下面是对几个简单的字符串做snappy 压缩前后对比：
package main
import (
"fmt"
"github.com/golang/snappy"
"io/ioutil"
)
var (
textMap = map[string]string{
"a": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`,
"b": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`,
"c": `???????????????雇萸⑴?翠そ戒プ遣怃?济浏浑浒浓浔??洱???洁????洄????洇????洋洌洎??????洒??????洗?ｄㄤ?洛?《???Ы?ㄤ???洪洫????洮洲洳??洵???蹭?郴钕?`,
"d": `???????????????雇萸⑴?翠そ戒プ遣怃?济浏浑浒浓浔??洱???洁????洄????洇????洋洌洎??????洒??????洗?ｄㄤ?洛?《???Ы?ㄤ???洪洫????洮洲洳??洵???蹭?郴钕???????????????雇萸⑴?翠そ戒プ遣怃?济浏浑浒浓浔??洱???洁????洄????洇????洋洌洎??????洒??????洗?ｄㄤ?洛?《???Ы?ㄤ???洪洫????洮洲洳??洵???蹭?郴钕???????????????雇萸⑴?翠そ戒プ遣怃?济浏浑浒浓浔??洱???洁????洄????洇????洋洌洎??????洒??????洗?ｄㄤ?洛?《???Ы?ㄤ???洪洫????洮洲洳??洵???蹭?郴钕?`,
}
imgSrc = []string{
"1.jpg", "2.jpg", "3.jpg", "4.jpg",
}
)
func main() {
for k, v := range textMap {
got := snappy.Encode(nil, []byte(v))
fmt.Println("k:", k, "len:", len(v), len(got))
}
fmt.Println("snappy jpg")
for _, v := range imgSrc {
buf, err := ioutil.ReadFile(v)
if err == nil {
got := snappy.Encode(nil, buf)
fmt.Println("k:", v, "len:", len(buf), len(got))
}
}
}
输出：
k: a len: 46 48 k: b len: 184 58 k: c len: 246 250 k: d len: 738 274 snappy jpg k: 1.jpg len: 302829 282525 k: 2.jpg len: 89109 89051 k: 3.jpg len: 124463 123194 k: 4.jpg len: 420886 368608
如果字符串包含重复字符多压缩才看到效果，对jpg 图片的压缩率不大。
对一个实际使用的数据库是否使用snappy 做对比，用户和文章都是10万，文章内容较简单。
使用snappy 压缩前：
用时 4m32.916312692s 数据库占用空间 176,209,920 字节（磁盘上的 172 MB）
使用snappy 压缩后：
用时 4m6.750271414s 数据库占用空间 159,424,512 字节（磁盘上的 150.9 MB）
从使用时间上看，此例压缩使用的CPU 时间小于数据压缩后省下来的数据存储IO 占用的时间。因为文章数据较短、内容简单，压缩效果不明显。
总结
