溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Go怎么優(yōu)雅的使用字節(jié)池

發(fā)布時間:2022-08-24 11:01:32 來源:億速云 閱讀:140 作者:iii 欄目:開發(fā)技術(shù)

今天小編給大家分享一下Go怎么優(yōu)雅的使用字節(jié)池的相關(guān)知識點(diǎn),內(nèi)容詳細(xì),邏輯清晰,相信大部分人都還太了解這方面的知識,所以分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后有所收獲,下面我們一起來了解一下吧。

    背景

    在某些場景下,我們可能會大量的使用字節(jié)數(shù)組,比如IO操作、編解碼,如果不進(jìn)行優(yōu)化,大量的申請和釋放字節(jié)數(shù)組會造成一定的性能損耗,因此有必要復(fù)用字節(jié)數(shù)組。

    為何需要字節(jié)池

    在 Go 語言編程中,在從 io.Reader 中讀取數(shù)據(jù)時,我們都要創(chuàng)建一個字節(jié)切片 []byte 去存儲,在高頻調(diào)用或并發(fā)比較高的場景中,需要頻繁的進(jìn)行內(nèi)存申請和釋放,增大了 GC 的壓力,所以這時候需要采用 “字節(jié)池” 來優(yōu)化。

    最簡單的方式

    對于Go語言來說,我們第一個想到的就是使用sync.Pool來做字節(jié)數(shù)組的對象池,比如這樣:

    package bufferpool
    
    import "sync"
    
    type BytePool struct {
    	p sync.Pool
    }
    
    func NewBytePool(size, cap int) *BytePool {
    	if size > cap {
    		panic("size must be less then cap")
    	}
    	p := &BytePool{}
    	p.p.New = func() any {
    		return make([]byte, size, cap)
    	}
    	return p
    }
    
    // 獲取字節(jié)數(shù)組
    func (p *BytePool) Get() []byte {
    	return p.p.Get().([]byte)
    }
    
    // 歸還字節(jié)數(shù)組
    func (p *BytePool) Put(b []byte) {
    	// 重置已用大小
    	b = b[:0]
    	p.p.Put(b)
    }

    我們簡單的封裝了sync.Pool,sync.Pool.New根據(jù)指定的初始大小申請新的字節(jié)數(shù)組,在Put的時候重置字節(jié)數(shù)組的已用空間(這樣下次才能從頭開始使用)。

    測試

    我們進(jìn)行一個簡單性能測試,也就是不斷的申請字節(jié)數(shù)組,然后寫入長度為1024的字節(jié)數(shù)組塊,共64塊,也就是64KB,測試樣例共3個:

    不預(yù)先申請空間

    這個樣例我們不預(yù)先申請字節(jié)數(shù)組空間,因此在append的過程中會不斷的申請新的更大的空間,然后轉(zhuǎn)移字節(jié)數(shù)組內(nèi)容。

    func BenchmarkByte(b *testing.B) {
    	for n := 0; n < b.N; n++ {
                    // 從長度為0的字節(jié)數(shù)組開始
    		var b []byte
    		for i := 0; i < blocks; i++ {
    			b = append(b, block...)
    		}
    	}
    }
    預(yù)先申請空間

    由于這個測試的總大小的預(yù)先知道的,因此我們可以先提前申請空間,這樣就不用在append過程中不斷的申請新的更大空間,然后轉(zhuǎn)移字節(jié)數(shù)組內(nèi)容了。

    func BenchmarkMake(b *testing.B) {
    	for n := 0; n < b.N; n++ {
                    // 預(yù)先保留需要的空間
    		b := make([]byte, 0, blocks*blockSize)
    		for i := 0; i < blocks; i++ {
    			b = append(b, block...)
    		}
    	}
    }
    字節(jié)數(shù)組池

    這里我們每次先從字節(jié)池拿一個字節(jié)數(shù)組Get(),使用完之后歸還字節(jié)池Put()。

    func BenchmarkBytePool(b *testing.B) {
    	pool := NewBytePool(0, blocks*blockSize)
    	for n := 0; n < b.N; n++ {
                    // 拿字節(jié)數(shù)組
    		b := pool.Get()
    		for i := 0; i < blocks; i++ {
    			b = append(b, block...)
    		}
                    // 歸還
    		pool.Put(b)
    	}
    }
    測試結(jié)果

    可以看到我們簡單的字節(jié)池就可以帶來很大的性能提升!

    BenchmarkByte-16                   32470             38136 ns/op
    BenchmarkMake-16                  605449              1962 ns/op
    BenchmarkBytePool-16             1000000              1162 ns/op

    更優(yōu)雅的方式

    在實(shí)際的編程中,我們在使用字節(jié)數(shù)組時,很多時候都需要以一個流的形式去讀寫,同時也可能很難提前計(jì)算出需要的大小,因此bytes.Buffer可能更加適合實(shí)際的編程。

    package bufferpool
    
    import (
    	"bytes"
    	"sync"
    )
    
    type BufferPool struct {
    	p sync.Pool
    }
    
    func NewBufferPool(size, cap int) *BufferPool {
    	if size > cap {
    		panic("size must be less then cap")
    	}
    	p := &BufferPool{}
    	p.p.New = func() any {
    		var b []byte
    		if cap > 0 {
    			b = make([]byte, size, cap)
    		}
    		return bytes.NewBuffer(b)
    	}
    	return p
    }
    
    // 獲取字節(jié)數(shù)組
    func (p *BufferPool) Get() *bytes.Buffer {
    	return p.p.Get().(*bytes.Buffer)
    }
    
    // 歸還字節(jié)數(shù)組
    func (p *BufferPool) Put(b *bytes.Buffer) {
    	// 重置已用大小
    	b.Reset()
    	p.p.Put(b)
    }

    測試

    測試條件與上面相同。

    直接使用Buffer

    作為對比實(shí)驗(yàn)我們直接使用Buffer。

    func BenchmarkBuffer(b *testing.B) {
    	for n := 0; n < b.N; n++ {
    		b := bytes.NewBuffer(make([]byte, 0, blocks*blockSize))
    		for i := 0; i < blocks; i++ {
    			b.Write(block)
    		}
    	}
    }
    bytes.Buffer池
    func BenchmarkBufferPool(b *testing.B) {
    	pool := NewBufferPool(0, blocks*blockSize)
    	for n := 0; n < b.N; n++ {
    		b := pool.Get()
    		for i := 0; i < blocks; i++ {
    			b.Write(block)
    		}
    		pool.Put(b)
    	}
    }
    測試結(jié)果

    可以看到使用bytes.Buffer池比字節(jié)數(shù)組池性能差了一點(diǎn),主要是因?yàn)閎ytes.Buffer比較復(fù)雜,但是bytes.Buffer的功能比字節(jié)數(shù)組強(qiáng)大很多。

    BenchmarkByte-16                   31748             38131 ns/op
    BenchmarkMake-16                  605847              1964 ns/op
    BenchmarkBytePool-16             1000000              1162 ns/op
    BenchmarkBuffer-16                589336              2030 ns/op
    BenchmarkBufferPool-16            962132              1235 ns/op

    限制池大小

    有時候我們不想對象池?zé)o限大,因此我們需要限制對象池的大小,對于Go語言來說,我們可以使用channel+select,也就是申請一個固定長度緩沖區(qū)的channel,配合select的default分支。

    • Put:channel不滿則put,否則default分支丟棄這個對象。

    • Get:channel不空則get,否則default分支申請新對象。

    package bufferpool
    
    type ByteFixPool struct {
    	cache chan []byte
    	size  int
    	cap   int
    }
    
    // cacheSize: 字節(jié)池緩存長度
    // size: 字節(jié)數(shù)組長度
    // cap: 字節(jié)數(shù)組容量
    func NewByteFixPool(cacheSize, size, cap int) *ByteFixPool {
    	if size > cap {
    		panic("size must be less then cap")
    	}
    	return &ByteFixPool{
    		cache: make(chan []byte, cacheSize),
    		size:  size,
    		cap:   cap,
    	}
    }
    
    func (p *ByteFixPool) Get() []byte {
    	select {
    	// 從channel讀
    	case b := <-p.cache:
    		return b
    		// 如果channel空則申請一個新的字節(jié)數(shù)組
    	default:
    		return make([]byte, p.size, p.cap)
    	}
    }
    
    func (p *ByteFixPool) Put(b []byte) {
    	// 重置已用大小
    	b = b[:0]
    	select {
    	// 放入channel
    	case p.cache <- b:
    	// channel滿了則丟棄字節(jié)數(shù)組
    	default:
    	}
    }

    測試

    固定大小字節(jié)池

    這里使用固定大小字節(jié)池,同時預(yù)先分配空間。

    func BenchmarkByteFixPool(b *testing.B) {
    	pool := NewByteFixPool(16, 0, blocks*blockSize)
    	for n := 0; n < b.N; n++ {
    		b := pool.Get()
    		for i := 0; i < blocks; i++ {
    			b = append(b, block...)
    		}
    		pool.Put(b)
    	}
    }
    測試結(jié)果

    可以看到使用channel+select的性能甚至更好一點(diǎn),而且還能限制字節(jié)池大小,當(dāng)然相比于sync.Pool的實(shí)現(xiàn),它在字節(jié)池channel里面的空間是沒辦法自動回收的。

    BenchmarkByte-16                   31748             38131 ns/op
    BenchmarkMake-16                  605847              1964 ns/op
    BenchmarkBytePool-16             1000000              1162 ns/op
    BenchmarkBuffer-16                589336              2030 ns/op
    BenchmarkBufferPool-16            962132              1235 ns/op
    BenchmarkByteFixPool-16          1000000              1130 ns/op

    總結(jié)

    對于字節(jié)池來說。

    字節(jié)對象可以是:

    • []byte:字節(jié)數(shù)組

    • bytes.Buffer:功能更加強(qiáng)大的字節(jié)數(shù)組

    • 其他:比如一組bytes.Buffer

    實(shí)現(xiàn)方式可以是:

    • sync.Pool:根據(jù)GC期間對象是否使用回收對象

    • channel+select:限制字節(jié)池長度

    • 其他:比如限制對象池使用空間

    當(dāng)然,最通用的實(shí)現(xiàn)是sync.Pool+bytes.Buffer,因?yàn)?code>sync.Pool能夠自動回收字節(jié)對象,bytes.Buffer又能提供強(qiáng)大的功能。

    上面介紹的幾種都是比較常用的,而且實(shí)現(xiàn)也非常簡單的字節(jié)池,如果在業(yè)務(wù)中有更加復(fù)雜的需求,也可以根據(jù)需求實(shí)現(xiàn)一個字節(jié)池。

    以上就是“Go怎么優(yōu)雅的使用字節(jié)池”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家閱讀完這篇文章都有很大的收獲,小編每天都會為大家更新不同的知識,如果還想學(xué)習(xí)更多的知識,請關(guān)注億速云行業(yè)資訊頻道。

    向AI問一下細(xì)節(jié)

    免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

    go
    AI