淺析go中的map數(shù)據(jù)結構字典

package main
import ( 
 "fmt"
)
// bool 的零值是false
var m map[int]bool 
a, ok := m[1]
fmt.Println(a, ok) // false false
// int 的零值是0
var m map[int]int 
a, ok := m[1]
fmt.Println(a, ok) // 0 false
func main() { 
 var agemap[string]int
 if age== nil {
 fmt.Println("map is nil.")
 age= make(map[string]int)
 }
}

func main() {
 exp := map[string]int{
 "steve": 20,
 "jamie": 80,
 }
 fmt.Println("Ori exp", age)
 newexp:= exp
 newexp["steve"] = 18
 fmt.Println("exp changed", exp)
}
//Ori age map[steve:20 jamie:80]
//age changed map[steve:18 jamie:80]

//正常遍歷：
for k, v := range exp { 
 fmt.Println(k, v)
}
//有序遍歷
import "sort"
var keys []string
// 把key單獨抽取出來，放在數(shù)組中
for k, _ := range exp {
 keys = append(keys, k)
}
// 進行數(shù)組的排序
sort.Strings(keys)
// 遍歷數(shù)組就是有序的了
for _, k := range keys {
 fmt.Println(k, m[k])
}

type hmap struct {
 count int //元素個數(shù)
 flags uint8 
 B  uint8 //擴容常量
 noverflow uint16 //溢出 bucket 個數(shù)
 hash0 uint32 //hash 種子
 buckets unsafe.Pointer //bucket 數(shù)組指針
 oldbuckets unsafe.Pointer //擴容時舊的buckets 數(shù)組指針
 nevacuate uintptr //擴容搬遷進度
 extra *mapextra //記錄溢出相關
}
type bmap struct {
 tophash [bucketCnt]uint8 
 // Followed by bucketCnt keys 
 //and then bucketan Cnt values 
 // Followed by overflow pointer.
}

 // mapextra holds fields that are not present on all maps.
type mapextra struct {
 // If both key and value do not contain pointers and are inline, then we mark bucket
 // type as containing no pointers. This avoids scanning such maps.
 // However, bmap.overflow is a pointer. In order to keep overflow buckets
 // alive, we store pointers to all overflow buckets in hmap.extra.overflow and hmap.extra.oldoverflow.
 // overflow and oldoverflow are only used if key and value do not contain pointers.
 // overflow contains overflow buckets for hmap.buckets.
 // oldoverflow contains overflow buckets for hmap.oldbuckets.
 // The indirection allows to store a pointer to the slice in hiter.
 overflow *[]*bmap
 oldoverflow *[]*bmap

 // nextOverflow holds a pointer to a free overflow bucket.
 nextOverflow *bmap
}

 type typeAlg struct {
 // function for hashing objects of this type
 // (ptr to object, seed) -> hash
 hash func(unsafe.Pointer, uintptr) uintptr
 // function for comparing objects of this type
 // (ptr to object A, ptr to object B) -> ==?
 equal func(unsafe.Pointer, unsafe.Pointer) bool

// tophash calculates the tophash value for hash.
func tophash(hash uintptr) uint8 {
 top := uint8(hash >> (sys.PtrSize*8 - 8))
 if top < minTopHash {
 top += minTopHash
 }
 return top
}

//makemap為make（map [k] v，hint）實現(xiàn)Go map創(chuàng)建。
//如果編譯器已確定映射或第一個存儲桶,可以在堆棧上創(chuàng)建，hmap或bucket可以為非nil。
//如果h！= nil，則可以直接在h中創(chuàng)建map。
//如果h.buckets！= nil，則指向的存儲桶可以用作第一個存儲桶。
func makemap(t *maptype, hint int, h *hmap) *hmap {
 if hint < 0 || hint > int(maxSliceCap(t.bucket.size)) {
 hint = 0
 }
 // 初始化Hmap
 if h == nil {
 h = new(hmap)
 }
 h.hash0 = fastrand()
 // 查找將保存請求的元素數(shù)的size參數(shù)
 B := uint8(0)
 for overLoadFactor(hint, B) {
 B++
 }
 h.B = B
 // 分配初始哈希表
 // if B == 0, 稍后會延遲分配buckets字段（在mapassign中）
 //如果提示很大，則將內存清零可能需要一段時間。
 if h.B != 0 {
 var nextOverflow *bmap
 h.buckets, nextOverflow = makeBucketArray(t, h.B, nil)
 if nextOverflow != nil {
  h.extra = new(mapextra)
  h.extra.nextOverflow = nextOverflow
 }
 }
 return h
}

// makeBucketArray初始化地圖存儲區(qū)的后備數(shù)組。
// 1 << b是要分配的最小存儲桶數(shù)。
// dirtyalloc之前應該為nil或bucket數(shù)組
//由makeBucketArray使用相同的t和b參數(shù)分配。
//如果dirtyalloc為零，則將分配一個新的支持數(shù)組，dirtyalloc將被清除并作為后備數(shù)組重用。
func makeBucketArray(t *maptype, b uint8, dirtyalloc unsafe.Pointer) (buckets unsafe.Pointer, nextOverflow *bmap) {
 base := bucketShift(b)
 nbuckets := base
 // 對于小b，溢出桶不太可能出現(xiàn)。
 // 避免計算的開銷。
 if b >= 4 {
 //加上估計的溢出桶數(shù)
 //插入元素的中位數(shù)
 //與此值b一起使用。
 nbuckets += bucketShift(b - 4)
 sz := t.bucket.size * nbuckets
 up := roundupsize(sz)
 if up != sz {
  nbuckets = up / t.bucket.size
 }
 }
 if dirtyalloc == nil {
 buckets = newarray(t.bucket, int(nbuckets))
 } else {
 // dirtyalloc先前是由上面的newarray（t.bucket，int（nbuckets）），但不能為空。
 buckets = dirtyalloc
 size := t.bucket.size * nbuckets
 if t.bucket.kind&kindNoPointers == 0 {
  memclrHasPointers(buckets, size)
 } else {
  memclrNoHeapPointers(buckets, size)
 }
 }

 if base != nbuckets {
 //我們預先分配了一些溢出桶。
 //為了將跟蹤這些溢出桶的開銷降至最低，我們使用的約定是，如果預分配的溢出存儲桶發(fā)生了溢出指針為零，則通過碰撞指針還有更多可用空間。
 //對于最后一個溢出存儲區(qū)，我們需要一個安全的非nil指針；只是用bucket。
 nextOverflow = (*bmap)(add(buckets, base*uintptr(t.bucketsize)))
 last := (*bmap)(add(buckets, (nbuckets-1)*uintptr(t.bucketsize)))
 last.setoverflow(t, (*bmap)(buckets))
 }
 return buckets, nextOverflow
}

// mapaccess1返回指向h [key]的指針。從不返回nil，而是 如果值類型為零，它將返回對零對象的引用,該鍵不在map中。
 //注意：返回的指針可能會使整個map保持活動狀態(tài)，因此請不要堅持很長時間。
 func mapaccess1(t *maptype, h *hmap, key unsafe.Pointer) unsafe.Pointer {
 if raceenabled && h != nil { //raceenabled是否啟用數(shù)據(jù)競爭檢測。
 callerpc := getcallerpc()
 pc := funcPC(mapaccess1)
 racereadpc(unsafe.Pointer(h), callerpc, pc)
 raceReadObjectPC(t.key, key, callerpc, pc)
 }
 if msanenabled && h != nil {
 msanread(key, t.key.size)
 }
 if h == nil || h.count == 0 {
 return unsafe.Pointer(&zeroVal[0])
 } 
 // 并發(fā)訪問檢查
 if h.flags&hashWriting != 0 {
 throw("concurrent map read and map write")
 }
 // 計算key的hash值
 alg := t.key.alg
 hash := alg.hash(key, uintptr(h.hash0)) // alg.hash
 // hash值對m取余數(shù)得到對應的bucket
 m := uintptr(1)<<h.B - 1
 b := (*bmap)(add(h.buckets, (hash&m)*uintptr(t.bucketsize)))
 // 如果老的bucket還沒有遷移，則在老的bucket里面找
 if c := h.oldbuckets; c != nil {
 if !h.sameSizeGrow() {
  m >>= 1
 }
 oldb := (*bmap)(add(c, (hash&m)*uintptr(t.bucketsize)))
 if !evacuated(oldb) {
  b = oldb
 }
 }
 // 計算tophash，取高8位
 top := uint8(hash >> (sys.PtrSize*8 - 8))
 for {
 for i := uintptr(0); i < bucketCnt; i++ {
  // 檢查top值，如高8位不一樣就找下一個
  if b.tophash[i] != top {
  continue
  }
  // 取key的地址
  k := add(unsafe.Pointer(b), dataOffset+i*uintptr(t.keysize))
  if alg.equal(key, k) { // alg.equal
  // 取value得地址
  v := add(unsafe.Pointer(b), dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))
  }
 }
 // 如果當前bucket沒有找到，則找bucket鏈的下一個bucket
 b = b.overflow(t)
 if b == nil {
  // 返回零值
  return unsafe.Pointer(&zeroVal[0])
 }
 }
}

// 與mapaccess類似，但是如果map中不存在密鑰，則為該密鑰分配一個插槽
func mapassign(t *maptype, h *hmap, key unsafe.Pointer) unsafe.Pointer {
 ...
 //設置hashWriting調用alg.hash，因為alg.hash可能出現(xiàn)緊急情況后，在這種情況下，我們實際上并沒有進行寫操作.
 h.flags |= hashWriting
 if h.buckets == nil {
 h.buckets = newobject(t.bucket) // newarray(t.bucket, 1)
 }
again:
 bucket := hash & bucketMask(h.B)
 if h.growing() {
 growWork(t, h, bucket)
 }
 b := (*bmap)(unsafe.Pointer(uintptr(h.buckets) + bucket*uintptr(t.bucketsize)))
 top := tophash(hash)
 var inserti *uint8
 var insertk unsafe.Pointer
 var val unsafe.Pointer
 for {
 for i := uintptr(0); i < bucketCnt; i++ {
  if b.tophash[i] != top {
  if b.tophash[i] == empty && inserti == nil {
   inserti = &b.tophash[i]
   insertk = add(unsafe.Pointer(b), dataOffset+i*uintptr(t.keysize))
   val = add(unsafe.Pointer(b), dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))
  }
  continue
  }
  k := add(unsafe.Pointer(b), dataOffset+i*uintptr(t.keysize))
  if t.indirectkey {
  k = *((*unsafe.Pointer)(k))
  }
  if !alg.equal(key, k) {
  continue
  }
  // 已經有一個 mapping for key. 更新它.
  if t.needkeyupdate {
  typedmemmove(t.key, k, key)
  }
  val = add(unsafe.Pointer(b), dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))
  goto done
 }
 ovf := b.overflow(t)
 if ovf == nil {
  break
 }
 b = ovf
 }
 //// 如果已經達到了load factor的最大值，就繼續(xù)擴容。
 //找不到鍵的映射。分配新單元格并添加條目。
 //如果達到最大負載系數(shù)或溢出桶過多，并且我們還沒有處于成長的中間，就開始擴容。
 if !h.growing() && (overLoadFactor(h.count+1, h.B) || 
 tooManyOverflowBuckets(h.noverflow, h.B)) {
 hashGrow(t, h)
 goto again // //擴大表格會使所有內容無效， so try again
 }
 if inserti == nil {
 // 當前所有存儲桶已滿，請分配一個新的存儲桶
 newb := h.newoverflow(t, b)
 inserti = &newb.tophash[0]
 insertk = add(unsafe.Pointer(newb), dataOffset)
 val = add(insertk, bucketCnt*uintptr(t.keysize))
 }
 // 在插入的位置，存儲鍵值
 if t.indirectkey {
 kmem := newobject(t.key)
 *(*unsafe.Pointer)(insertk) = kmem
 insertk = kmem
 }
 if t.indirectvalue {
 vmem := newobject(t.elem)
 *(*unsafe.Pointer)(val) = vmem
 }
 typedmemmove(t.key, insertk, key)
 *inserti = top
 h.count++
done:
 if h.flags&hashWriting == 0 {
 throw("concurrent map writes")
 }
 h.flags &^= hashWriting
 if t.indirectvalue {
 val = *((*unsafe.Pointer)(val))
 }
 return val
} 

func mapdelete(t *maptype, h *hmap, key unsafe.Pointer) {
 ...
 // Set hashWriting after calling alg.hash, since alg.hash may panic,
 // in which case we have not actually done a write (delete).
 h.flags |= hashWriting
 bucket := hash & bucketMask(h.B)
 if h.growing() {
 growWork(t, h, bucket)
 }
 b := (*bmap)(add(h.buckets, bucket*uintptr(t.bucketsize)))
 top := tophash(hash)
search:
 for ; b != nil; b = b.overflow(t) {
 for i := uintptr(0); i < bucketCnt; i++ {
  if b.tophash[i] != top {
  continue
  }
  k := add(unsafe.Pointer(b), dataOffset+i*uintptr(t.keysize))
  k2 := k
  if t.indirectkey {
  k2 = *((*unsafe.Pointer)(k2))
  }
  if !alg.equal(key, k2) {
  continue
  }
  // 如果其中有指針，則僅清除鍵。
  if t.indirectkey {
  *(*unsafe.Pointer)(k) = nil
  } else if t.key.kind&kindNoPointers == 0 {
  memclrHasPointers(k, t.key.size)
  }
  v := add(unsafe.Pointer(b), dataOffset+bucketCnt*uintptr(t.keysize)+i*uintptr(t.valuesize))
  if t.indirectvalue {
  *(*unsafe.Pointer)(v) = nil
  } else if t.elem.kind&kindNoPointers == 0 {
  memclrHasPointers(v, t.elem.size)
  } else {
  memclrNoHeapPointers(v, t.elem.size)
  }
 // 若找到把對應的tophash里面的打上空的標記
  b.tophash[i] = empty
  h.count--
  break search
 }
 }
 if h.flags&hashWriting == 0 {
 throw("concurrent map writes")
 }
 h.flags &^= hashWriting
} 

// overLoadFactor 判斷放置在1 << B個存儲桶中的計數(shù)項目是否超過loadFactor。
func overLoadFactor(count int, B uint8) bool {
 return count > bucketCnt && uintptr(count) > loadFactorNum*(bucketShift(B)/loadFactorDen) 
 //return 元素個數(shù)>8 && count>bucket數(shù)量*6.5,其中l(wèi)oadFactorNum是常量13，loadFactorDen是常量2,所以是6.5,bucket數(shù)量不算overflow bucket.
}
// tooManyOverflowBuckets 判斷noverflow存儲桶對于1 << B存儲桶的map是否過多。
// 請注意，大多數(shù)這些溢出桶必須稀疏使用。如果使用密集，則我們已經觸發(fā)了常規(guī)map擴容。
func tooManyOverflowBuckets(noverflow uint16, B uint8) bool {
 // 如果閾值太低，我們會做多余的工作。如果閾值太高，則增大和縮小的映射可能會保留大量未使用的內存。
 //“太多”意味著（大約）溢出桶與常規(guī)桶一樣多。有關更多詳細信息，請參見incrnoverflow。
 if B > 15 {
 B = 15
 }
 // 譯器在這里看不到B <16;掩碼B生成較短的移位碼。
 return noverflow >= uint16(1)<<(B&15)
}
{
 ....
 // 如果我們達到最大負載率或溢流桶過多，并且我們還沒有處于成長的中間，就開始成長。
 if !h.growing() && (overLoadFactor(h.count+1, h.B) || tooManyOverflowBuckets(h.noverflow, h.B)) {
 hashGrow(t, h)
 goto again // 擴大表格會使所有內容失效，so try again
 }
 //if (不是正在擴容 && (元素個數(shù)/bucket數(shù)超過某個值 || 太多overflow bucket)) {
 進行擴容
 //}
 ....
}

//僅對hash表進行擴容，這里不進行搬遷
func hashGrow(t *maptype, h *hmap) {
 // 如果達到負載系數(shù)，則增大尺寸。否則，溢出bucket過多，因此，保持相同數(shù)量的存儲桶并橫向“增長”。
 bigger := uint8(1)
 if !overLoadFactor(h.count+1, h.B) {
 bigger = 0
 h.flags |= sameSizeGrow
 }
 oldbuckets := h.buckets
 newbuckets, nextOverflow := makeBucketArray(t, h.B+bigger, nil)
 flags := h.flags &^ (iterator | oldIterator)
 if h.flags&iterator != 0 {
 flags |= oldIterator
 }
 // 提交增長（atomic wrt gc）
 h.B += bigger
 h.flags = flags
 h.oldbuckets = oldbuckets
 h.buckets = newbuckets
 h.nevacuate = 0
 h.noverflow = 0
 if h.extra != nil && h.extra.overflow != nil {
 // 將當前的溢出bucket提升到老一代。
 if h.extra.oldoverflow != nil {
  throw("oldoverflow is not nil")
 }
 h.extra.oldoverflow = h.extra.overflow
 h.extra.overflow = nil
 }
 if nextOverflow != nil {
 if h.extra == nil {
  h.extra = new(mapextra)
 }
 h.extra.nextOverflow = nextOverflow
 }
 //哈希表數(shù)據(jù)的實際復制是增量完成的，通過growWork（）和evacuate（）。
}

func growWork(t *maptype, h *hmap, bucket uintptr) {
 //確保我們遷移了了對應的oldbucket，到我們將要使用的存儲桶。
 evacuate(t, h, bucket&h.oldbucketmask())
 // 疏散一個舊桶以在生長上取得進展
 if h.growing() {
 evacuate(t, h, h.nevacuate)
 }
}

func main() {
 test := map[int]int {1:1}
 go func() {
 i := 0
 for i < 10000 {
  test[1]=1
  i++
 }
 }()
 go func() {
 i := 0
 for i < 10000 {
  test[1]=1
  i++
 }
 }()
 time.Sleep(2*time.Second)
 fmt.Println(test)
}
//fatal error: concurrent map read and map write

func main() {
 test := map[int]int {1:1}
 var s sync.RWMutex
 go func() {
 i := 0
 for i < 10000 {
  s.Lock()
  test[1]=1
  s.Unlock()
  i++
 }
 }()
 go func() {
 i := 0
 for i < 10000 {
  s.Lock()
  test[1]=1
  s.Unlock()
  i++
 }
 }()
 time.Sleep(2*time.Second)
 fmt.Println(test)
}

func main() {
 test := sync.Map{}
 test.Store(1, 1)
 go func() {
 i := 0
 for i < 10000 {
  test.Store(1, 1)
  i++
 }
 }()

 go func() {
 i := 0
 for i < 10000 {
  test.Store(1, 1)
  i++
 }
 }()

 time.Sleep(time.Second)
 fmt.Println(test.Load(1))
}

var intMap map[int]int
 func main() {
 printMemStats("初始化")
 // 添加1w個map值
 intMap = make(map[int]int, 10000)
 for i := 0; i < 10000; i++ {
  intMap[i] = i
 }
 // 手動進行gc操作
 runtime.GC()
 // 再次查看數(shù)據(jù)
 printMemStats("增加map數(shù)據(jù)后")
 log.Println("刪除前數(shù)組長度：", len(intMap))
 for i := 0; i < 10000; i++ {
  delete(intMap, i)
 }
 log.Println("刪除后數(shù)組長度：", len(intMap))
 // 再次進行手動GC回收
 runtime.GC()
 printMemStats("刪除map數(shù)據(jù)后")
 // 設置為nil進行回收
 intMap = nil
 runtime.GC()
 printMemStats("設置為nil后")
 }
 func printMemStats(mag string) {
 var m runtime.MemStats
 runtime.ReadMemStats(&m)
 log.Printf("%v：分配的內存 = %vKB, GC的次數(shù) = %v\n", mag, m.Alloc/1024, m.NumGC)
 }
 //初始化：分配的內存 = 65KB, GC的次數(shù) = 0
 //增加map數(shù)據(jù)后：分配的內存 = 381KB, GC的次數(shù) = 1
 //刪除前數(shù)組長度： 10000
 //刪除后數(shù)組長度： 0
 //刪除map數(shù)據(jù)后：分配的內存 = 381KB, GC的次數(shù) = 2
 //設置為nil后：分配的內存 = 68KB, GC的次數(shù) = 3