场景: 针对一写多读、key不变的情况下高并发的读写
思路: 尽量减少锁
使用两个副本read、dirty,read.m不加锁, 它的元素使用CAS更新。read.amended 和 dirty的更新会加锁。
get:
不加锁: 存在于read中 || read.amended为false
多读的性能好,就要无锁;
无锁就要保证数据集没有更正;
如何判断数据没有更正? 使用amend来标记; (amend的更新是要加锁的)
如果更正了,在read找不到就去m.dirty找,并且使用misses来判断要不要恢复成无污染,misses达到阈值后就拷贝m.dirty到read中。
set:
不加锁: key存在于read中 && expunged为true(如果expunged为true,就说明dirty不为空,且没有这个key,就要更新dirty,为了到时候直接能从dirty拷贝到read中)
加锁: 增加key(增加完amended就必为true)
1)m.read中有key,那么更新 e.q ,unexpungeLocked 用CAS把expunged变成nil,如果CAS返回true,就设置dirty的k-v值;
2)m.read中无key,dirty有,更新e.q;
3)m.read、dirty都无key,则m.dirty[key] = newEntry(value)。amended 由 false 变成true要从read拷贝到m.dirty中(量大时很耗性能),expungeLocked 用CAS把nil变成expunged,expunged为true时就不拷贝(减少key-value对)。
delete:
不加锁: 存在于read中 || read.amended为false
删除也是尽量不加锁,当key存在于read的时候,使用的是entry的delete。
如果加锁,dirty直接delete。
说明
- read、dirty的value的类型为指针,不直接修改map的key对应的value,修改value的指向(tryStore使用CAS的无锁修改方式);
- readOnly 是只读的map,它自己不会修改,但它的成员指针对应的值会修改
- expunged 为了让key的数量能减少方案:
- m.read比m.dirty多了 amended 字段用来标记m.dirty是否为空,m.read的map都是从m.dirty上拷贝来的;
- Store(): 如果m.read中有key,那么更新 e.q,并保证m.dirty也有此key;如果m.dirty有key,就更新m.dirty;如果是新key,那么就更新m.dirty,之前先调用dirtyLocked(如上)。
性能分析
- 经常增删会导致dirty不断的变化,很耗性能;
通用技术
- 使用指针来实现map的写更新(map指向的结构体是不能修改的),value可以进行原子操作;
- 使用CAS实现无锁写;
- 使用冗余空间来实现map的读写分离,其中一个空间的读写加锁;
- double-checking: 先检查一遍,然后加锁再检查一遍,避免第一次检查后、加锁前,内容被修改;
- 两副本保证key能删除的方案:
利用 expunged 与 nil 的CAS: A->B key为空时转value成expunged,不拷贝key; B->A 直接拷贝; 更新A的key对应的value为expunged时,设置B[key]=value
https://colobu.com/2017/07/11/dive-into-sync-Map/
sync.Map 的浅拷贝问题: