同步容器锁太粗
同步包装容器常把整个方法置于 synchronized 保护下,容易让独立操作在同一把锁上排队,高争用时吞吐可能下降。锁实现和状态演进随 JDK 版本变化,不能把“无竞争必偏向、竞争必重量级、每次必进内核”当通用过程。选容器时应比较访问比例、冲突范围与所需一致性。
主题对照
比较同步容器、写时复制、分段/桶锁等并发容器的一致性模型与读写取舍。
同步包装容器常把整个方法置于 synchronized 保护下,容易让独立操作在同一把锁上排队,高争用时吞吐可能下降。锁实现和状态演进随 JDK 版本变化,不能把“无竞争必偏向、竞争必重量级、每次必进内核”当通用过程。选容器时应比较访问比例、冲突范围与所需一致性。
CopyOnWriteArrayList 内部持有指向底层数组的 volatile 引用 array;写操作先复制一份新数组、在副本上改,改完再把 array 切到新数组,原数组回收。读操作直接访问当前数组,不需要加锁——要么读到修改前的完整旧数组,要么读到修改后的完整新数组,迭代也不受并发写打断。代价是写要整体复制,只适合读远多于写、数据规模可控的场景。
这是版本演进史,不是唯一实现:JDK 1.7 把哈希表拆成多个 Segment(继承 ReentrantLock),put 只锁 key 所在 Segment,粒度是”段级”。JDK 1.8 去掉分段,改在每个桶上做 CAS(无竞争)或 synchronized(有竞争),粒度缩到”桶级”。复合更新应优先用 compute/merge 而非 get-then-put。
选并发容器先看访问模型:读多写少可考虑 [[写时复制偏向读]],键值并发访问可考虑 [[CHM分段到桶锁]],生产消费可用 [[阻塞队列管背压]]。这些实现并非一律无锁:写时复制列表用锁串行化写入,阻塞队列也可能靠锁与条件等待。应分别权衡读写互斥、复制成本、容量和阻塞语义。
一次 CPU 偶发 100% 的事故:新上线的异步推送功能用 ConcurrentLinkedQueue 缓存事件,每次入队前先调用 size() 判断是否已满。jstack 显示大部分线程都卡在 size() 上:这类并发集合的 size() 需要遍历统计,时间复杂度是 O(n)。下游推送一阻塞、数据一积压,size() 就越来越慢。改进办法是换成环形队列、Disruptor 或其他有界队列。
同步包装只同步委托给底层列表的操作,不会增加底层支持的能力。Arrays.asList 返回固定大小列表,包装后调用 add 仍会抛 UnsupportedOperationException;要增删需换可变列表。若还要并发遍历时写入,应另选快照迭代容器,或在同步列表上将整个遍历加锁。
该实现用同一 ReentrantLock 保护修改方法,串行化并发写者,避免两个写者基于同一旧数组复制后互相覆盖;array 引用则声明为 volatile,副本写完后切换引用,供不加锁的访问器读取新快照。写锁负责写者互斥,volatile 负责发布引用,不能互相替代。
CopyOnWriteArrayList 创建迭代器时保存当时的数组引用,之后的写操作发布新数组而不改旧数组。因此当前遍历可稳定读完旧快照,不会看到迭代器创建后的增删;若要读取新状态,应重新创建迭代器。快照稳定性以短暂陈旧为代价。
BlockingQueue 按操作失败时的等待策略提供四种形式:抛异常、返回特殊值、持续阻塞、限时等待。插入常用 add/offer/put/offer(timeout),移除对应 remove/poll/take/poll(timeout)。按调用方需要“立即失败、检查结果、等到条件满足或等待有上限”选择,避免把阻塞误当成所有方法的共同语义。
本书所示ArrayBlockingQueue以定长数组及同一把锁串行保护两端;LinkedBlockingQueue使用节点和分离两端锁,可让生产与消费并行,但未指定容量时上限很大,应显式设界。数组队列构造器可选公平模式,针对等待插入/移除线程的获取顺序提供FIFO倾向,不保证CPU调度或所有调用的完成顺序。
DelayQueue 按元素的剩余延迟决定何时可取;未到期的队首不会被 take/移除操作交给消费者,消费者会等到元素到期。它适合到时触发的任务管理,但队列无界,仍需单独限制待处理任务量。
ArrayBlockingQueue 用 takeIndex 指向下次移除位置、putIndex 指向下次插入位置,并以 count 记录元素数。入队写入后推进 putIndex,出队清空后推进 takeIndex;任一索引到数组末尾都回绕到0,让固定数组循环复用。两端状态在同一把锁内更新。
peek() 在锁内读取 takeIndex 处的元素,不删除、不推进队首;队列为空时返回 null。它只报告调用时看到的队首,不会替调用方占有元素,因此不要把 peek 后的判断当成对后续消费的保证。
HashMap 不提供同步保护;多个线程并发访问且至少一个线程结构性增删映射时,调用方必须外部同步,或改用符合访问需求的并发容器。不能把某个旧实现的具体故障表现当成所有 JDK 版本都会发生的结果。
JDK 7 的 ConcurrentHashMap 以 Segment[] 分段;每个 Segment 继承 ReentrantLock,持有 HashEntry[],数组槽再以链表保存桶内键值。写操作争用按段隔离;它不是每个桶各有一把锁。
OpenJDK 7u 的 ConcurrentHashMap.HashEntry 中,hash、key 为 final,value 与 next 为 volatile。链路可由 setNext 更新,既有值也可变;两类更新都须考虑并发可见性。原书示例把 next 写成 final,却又调用 setNext,不能据这段代码推断真实实现链路固定。
原书展示的 JDK 7 ConcurrentHashMap.get() 根据哈希定位 Segment 与桶,用 Unsafe.getObjectVolatile 读取数组元素,再沿 HashEntry.next 查找;这条读路径不获取 Segment 锁。它与结构性写入的分段加锁形成读写路径差异。
put(key, value) 在键已存在时替换旧值;putIfAbsent(key, value) 只在键不存在时建立映射。选用时先确定业务要“更新”还是“仅初始化”,避免无意覆盖并发写入的结果。
原书中的 JDK 7 scanAndLockForPut 在竞争 Segment 锁时反复尝试加锁,并扫描目标桶;确认键不存在时提前构造候选节点,意图把部分查找和分配移出持锁区。书中后续接链代码与 HashEntry.next 的 final 声明矛盾,接链细节待复核。
原书描述的 JDK 8 ConcurrentHashMap 树桶由 TreeBin 作为桶根容器,内部再由 TreeNode 表示树节点;table 槽存放的是 TreeBin,不是直接存放 TreeNode。区分容器包装与数据节点,读实现时才不会把桶结构看错。
JDK 8 ConcurrentHashMap在向已有至少8个节点的桶再插入时考虑树化,并检查数组容量是否达到MIN_TREEIFY_CAPACITY(64);容量不足优先扩容。拆分后的桶若足够小,可按UNTREEIFY_THRESHOLD(6)退回链表。节点数阈值和数组容量阈值不能混为一谈,也不能把“插入后恰为8个”写成唯一触发条件。
JDK 8 ConcurrentHashMap 用 sizeCtl 协调懒初始化与扩容:首次 put 才分配 table;扩容时多个线程可分担迁移区间,已迁移桶以 ForwardingNode 标记,其他更新线程可协助转移。它表达控制状态,不是普通元素计数。
JDK 8 普通 Node 将 hash、key 声明为 final,将 val、next 声明为 volatile。键身份固定,值更新和链表后继则可见地变化;读实现时要区分稳定键字段与并发更新字段。
JDK 8 ConcurrentHashMap.putVal按桶状态分流:空桶用CAS插入;非空桶先锁定桶首节点,再在锁内复核数组槽仍指向该节点,随后修改链表或树。锁后复核防止等待锁期间槽位改变;这不是给整张表加锁。
原书展示的 JDK 8 ConcurrentHashMap.get 不获取桶锁:先以 volatile 语义读取数组槽,再按哈希、键相等性和节点类型查找,必要时沿 next 遍历。无锁不等于没有可见性约束,表槽与节点字段仍依赖并发安全的读取方式。
写多读少的内存 Map 若共用一把锁,不同键的更新也会互相等待。可按键分片,每片配独立锁;键空间适合直接索引且资源允许时,也可细化到逐记录锁。粒度越细,锁资源和管理成本越高,同一热点键仍会竞争;分片收益取决于访问分布,不能从片数推出固定的平方级降幅。这与 [[局部串行化优于全局串行化]] 相通。
连接池要确保一条独占连接同一时刻只借给一个请求。原文的 if lock[i]==0 后再写 lock[i]=1 不是原子操作;两个线程可能同时看见空闲并借出同一连接。
取用应受互斥锁、原子比较交换或线程安全队列保护;归还还要核对租借状态,避免重复归还或把失效连接重新投放。
在 Leader-Follower 模型中加共享队列,可缓冲任务并隔离接收与处理,却不会自动消除多个线程访问队列时的竞争。原文建议分成多个队列以缩小单点竞争,思路与 [[分片锁缩小不同键的竞争范围]] 相近。队列也可能通过无锁结构或批量操作改变竞争成本,因此“只是转移了锁、总量不变”不能当作普遍结论;应测量吞吐与等待时间。
点击箭头逐层展开,点击卡片标题查看详情。路径上下文仅用于连接层级,不计入主题卡片数。
来源书籍
编程语言类
书籍类型:经典原理
类别清单尚未核对
191 张卡片
来源书籍
系统架构类
书籍类型:工程实践
清单覆盖 7/7
70 张卡片
来源书籍
系统架构类
书籍类型:未标注
类别清单尚未核对
317 张卡片
与 5 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类
与 1 张主题卡片存在结构化链接;来自相同书籍;属于相同分类