微信公众号:[Java技术干货]
关注Java技术、关注前端后端全栈技术
。问题或建议,请公众号留言。
最近在弄一个高并发项目,经过接口压测后,各项指标不禁人意,也一直在搞程序调优(Nginx、Redis、数据库)。
真的是被虐得是体无完肤,发丝也日渐脆弱。
哎.............还在锤炼中.........
在调优的过程中,我把在程序中遇到多线程优化的几个场景案例记录分享一下,以供学习和交流。
场景一:数据拆分多个subList, 分批多线程导入
// map拆分成多个subList
List<Map<String, List<UserParam>>> userParams= MapUtil.mapChunk(userParam, BATCH_COUNT);
AtomicReference<CompletableFuture<Void>> all = new AtomicReference<>();
userParams.stream().forEach(userListMap -> {
// 每一个subList 创建一个线程处理,以下是无参返回
CompletableFuture<Void> cf = CompletableFuture.runAsync(() -> {
try {
// 此处要注意父级线程往子线程的参数传递,不然在子线程中会存在取不到值的情况
List<UserParam> threadTemp = new ArrayList<>();
userListMap.entrySet().stream().forEach(s -> {
threadTemp.addAll(s.getValue());
});
// 保存业务数据
saveData(threadTemp);
} finally {
}
});
all.set(CompletableFuture.allOf(cf));
});
all.get().join();
场景二:数据列表查询(一个方法多线程处理业务) 拆分多线程处理
List<CompletableFuture> comList = new ArrayList<>();
// 该计数器,是为了等待所有线程都执行完了,在往后执行
CountDownLatch countDownLatch = new CountDownLatch(1); // 1 代表会初始化1个计数,这个是跟随创建线程数量保持一致
CompletableFuture<Void> cf = CompletableFuture.runAsync(() -> {
// 具体写业务的地方
......
}, asyncExecutor); // 采用异步线程交给线程池,避免无限创建线程
// 添加一个异步等待线程去监听cf 是否完成执行
CompletableFuture cf2 = cf.whenCompleteAsync((result, error) -> {
// 如果完成,则把计数器减1
countDownLatch.countDown();
});
comlist.add(cf2);
// 最后固定写法
CompletableFuture<Void> all = CompletableFuture.allOf(comList.toArray(new CompletableFuture[comList.size()]));
all.join();
try {
countDownLatch.await();
} catch (InterruptedException e) {
log.error("线程中断异常:{}", e);
}
场景三:多线程带返回值处理
CountDownLatch countDownLatch = new CountDownLatch(count);
List<CompletableFuture> comlist = new ArrayList<>();
List<PdfContent> resultList = new ArrayList<>();
CompletableFuture<PdfContent> futureResult = CompletableFuture.supplyAsync(()->{
PdfContent result = new PdfContent;
// 业务处理 返回result结果
return result;
}, asyncExecutor);
CompletableFuture futureCompleteResult = futureResult.whenCompleteAsync((result, exception) -> {
resultList.add(result);
countDownLatch.countDown();
});
comlist.add(futureCompleteResult);
// 最后都一样的处理
CompletableFuture<Void> all = CompletableFuture.allOf(comlist.toArray(new CompletableFuture[count]));
all.join();
try {
countDownLatch.await();
// 对resultList结果进行排序,多线程处理返回结果是无序的,需要进行排序
Collections.sort(resultList, new Comparator<PdfContent>() {
@Override
public int compare(PdfContent o1, PdfContent o2) {
return o1.getIndex() - o2.getIndex();
}
});
} catch (InterruptedException e) {
e.printStackTrace();
}
上面的是我在项目采用多线程优化过程中,一些常用的多线程场景写法,赶快收藏起来。
注意点
在写多线程的过程中,需要注意线程间的共享变量传递,比如Request
对象,SecurityContext
上下
文。因为这些对象信息是用ThreadLocal
存储的,如果里面存在多线程,变量值是不会传递,需要
在子线程显式的赋值对象和移除对象。
总结
经过该项目的历练,也让我学习到整个项目调优全貌过程。
从压测工具使用和压测脚本编写
再到程序调优,中间件(Nginx/Redis/Mysql)调优
监控程序进行性能分析,找到造成QPS不高的问题点
也算是有个比较全面的项目调优经验。