跳转到内容
主菜单
主菜单
移至侧栏
隐藏
导航
首页
最近更改
随机页面
MediaWiki帮助
默认wiki名称
搜索
搜索
创建账号
登录
个人工具
创建账号
登录
查看“线程池遇到父子任务,有大坑,要注意!”的源代码
页面
讨论
简体中文
阅读
查看源代码
查看历史
工具
工具
移至侧栏
隐藏
操作
阅读
查看源代码
查看历史
常规
链入页面
相关更改
特殊页面
页面信息
←
线程池遇到父子任务,有大坑,要注意!
因为以下原因,您没有权限编辑本页:
您请求的操作仅限属于这些用户组的用户执行:
用户
、
管理员
您可以查看和复制此页面的源代码。
<div> 你好呀,我是歪歪。 最近在使用线程池的时候踩了一个坑,给你分享一下。 在实际业务场景下,涉及到业务代码和不同的微服务,导致问题有点难以定位,但是最终分析出原因之后,发现可以用一个很简单的例子来演示。 所以歪师傅这次先用 Demo 说问题,再说场景,方便吸收。 [[Image:3b3a6df1ba14ff3277669c7d819ffb35.png]] == Demo == 老规矩,还是先上个代码: [[Image:d9a3771d23cfc53006ef2fe81c828478.png]] 这个代码的逻辑非常简单,首先我们搞了一个线程池,然后起一个 for 循环往线程池里面仍了 5 个任务,这是核心逻辑。 对于这几个任务,我们的这个自定义线程池处理起来,不能说得心应手吧,至少也是手拿把掐。 其他的 StopWatch 是为了统计运行时间用的。 至于 CountDownLatch,你可以理解为在业务流程中,需要这五个任务都执行完成之后才能往下走,所以我搞了一个 CountDownLatch。 这个代码运行起来是没有任何问题的,我们在日志中搜索“执行完成”,也能搜到 5 个,这个结果也能证明程序是正常结束的: [[Image:30944c4aa2f94528985ace6a035d4173.png]] 同时,可以看到运行时间是 4s。 示意图大概是这样的: [[Image:b7758895f3b93d90f7ba1dd4b3344b79.png]] 然后歪师傅看着这个代码,发现了一个可以优化的地方: [[Image:4cb73d3c13c2db007e63646ced1534da.png]] 这个地方从数据库捞出来的数据,它们之间是没有依赖关系的,也就是说它们之间也是可以并行执行的。 所以歪师傅把代码改成了这样: [[Image:6c25d532542a81f995237b32f26adf70.png]] 在异步线程里面去处理这部分从数据库中捞出来的数据,并行处理加快响应速度。 对应到图片,大概就是这个意思: [[Image:64b26c35106bef4442aa6ce3f9611a9e.png]] 把程序运行起来之后,日志变成了这样: [[Image:586ef1211a6297fd24a553071d64468e.png]] 我们搜索“执行完成”,也能搜到 5 个对应输出。 而且我们就拿“任务2”来说: [[Image:2e990a6610efbf157ee10b247c86fccc.png]] <pre><code>当前线程pool-1-thread-3,---【任务2】开始执行---<br> 当前线程pool-1-thread-3,---【任务2】执行完成---<br> 当前线程pool-1-thread-1,【任务2】开始处理数据=1<br> 当前线程pool-1-thread-2,【任务2】开始处理数据=2<br> </code> </pre> 从日志输出来看,任务 2 需要处理的两个数据,确实是在不同的异步线程中处理数据,也实现了我的需求。 但是,程序运行直接就是到了 9.9ms: [[Image:d553f5edc51e1c957aabde68c5f9816b.png]] 这个优化这么牛逼的吗? 从 4s 到了 9.9ms? 稍加分析,你会发现这里面是有问题的。 那么问题就来了,到底是啥问题呢? [[Image:4fdd8cabaf07fc9e7814576ae1e89173.png]] 你也分析分析大概是啥问题,别老是想着直接找答案啊。 [[Image:60349f8da8c26e68f659ab1532b16ba1.png]] 问题就是由于转异步了,所以 for 循环里面的任务中的 countDownLatch 很快就减到 0 了。 于是 await 继续执行,所以很快就输出了程序运行时间。 然而实际上子任务还在继续执行,程序并没有真正完成。 9.9ms 只是任务提交到线程池的时间,每个任务的数据处理时间还没算呢: [[Image:53e8f43c536d41e25529f015d66c20ca.png]] 从日志输出上也可以看出,在输出了 StopWatch 的日志后,各个任务还在处理数据。 这样时间就显得不够真实。 那么我们应该怎么办呢? 很简单嘛,需要子任务真正执行完成后,父任务的 countDownLatch 才能进行 countDown 的动作。 具体实现上就是给子任务再加一个 countDownLatch 栅栏: [[Image:ddbbb221de0b5e8da4081bcbc7ed6103.png]] 我们希望的运行结果应该是这样的: <pre><code>当前线程pool-1-thread-3,---【任务2】开始执行---<br> 当前线程pool-1-thread-1,【任务2】开始处理数据=1<br> 当前线程pool-1-thread-2,【任务2】开始处理数据=2<br> 当前线程pool-1-thread-3,---【任务2】执行完成---<br> </code> </pre> 即子任务全部完成之后,父任务才能算执行完成,这样统计出来的时间才是准确的。 思路清晰,非常完美,再次运行,观察日志我们会发现: [[Image:376ca04580aa8a09ba6da87673785cb5.png]] 呃,怎么回事,日志怎么不输出了? 是的,就是不输出了。 不输出了,就是踩到这个坑了。 不论你重启多少次,都是这样:日志不输出了,程序就像是卡着了一样。 [[Image:d1bf7a34886d15b82b940cdd8120b3ba.png]] == 坑在哪儿 == 上面这个 Demo 已经是我基于遇到的生产问题,极力简化后的版本了。 现在,这个坑也已经呈现在你眼前了。 我们一起来分析一波。 首先,我问你:真的在线上遇到这种程序“假死”的问题,你会怎么办? 早几年,歪师傅的习惯是抱着代码慢慢啃,试图从代码中找到端倪。 这样确实是可以,但是通常来说效率不高。 现在我的习惯是直接把现场 dump 下来,分析现场。 比如在这个场景下,我们直观上的感受是“卡住了”,那就 dump 一把线程,管它有枣没枣,打一杆子再说: [[Image:9c787b9b43270c354da8ad6564012377.png]] 通过 Dump 文件,可以发现线程池的线程都在 MainTest 的第 30 行上 parking ,处于等待状态: [[Image:adb1f78b462944e1a3bd4e17c4f4a5ef.png]] 那么第 30 行是啥玩意? [[Image:192799be62d77db668990c9433a014ee.png]] 这行代码在干啥? <blockquote> countDownLatchSub.await(); </blockquote> 是父任务在等待子任务执行结束,运行 finally 代码,把 countDownLatchSub 的计数 countDown 到 0,才会继续执行: [[Image:efe52188f4ac5cf9e2f78b14fb7d410a.png]] 所以现在的现象就是子任务的 countDownLatchSub 把父任务的拦住了。 换句话说就是父任务被拦住是因为子任务的 finally 代码中的 countDownLatchSub.countDown() 方法没有被执行。 好,那么最关键的问题就来了:为什么没有执行? 你先别往下看,闭上眼睛在你的小脑瓜子里面推演一下,琢磨一下:finally 为什么没有执行? [[Image:0a53164da6c6aefa0586784e9337a3f8.png]] 或者再换个更加接近真实的问题:子任务为什么没有执行? 这个点,非常简单,可以说一点就破。 琢磨明白了,这个坑的原理摸摸清楚了。 ... ... ... 琢磨明白了吗?你就刷刷往下看? [[Image:0d7341403c4854b1b11f2d5490db7248.png]] 没明白我再给你一个信息:需要结合线程池的参数和运行原理来分析。 什么? 你说线程池的运行原理你不清楚? 请你取关好吗,你个假粉丝。 ... ... ... 好,不管你“恍然大悟”了没有,歪师傅给你讲一下。 让你知道“一点就破”这四个是怎么回事儿。 首先,我们把目光聚焦在线程池这里: [[Image:20db9515b239ce1cb1b97df17c533756.png]] 这个线程池核心线程数是 3,但是我们要提交 5 个任务到线程池去。 父任务哐哐哐,就把核心线程数占满了。 接下来子任务也要往这个线程池提交任务怎么办? 当然是进队列等着了。 一进队列,就完犊子。 到这里,我觉得你应该能想明白问题了。 应该给到我一个恍然大悟的表情,并配上“哦哦哦~”这样的内心 OS。 [[Image:b86ca057200311896733cf445d48ba46.png]] '''你想想,父任务这个时候干啥?''' 是不是等在 countDownLatchSub.await() 这里。 而 countDownLatchSub.await() 什么时候能继续执行? 是不是要所有子任务都执行 finally 后? 那么子任务现在在干啥? 是不是都在线程池里面的队列等着被执行呢? 那线程池队列里面的任务什么时候才执行? 是不是等着有空闲线程的时候? 那现在有没有空闲线程? 没有,所有的线程都去执行父任务去了。 '''那你想想,父任务这个时候干啥?''' 是不是等在 countDownLatchSub.await() 这里。 ... 父任务在等子任务执行。 子任务在等线程池调度。 线程池在等父任务释放线程。 闭环了,相互等待了,家人们。 这,就是坑。 现在把坑的原理摸清楚了,我在给你说一下真实的线上场景踩到这个坑是怎么样的呢? [[Image:1cdb6e734ed28a6184b799742cfa21e6.png]] 上游发起请求到微服务 A 的接口 1,该接口需要调用微服务 B 的接口 2。 但是微服务 B 的接口 2,需要从微服务 A 接口 3 获取数据。 然而在微服务 A 内部,全局使用的是同一个自定义线程池。 更巧的是接口 1 和接口 3 内部都使用了这个自定义线程池做异步并行处理,想着是加快响应速度。 整个情况就变成了这样: # 接口 1 收到请求之后,把请求转到自定义线程池中,然后等接口 2 返回。 # 接口 2 调用接口 3,并等待返回。 # 接口 3 里面把请求转到了自定义线程池中,被放入了队列。 # 线程池的线程都被接口 1 给占住了,没有资源去执行队列里面的接口 3 任务。 # 相互等待,一直僵持。 我们的 Demo 还是能比较清晰的看到父子任务之间的关系。 但是在这个微服务的场景下,在无形之间,就形成了不易察觉的父子任务关系。 所以就踩到了这个坑。 == 怎么避免 == 找到了坑的原因,解决方案就随之而出了。 父子任务不要共用一个线程池,给子任务也搞一个自定义线程池就可以了: [[Image:1e543d770775a04baba28dec8aa3c740.png]] 运行起来看看日志: [[Image:af0720ff2706e5b1857da39308a976fb.png]] 首先整体运行时间只需要 2s 了,达到了我想要的效果。 另外,我们观察一个具体的任务: <pre><code>当前线程pool-1-thread-3,---【任务2】开始执行---<br> 当前线程pool-2-thread-1,【任务2】开始处理数据=1<br> 当前线程pool-2-thread-4,【任务2】开始处理数据=2<br> 当前线程pool-1-thread-3,---【任务2】执行完成---<br> </code> </pre> 日志输出符合我们前面分析的,所有子任务执行完成后,父任务才打印执行完成,且子任务在不同的线程中执行。 而使用不同的线程池,换一个高大上的说法就叫做:线程池隔离。 而且在一个项目中,公用一个线程池,也是一个埋坑的逻辑。 至少给你觉得关键的逻辑,单独分配一个线程池吧。 避免出现线程池的线程都在执行非核心逻辑了,反而重要的任务在队列里面排队去了。 这就有点不合理了。 最后,一句话总结这个问题: <blockquote> 如果线程池的任务之间存在父子关系,那么请不要使用同一个线程池。如果使用了同一个线程池,可能会因为子任务进了队列,导致父任务一直等待,出现假死现象。 </blockquote> == 想起从前 == 写这篇文章的时候,我想起了之前写过的这篇文章: [[《要我说,多线程事务它必须就是个伪命题!》]] 这篇文章是 2020 年写的,其中就是使用了父子任务+CountDownLatch 的模式,来实现所谓的“多线程事务”。 在文中我还特别强调了: <blockquote> 不能让任何一个任务进入队列里面。一旦进入队列,程序立马就凉。 </blockquote> [[Image:dee1f915d276cf050d5c219cc6c090c0.png]] 这句话背后的原理和本文讨论的其实是一样的。 好吧,原来多年前我就知道这个坑了。 只是多年后再次遇到这个坑的时候,我已经不再是那个二十多岁,喜欢深夜怼文的我了。 那一年的荒腔走板,图片中的沙发,当年只是想摆拍一下,当个道具,后来觉得坐着还挺舒服,我们就买回家了。 当年为了装修房子煞费苦心,现在也已经入住了 3 年有余的时间了。 当我回望几年前写的文章,在当时技术部分是最重要的,但是回望的时候这部分已经不重要了。 它已经由一篇技术文章变成了一个生活的锚点,其中的蛛丝马迹,能让我从脑海深处想起之前生活中一些不痛不痒的印迹。 一艘轮船,在靠岸之后要下锚,那个点位就是锚点。 锚点可以让船稳定在海岸边,不被风浪或者潮汐带走。 生活也需要锚点,我似乎找到了我的锚点。 </div>
返回
线程池遇到父子任务,有大坑,要注意!
。
开关有限宽度模式