作业帮基于 Apache DolphinScheduler 3_0_0 的缺陷修复与优化

主要观点总结

本文介绍了作业帮大数据团队基于DolphinScheduler搭建的UDA任务调度平台的优化实践，包括修复DolphinScheduler3.0.0中的问题和稳定性优化，以及巡检流程和未来规划。文章详细描述了生产环境中遇到的问题，如线程泄漏、CPU飙高、任务分配不均等，并针对这些问题进行了详细的解决方案和修复措施。同时，文章还介绍了对历史数据的清理策略和监控面板的搭建，以及日常巡检的关注点和未来的规划。

关键观点总结

关键观点1: 生产环境中遇到的问题及解决方案

包括线程泄漏、CPU飙高、任务分配不均等、Master事件处理卡住等问题，并针对这些问题进行了详细的解决方案和修复措施。

关键观点2: 历史数据清理策略

介绍了对数据库和磁盘历史数据的清理策略，通过添加后台线程组件自动清理无用数据。

关键观点3: 监控面板的搭建

从集群、项目、WorkerGroup和Pod等维度搭建了监控面板和告警，以辅助巡检工作。

关键观点4: 日常巡检的关注点

关注集群、项目、WorkerGroup三个维度下的指标，包括Master Slot变化、集群水位、并发量、资源使用等稳定性指标。

关键观点5: 未来规划

随着业务量和使用场景的扩展，考虑升级DolphinScheduler版本，并反馈所做优化至社区。