Postgres 队列如何突破局限?每秒 30000 次工作流执行的优化秘籍!
【DBOS 产品与资源介绍】可点击链接查看产品如 DBOS Transact开源持久执行库、DBOS Conductor代理与工作流的控制平面。也能点击链接查看更多信息包括定价、客户案例等。资源链接涵盖关于 DBOS、视频、合作伙伴等相关内容文档链接有快速入门、详细文档、示例应用程序等。还有博客可探索以及更多持久执行库相关仓库。7 月 24 日有 DBOS 用户组会议。产品还有 DBOS Cloud一键部署扩展到数百万规模。【Postgres 队列能否扩展】通常认为基于 Postgres 的队列无法扩展处理大规模工作负载需采用专门队列系统如 RabbitMQ Celery 或 Redis BullMQ因为队列对 Postgres 是具有挑战性的工作负载大规模场景下会引发争用和索引频繁更新。但通过正确优化Postgres 也能应对挑战可实现每秒 30000 次工作流执行且能跨数千台服务器运行。【经验一重新发现 SKIP LOCKED】要让基于 Postgres 的队列正常工作需解决多个工作进程出队相同工作流时的争用问题。基于 Postgres 的队列工作方式是客户端将工作流入队工作进程出队并处理最早入队的工作流。多个工作进程同时运行查询会产生争用成为系统瓶颈。幸运的是Postgres 提供锁定子句解决此问题如使用 FOR UPDATE SKIP LOCKED 的查询它能锁定行并跳过已锁定的行使许多工作进程可在无争用情况下同时拉取新工作流。锁定子句使基于 Postgres 的队列成为可能但实现更大规模扩展还需更多优化。【经验二注意事务隔离级别】锁定子句虽提高了性能但在大规模场景下出队操作常因 Postgres 的“序列化失败”异常而失败形成性能瓶颈。问题根源在于 Postgres 的事务隔离级别最初出队事务以 REPEATABLE READ 级别运行以支持全局队列限制但在高并发情况下成本很高工作进程花费在重试事务上的时间比处理工作流的时间还多。关键发现是大型队列很少使用全局流量控制用户通常更喜欢本地限制。因此使隔离级别具有条件性使用全局流量控制的队列继续使用 REPEATABLE READ不使用的队列则使用 READ COMMITTED消除了序列化失败并提高了吞吐量。【经验三索引并非免费】有了锁定子句和较低的隔离级别后争用问题几乎消失但每秒运行超过 8000 个工作流时会遇到高 CPU 使用率的新瓶颈问题来自出队查询本身和 Postgres 的自动清理根本原因是低效的索引。工作流状态表上的二级索引在大规模场景下效率低下出队索引需额外排序增加 CPU 使用率维护多个索引成本高索引更新和清理会消耗大量数据库 CPU 资源。解决方案是使索引更具选择性更新主要出队索引使其能排序并转换为部分索引同时将同样原则应用于大多数可观测性索引。综合这些优化CPU 使用率大幅降低使队列能扩展到每秒超过 30000 个工作流。【了解更多与分享】若热衷于构建可扩展、可靠的系统可查看快速入门、GitHub 及 Discord 社区。还有近期文章介绍了持久执行、AI 工作流等方面的新特性。文章还提供了分享到领英、推特、脸书及通过邮件分享的链接。【DBOS 产品与解决方案】DBOS 极大地简化了云应用程序的运维和部署。产品有 DBOS Cloud、DBOS Transact、定价计划等解决方案包括定时任务平台、持久 AI 工作流、持久数据管道、云现代化等开发者资源有文档、快速入门指南、示例、教程等还有公司信息如关于我们、隐私政策等。【开始使用 DBOS】可使用开源的 DBOS Transact 库永久免费也可搭配 DBOS Pro 获取高级工具和支持。还可订阅 DBOS 洞察获取相关更新产品有 DBOS Transact、DBOS Conductor 等有多种用例和客户案例也提供开发者资源和公司相关信息。

相关新闻

深度学习增强的视频压缩框架:Neutron Star 如何超越 VVC

深度学习增强的视频压缩框架:Neutron Star 如何超越 VVC

论文标题: A Neural-Network Enhanced Video Coding Framework Beyond VVC 作者: Junru Li, Yue Li, Chaoyi Lin, Kai Zhang, Li Zhang 团队: 字节跳动多媒体实验室 (Bytedance Multimedia Lab) 发表: CVPR 2022 Workshop (CLIC 2022) 平台: Neutron Star (中子星) — 传统智能…

2026/7/31 17:07:18阅读更多 →
MD5哈希算法:从原理到应用,全面解析与安全替代方案

MD5哈希算法:从原理到应用,全面解析与安全替代方案

1. 项目概述:从“加密”到“校验”,重新认识MD5 提到MD5,很多人第一反应就是“数据加密”。这个标签几乎成了它的代名词,尤其是在网络热词里,从“前端md5加密”到“手机号批量解密”,再到“如何解析出抖音原…

2026/7/31 17:07:18阅读更多 →
【论文解读】系数能量引导的快速变换算法:Beyond VVC 编码器优化新思路

【论文解读】系数能量引导的快速变换算法:Beyond VVC 编码器优化新思路

论文:Coefficients Energy Guided Fast Transform Algorithm in Beyond VVC 作者:Minzhe Chen, Yiming Wang, Junyan Huo, Fuzheng Yang(西安电子科技大学) 发表会议:IEEE Data Compression Conference (DCC) 2026 实验…

2026/7/31 17:07:18阅读更多 →
极空间怎么安装更多应用?1Panel部署AList与公网访问完整教程

极空间怎么安装更多应用?1Panel部署AList与公网访问完整教程

前言 极空间主要用来备份照片和存放文件时,原有的管理功能基本能够满足需求。但随着Docker应用越来越多,服务安装、容器管理、日志查看和端口配置逐渐分散,只依赖命令行操作会变得不够直观。 对于希望继续扩展NAS用途的用户来说&#xff0c…

2026/7/31 18:27:46阅读更多 →
华硕笔记本终极轻量控制工具:G-Helper完整使用指南与配置方案

华硕笔记本终极轻量控制工具:G-Helper完整使用指南与配置方案

华硕笔记本终极轻量控制工具:G-Helper完整使用指南与配置方案 【免费下载链接】g-helper Lightweight Armoury Crate alternative for Asus laptops with nearly the same functionality. Works with ROG Zephyrus, Flow, TUF, Strix, Scar, ProArt, Vivobook, Zenb…

2026/7/31 18:27:46阅读更多 →
AudioSep深度剖析:基于自然语言查询的开放域音频分离架构解析与实战指南

AudioSep深度剖析:基于自然语言查询的开放域音频分离架构解析与实战指南

AudioSep深度剖析:基于自然语言查询的开放域音频分离架构解析与实战指南 【免费下载链接】AudioSep Official implementation of "Separate Anything You Describe" 项目地址: https://gitcode.com/gh_mirrors/au/AudioSep AudioSep是一个革命性的…

2026/7/31 18:27:46阅读更多 →
Kindle Comic Converter:3步让你的电子阅读器变身完美漫画阅读器

Kindle Comic Converter:3步让你的电子阅读器变身完美漫画阅读器

Kindle Comic Converter:3步让你的电子阅读器变身完美漫画阅读器 【免费下载链接】kcc KCC (a.k.a. Kindle Comic Converter) is a comic and manga converter for ebook readers. 项目地址: https://gitcode.com/gh_mirrors/kc/kcc 还在为Kindle、Kobo等电子…

2026/7/31 18:27:46阅读更多 →
米游社自动化签到工具深度解析:高效管理米哈游游戏签到实战指南

米游社自动化签到工具深度解析:高效管理米哈游游戏签到实战指南

米游社自动化签到工具深度解析:高效管理米哈游游戏签到实战指南 【免费下载链接】MihoyoBBSTools Womsxd/AutoMihoyoBBS,米游社相关脚本 项目地址: https://gitcode.com/gh_mirrors/mi/MihoyoBBSTools MihoyoBBSTools是一款基于Python3开发的米哈…

2026/7/31 18:27:46阅读更多 →
python的工业过程控制场景模拟第十八篇:批量解析变送器4-20mA转储数据,自动识别信号低于4mA的断线故障记录。

python的工业过程控制场景模拟第十八篇:批量解析变送器4-20mA转储数据,自动识别信号低于4mA的断线故障记录。

变送器4-20mA信号诊断系统 —— 基于OOP的工业数据实战"4-20mA是工业界的通用语言,但0mA和4mA之间,藏着断线、卡死、噪声——读懂它们,就是读懂设备的心电图。"—— 哈尔滨工程大学《工业过程控制》课程核心思想一、实际应用场景描…

2026/7/31 18:25:46阅读更多 →
覆盖国产 + 海外 + 开源模型,OpenClaw 2.7.9 Windows/Mac 双端部署详解

覆盖国产 + 海外 + 开源模型,OpenClaw 2.7.9 Windows/Mac 双端部署详解

🔹 工具基础介绍 OpenClaw 是开源生态中一款实用性较强的本地智能工具,凭借本地离线运行、可视化图形操作和任务自动化三大核心特性,赢得了众多用户的青睐。与普通在线对话AI工具不同,它属于能够直接操控本机软硬件的智能数字员工…

2026/7/30 15:03:16阅读更多 →
伺服阀焊完微漏毁整机?精密激光焊接三关锁住高压

伺服阀焊完微漏毁整机?精密激光焊接三关锁住高压

所谓液压伺服阀体的精密激光焊接,是用激光束对阀座壳体(通常为不锈钢或铝合金)进行密封焊接,使阀体在21-35MPa的高压液压油或压缩气体中长期运行而不发生介质泄漏。液压伺服阀是高端液压系统的"大脑"。从航空航天飞行控…

2026/7/31 17:41:43阅读更多 →
D2DX:三步实现《暗黑破坏神2》高清宽屏体验的终极指南

D2DX:三步实现《暗黑破坏神2》高清宽屏体验的终极指南

D2DX:三步实现《暗黑破坏神2》高清宽屏体验的终极指南 【免费下载链接】d2dx D2DX is a complete solution to make Diablo II run well on modern PCs, with high fps and better resolutions. 项目地址: https://gitcode.com/gh_mirrors/d2/d2dx 你是否还在…

2026/7/30 15:13:02阅读更多 →
物理复制比逻辑复制好在哪?数据库复制原理详解

物理复制比逻辑复制好在哪?数据库复制原理详解

数据库复制是把主库数据同步到备库的机制,分为逻辑复制和物理复制两种。逻辑复制传输的是 SQL 语句或行变更事件,物理复制传输的是存储引擎底层的物理日志。阿里云 PolarDB(云原生数据库)采用物理复制,在同步延迟、数据…

2026/7/31 0:00:40阅读更多 →
BilibiliDown:3分钟学会B站视频下载的终极指南

BilibiliDown:3分钟学会B站视频下载的终极指南

BilibiliDown:3分钟学会B站视频下载的终极指南 【免费下载链接】BilibiliDown (GUI-多平台支持) B站 哔哩哔哩 视频下载器。支持稍后再看、收藏夹、UP主视频批量下载|Bilibili Video Downloader 😳 项目地址: https://gitcode.com/gh_mirrors/bi/Bilib…

2026/7/31 0:00:41阅读更多 →
有哪些游戏数据AI平台?游戏行业Data+AI融合方案盘点

有哪些游戏数据AI平台?游戏行业Data+AI融合方案盘点

当前,游戏行业的“DataAI融合”已从概念验证进入价值落地阶段。根据IDC 2025年数据,中国AI游戏云市场规模已达18.6亿元;同时,游戏研发环节AI渗透率高达86%,生成式AI内容普及率超过50%。面对庞大的市场,游戏…

2026/7/31 0:00:41阅读更多 →
YOLOv8推理性能优化:从1.2FPS到35FPS的全链路加速实践

YOLOv8推理性能优化:从1.2FPS到35FPS的全链路加速实践

如果你在部署 YOLOv8 时,发现推理速度只有可怜的 1-2 FPS,而别人的演示视频却能跑到 30 FPS 以上,那么问题很可能不在模型本身,而在于你的整个处理链路。很多开发者拿到一个训练好的 YOLOv8 模型后,会直接使用官方示例…

2026/7/31 0:49:33阅读更多 →
Coze与Dify对比指南:低代码AI应用开发从入门到实战

Coze与Dify对比指南:低代码AI应用开发从入门到实战

1. 从零到一:为什么你需要了解 Coze 和 Dify?如果你对 AI 应用开发感兴趣,但一看到“大模型”、“智能体”、“工作流”这些词就头疼,觉得门槛太高,那这篇文章就是为你准备的。很多开发者,包括我自己&#…

2026/7/31 5:08:18阅读更多 →
AI生图工具怎么选?2026年6月版实测对比

AI生图工具怎么选?2026年6月版实测对比

做自媒体的朋友应该都有体会:配图一直是个让人头疼的问题。2026年,AI生图工具已经非常成熟了,但工具太多反而不知道怎么选。以下是截至2026年6月我对主流AI生图工具的实测对比。Midjourney V8.1:速度之王2026年6月11日&#xff0c…

2026/7/31 16:02:17阅读更多 →