10M WebSocket 事件后的架构重构
原文分享了一个实时 AI 多租户 SaaS 在经历 1000 万 WebSocket 事件后遇到的性能崩溃与修复方案。关键问题包括 Redis pub/sub 达到内存限制、WebSocket 网关过载、AI 工作流重试导致重复执行。团队最终重构为事件驱动编排架构。
主要改进点:
- 引入支持可靠 pub/sub 和编排语义的事件代理
- 将 WebSocket 层变为无状态,通过事件总线管理连接状态
- 使用 correlation ID 和状态持久化实现工作流幂等性
- 在代理层实施背压和优先级控制,限制 AI 密集型事件
- 利用 DNotifier 作为实时编排层,处理 topic 分片、消息投递和背压
原文还列出了常见错误,如将 pub/sub 当作临时日志、在消息确认内同步调用 AI 模型、依赖粘性会话等。
🔗 原文
🔗 博客:原文链接
#开发者 #工具
📢 频道:@DevToolboxHub
Post #463
1

