自建 IM 是很多团队的执念,但真正劝退他们的往往不是功能,而是"长连接扛不住"。市面上不少所谓 IM 源码只是 WebSocket 套壳:单机几千连接就 CPU 飙红、群聊广播靠全量遍历、消息靠轮询。比信(WeTalk)高密即时通讯系统要解决的是另一个问题:在 8C16G 的常规服务器上承载 50,000+ WebSocket 长连接(BtiMor 公开口径,以 Demo/合同与现场复测为准),万人群聊广播毫秒级完成。本文从连接层、消息层、安全层三层拆解它的工程实现。
接入网关负责连接生命周期,会话路由层负责消息扇出与加密,Redis 承载在线状态与全局消息序号,持久化存储兜底离线消息。四个层次职责单一,任何一个环节都可以独立水平扩展。
WebSocket 长连接的核心瓶颈从来不是带宽,而是内存与文件描述符。比信服务端采用无锁环形缓冲区管理单连接状态机,配合内核 epoll 边缘触发(Edge-Triggered),避免每次事件都重新扫描整个连接集。连接心跳 55 秒,超时 3 次即主动回收,僵尸连接无法堆积。资源预算上,官网宣称 8C16G 单机承载 50,000+ 并发连接、满载 CPU 负载低于 15%(以 Demo/合同与现场复测为准),为业务逻辑留出充足余量。
// 心跳超时回收(伪代码,示意实现思路)
conn.onRecv = function (msg) {
conn.lastSeen = now();
if (msg.type === 'PING') conn.send('PONG');
};
scheduler.every(55s, function () {
var expired = [];
for (conn of conns) {
if (now() - conn.lastSeen > 55s * 3) expired.push(conn);
}
for (conn of expired) { conn.close(4408); conn.release(); }
});
群消息采用两级扇出:在线成员走内存环形队列直推,不落盘、不加锁;离线成员进入本地持久化桶,登录后按序补拉。消息序号由 Redis 原子递增生成,配合消息幂等键做去重,保证网络乱序重投时"不重复、不丢失"。万人群聊广播耗时控制在毫秒级——瓶颈只在于内存带宽,而不是 CPU。
// 消息幂等去重(伪代码,示意实现思路)
var seq = redis.incr('msg:seq:' + groupId); // 全局原子序号
var key = 'dedup:' + groupId + ':' + seq;
if (redis.setnx(key, userId, 86400) === 0) {
return DUP; // 已处理过,丢弃
}
fanOut(groupId, payload); // 两级扇出广播
客户端与服务端通过 ECDH P-256 协商会话密钥,消息载荷以 AES-256-GCM 认证加密,附带随机 nonce + 消息序号防止重放。这是客户端到服务端的传输加密(非端到端加密),阅后即焚与双向撤回指令同样走加密通道。加密在会话层完成,业务层无感知,不会拖慢广播路径。
| 指标 | 数值 | 说明 |
|---|---|---|
| 并发长连接 | 50,000+ | 单机稳定承载,心跳 55s |
| CPU 负载 | < 15% | 官网宣称,以现场复测为准 |
| 万人群聊广播 | 毫秒级 | 在线直推 + 离线桶两级扇出 |
| 消息去重 | 原子序号 + 幂等键 | 乱序重投不重复不丢失 |
| 传输加密 | ECDH P-256 + AES-256-GCM | 随机 nonce + 消息序号防重放 |
口径说明:以上为比信 IM 在 8C16G 服务器上的官网公开口径,具体数值随业务消息模型(单聊/群聊占比、消息大小)浮动,支持按客户场景复测。
比信交付完整未加密客户端与后端源码(iOS/Android 原生 + Flutter + Web/PC),客户自有服务器独立部署;以预发/约定环境 1:1 对照验收(或微信领取演示)。交付后享原厂 Bug 免费质保,可基于 IM 底座继续做专属定制(详情见 比信产品页)。
← 返回技术博客列表