内容审核模块把机审、人审、申诉串成一条队列:新帖先过 38,000 条词库,命中高风险直接拦,灰词进人工队列。2026 年 3 月换用 12 类本地词库后,误判率从 8.7% 降到 2.3%。
能解决什么
两种策略可切
按栏目设置先审后发或先发后审,校园与政务栏目默认先审,兴趣栏目可先发后审,改策略不用发版。
机审 0.3 秒出结果
词库匹配加变体还原(拼音、拆字、谐音),命中项返回位置与词条编号,审核员不用猜为什么被拦。
申诉有回音
用户申诉进独立队列,24 小时内处理,结果同步站内信与邮件;误判恢复后给用户一条说明。
参数表
| 参数项 | 取值 |
|---|---|
| 词库规模 | 12 类 38,000 条 |
| 审核策略 | 先审后发 / 先发后审 |
| 机审耗时 | 0.3 秒/条(平均) |
| 人工队列 | 按举报量与风险分排序 |
| 申诉时限 | 24 小时内处理 |
| 日志留存 | 180 天,含原文快照 |
| 接口 | Webhook + REST |
| 处理能力 | 800 条/分钟 |
参数取自交付文档,实测环境与测试方法写在各行备注里。需要原始测试记录可发邮件索取。
适用场景
校园问答社区
未成年用户发帖默认先审,图片走 OCR 与鉴黄接口,22 点后只放行白名单栏目,值班老师手机能收提醒。
政务留言板
政策咨询类关键词放行,投诉类转人工,答复模板由宣传部门维护,避免口径不一。
本地生活问答
商家广告识别,同一手机号 24 小时发 3 条以上带联系方式的内容自动进队列,人工确认后限流。
交付与售后
交付周期
3 个工作日(独立模块):词库导入 1 天,策略配置 1 天,联调与压测 1 天。已有站点接入约 4 小时,含历史帖抽样回扫 1 万条。
售后条款
12 个月词库更新,每月 1 次增量约 300 条;重大舆情期可申请临时加急词库,24 小时内生效。误判争议由双方各出 1 人复核。
选型建议
日新帖 500 条以下,机审加 1 名兼职审核足够;超过 2,000 条或涉及未成年人,务必上先审后发与夜间策略。词库不是越多越好,38,000 条里常用的约 6,000 条,先跑准再扩量。
客户为什么选这家,而不是隔壁
下面四条都能验证:要演示就看演示站,要证据就导出记录,不靠一句“服务好”。
方言不误伤
预置 1,200 条湘阴方言与同音变体,“港得好”“霸蛮”这类口语不会被当成攻击词,减少无谓申诉。
证据可导出
每条拦截记录含原文快照、命中词编号、审核人、时间,打包成 ZIP 交检查,不用临时拼材料。
误判能回滚
人工复核为误判后,帖子自动恢复并给用户发说明,不用重新发帖,楼层顺序也不乱。
审核量可预测
后台按小时给出队列积压与人均处理量,排班按数据来,不靠感觉加人。
常见问题
词库能自己加吗
能。后台支持批量导入,一行一个词,可指定分类、风险级与生效栏目;导入前会先跑一遍冲突检测。
图片怎么审
图片走 OCR 与图像识别接口,文字提取后进词库比对;识别服务按量计费,也可只审带联系方式的图。
拦截错了用户会知道吗
默认提示“内容需人工复核”,不显示具体命中词,避免教人绕过;申诉页会说明大致原因。
相关产品与新闻
带一个真实问题来试
演示站给 3 个账号、7 天有效期,数据每天重置,主要看提问到采纳这条链路。
