安全风控 敏感词过滤踢人静音违规处理
为什么需要安全工具
一个公开或半公开的社区，总会遇到：
- 广告刷屏（机器人发推广链接）
- 辱骂争吵（用户之间的冲突）
- 违规内容（涉黄、涉赌、涉政等）
- 恶意捣乱（语音频道里放噪音、刷屏）
Fanbook 提供了一套安全工具链，帮助运营者在不消耗太多人力的情况下维护社区秩序。
敏感词过滤
功能概述
敏感词过滤是 Fanbook 安全工具的第一道防线，自动扫描所有频道的消息内容，命中规则后执行预设动作。
配置入口
服务器设置 → 安全中心 → 敏感词过滤
可配置项
| 配置项 | 说明 | 示例 |
|---|---|---|
| 自定义敏感词 | 添加社区特有要过滤的词 | 广告联系方式、竞品名 |
| 内置敏感词库 | Fanbook 官方提供的基础敏感词库 | 涉黄、涉赌、辱骂 |
| 触发动作 | 命中后系统做什么 | 自动拦截 / 替换为 * / 标记为待审 |
| 通知管理员 | 命中是否通知版主 / 管理员 | 是 / 否 |
| 作用范围 | 对哪些角色生效 | 通常对普通成员生效，管理员豁免 |
建议配置
- 开启内置敏感词库——基础合规的底线
- 添加社区特有词——比如禁止发其他社区的邀请链接、禁止加联系方式引流
- 管理员豁免——不要让敏感词过滤给管理员的正常工作添乱
- 新成员从严——刚加入的成员命中可以更严格，老成员适当宽松
手动治理动作
遇到具体违规行为时，管理员可以执行：
| 动作 | 说明 | 使用场景 |
|---|---|---|
| 删除消息 | 移除单条违规消息 | 广告、辱骂、违规链接 |
| 静音 | 强制关闭对方麦克风 | 语音频道里放噪音的用户 |
| 禁言 | 禁止对方在频道里发消息 | 文字频道里持续刷屏 |
| 踢出频道 | 将用户移出当前频道 | 临时干扰行为 |
| 踢出服务器 | 将用户移出整个服务器 | 严重违规 |
| 封禁 | 永久禁止该用户再次加入 | 恶意反复违规 |
操作方法
- 快捷操作： 长按违规消息 → 选择删除 / 禁言 / 举报
- 成员列表： 点击成员头像 → 管理 → 选择对应动作
违规处理工作流推荐
轻度违规（第一次）
- 删除违规消息
- 私下 @对方告知规则
- 记录到安全日志（如果有）
中度违规（重复或较严重）
- 删除违规消息
- 禁言 1~24 小时
- 公开 @提醒（在公共频道适度曝光，起到警示作用）
重度违规（恶意、违法）
- 踢出 / 封禁
- 如果涉及违法内容，保留证据并报警
关键原则： 公开处理 + 私下沟通并行。让其他成员看到违规有代价，同时给犯错者一次机会。
自动治理：BOT 辅助
很多安全治理工作可以交给 BOT 自动化完成：
自动欢迎
新成员加入时，BOT 自动在指定频道发送欢迎消息，附带社区规则和导航。
自动踢出
设置规则：成员加入服务器 N 分钟后如果在所有频道都没有发言，自动踢出（清理僵尸号）。
关键词自动回复
设置敏感词命中后，BOT 自动给违规者发一条私信告知规则，而不是直接删除消息（更温和的方式）。
等级 / 积分系统
通过 BOT 实现发言升级、签到获积分，高等级成员享有更多权限——正向激励比单纯的禁言更有效。
安全日志和审计
建议定期（每周 / 每两周）抽查安全日志：
- 哪些敏感词被高频触发？说明词库需要更新
- 哪些成员被多次违规处理？考虑是否需要更严格措施
- 有没有误杀？敏感词过滤是不是太严了
Fanbook 可能提供安全日志查看（以实际版本为准），也可以让 BOT 把违规事件自动转发到管理员私密频道。
注意事项
- 公平透明：所有处理动作最好都有公开记录（除了私聊细节），让成员知道规则面前人人平等
- 避免滥用权限：版主和管理员的权限也要有制约，防止「小官巨腐」
- 遵守平台规则：Fanbook 自身也有社区规范，不要利用安全工具做违反 Fanbook 平台规则的事