社区内容审核与风控（Community Moderation）

When to use

• 社区内容（动态 / 评论 / 直播）出现违规，处置滞后或不统一。
• 举报受理后无跟踪、无回访，用户信任下降。
• 直播实时风控缺位（敏感词、图像、引战无人预警）。
• 合规口径分散，运营与审核对"什么算违规"理解不一致。

Steps

1. 定义审核维度：内容违规（色情低俗 / 暴力 / 政治敏感）、版权（音乐 / 素材 / 搬运）、未成年人保护、广告导流、引战谩骂、诈骗等，给出判别要点。
2. 分级处置：建立「预警 → 提醒 → 限流 → 禁言 → 封禁」五档标准，每档给触发条件、处置动作与话术，避免一刀切。
3. 举报处理流：受理 → 核查（取证）→ 处置 → 回访的闭环 SOP，含响应时效与结论告知模板。
4. 直播实时风控：给关键词 / 图像识别的巡检建议与预警阈值，输出主播侧实时提示话术与运营侧处置入口。
5. 合规红线清单：梳理直播合规口径（内容安全、未成年人、版权、打赏、广告），对齐平台规则与监管要求。

Output

• 一份《审核标准表》Markdown（维度 / 判别要点 / 证据要求）。
• 一套分级处置话术（五档 × 场景）。
• 一份《举报处理 SOP》（闭环 + 时效 + 告知模板）。
• 一份《直播合规红线清单》（给主播与运营双版本）。

Guardrails

• 封禁 / 限流等破坏性处置不自动执行，须人工复核（HITL），保留证据与记录。
• 处置以"纠正 + 梯度"为先，避免误伤与平台规则冲突。
• 用户隐私（举报人、被处置人信息）严格保密，不跨域流转。

Notes

• 与 live-room-ops 对齐：直播中的违规判定与处置话术两技能共用一套标准。
• 与 audience-growth 互补：风控保障社区健康，增长才有可持续基础。
• 审核口径应随平台规则与监管更新，定期回灌到标准表。