执行同一套规则的两种方式
人工审核是指由人浏览服务器,并根据所见内容或成员的举报采取行动。他们了解上下文,熟悉社区,也可以和成员沟通。
自动图片审核是指由机器人按固定规则检查每一份媒体。SfwBot将图片、GIF和视频按三个裸露内容等级评级,并移除达到或超过你所设屏蔽等级的内容。它每次都以同样的方式执行这一条规则,并且不了解图片周围的对话。参见工作原理。
并排对比
| 人工审核 | 自动图片审核 | |
|---|---|---|
| 可用时间 | 版主在线并且正在查看该频道时。 | 只要有媒体发布,前提是服务器有可用于AI扫描的点数。 |
| 上下文 | 能理解玩笑、意图、过往经历和频道的氛围。 | 只对图片本身评级,不知道发布的原因。 |
| 覆盖范围 | 服务器的每一条规则。 | 媒体中的裸露内容。文字由单独的规则过滤器处理。 |
| 一致性 | 取决于版主和当时的情况。 | 对每张图片采用相同的等级。 |
| 常见失误 | 漏看、发现太晚,或两个人的判断不一致。 | 无害的图片被移除,或不安全的图片被评得过低。 |
| 版主的负担 | 版主需要自己查找并查看不安全内容。 | 移除记录会发送到日志频道供复核。版主只需检查决定,而不必四处寻找。 |
| 成本 | 志愿者或付费的时间。 | AI扫描消耗点数。免费方案每月提供一定点数。 |
什么时候人工审核就够了
很多服务器没有自动图片审核也运转得很好:
- 成员彼此熟悉的小型服务器。 几个朋友或同事很少需要过滤器。
- 图片很少的服务器。 如果媒体只限于一个频道,而且版主本来就会查看,机器人的作用不大。
- 有足够活跃版主的服务器。 如果总有人在线,而且内容不会停留很久,自动化的主要好处已经有了。
- 规则细致的社区。 如果什么内容可以接受很大程度上取决于上下文,由人来判断会比固定等级更好。
如果你的服务器属于这些情况,保持现有做法即可。
自动化能帮上忙的地方
何时两者并用,以及如何并用
对大多数公开服务器来说,答案是两者结合,并明确分工。
- 机器人负责第一轮。 它按你设定的等级移除媒体,并把每次移除记入日志。
- 版主负责复核。 版主可以在日志中把某次移除标记为不准确,也可以删除、禁言、踢出或封禁。他们可以查看成员的历史记录、撤回违规,并添加或移除警告。
- 成员可以申诉。 成员用
/standing查看自己的状态,并可以报告被误删的图片。 - 版主训练机器人。 把图片加入白名单或黑名单,同样的决定就不必做两次。
如果你的团队还不放心自动移除,可以关闭自动删除。这样机器人只会记录发现的内容,所有决定仍由人来做。裸露检测指南介绍了这项设置。
常见问题
SfwBot可以取代我的版主吗?
不可以。它移除媒体中的裸露内容,并应用基于规则的文字过滤器。上下文、争议以及规则中的其他内容都需要人来处理。
机器人可以只报告而不移除任何内容吗?
可以。关闭自动删除后,机器人只会记录它发现的内容,之后由版主决定如何处理。
机器人判断错误时会怎样?
版主可以将该移除标记为不准确并撤销违规,成员也可以举报。白名单中的图片不会再次被移除。
版主还需要关注图片频道吗?
不必看得那么紧,但仍然需要。没有哪个图片模型每次都正确,而且SfwBot不检测暴力、血腥或仇恨符号。