Сравнение
Автоматическая и ручная модерация изображений
Бот не заменяет модераторов, а модераторы не могут следить за каждым каналом в любое время суток. Сильные стороны у них разные. На этой странице показано, в чём каждый из них сильнее и как их сочетать.
Два способа следить за одними и теми же правилами
Ручная модерация означает, что люди читают сервер и действуют по тому, что видят сами или о чём сообщают участники. Они понимают контекст, знают сообщество и могут поговорить с участником.
Автоматическая модерация изображений означает, что бот проверяет каждый медиафайл по одному заданному правилу. SfwBot оценивает изображения, GIF и видео по трём уровням наготы и удаляет всё, что находится на заблокированном вами уровне или выше. Это правило применяется каждый раз одинаково, а о разговоре вокруг картинки бот ничего не знает. Подробнее: как это работает.
Сравнение по пунктам
| Ручная модерация | Автоматическая модерация изображений | |
|---|---|---|
| Доступность | Когда модератор в сети и смотрит на канал. | Всякий раз, когда публикуется медиафайл, пока на сервере есть кредиты для ИИ-проверок. |
| Контекст | Понимает шутки, намерения, историю и настроение канала. | Оценивает только картинку. Зачем её опубликовали, бот не знает. |
| Что охватывает | Все правила вашего сервера. | Наготу в медиафайлах. Текст обрабатывают отдельные фильтры на основе правил. |
| Единообразие | Зависит от модератора и от момента. | Один и тот же уровень применяется к каждому изображению. |
| Типичная ошибка | Что-то пропущено, замечено поздно или два человека оценили по-разному. | Безобидное изображение удалено, или небезопасное оценено слишком низко. |
| Нагрузка на модераторов | Модераторам приходится самим искать небезопасный контент и смотреть на него. | Удаления попадают в канал журнала для проверки. Модераторы проверяют решения, а не ищут нарушения. |
| Стоимость | Время волонтёров или оплачиваемое время. | Кредиты за ИИ-проверки. Есть бесплатный тариф с ежемесячными кредитами. |
Когда хватает ручной модерации
Многие серверы отлично обходятся без автоматической модерации изображений:
- Небольшие серверы, где все знакомы. Нескольким друзьям или коллегам фильтр нужен редко.
- Серверы с малым числом изображений. Если медиафайлы разрешены в одном канале и модераторы всё равно его читают, бот почти ничего не добавит.
- Серверы с достаточным числом активных модераторов. Если кто-то всегда в сети и ничего не висит долго, главная польза автоматизации уже обеспечена.
- Сообщества с тонкими правилами. Если допустимое сильно зависит от контекста, человек решит лучше, чем заданный уровень.
Если это про ваш сервер, продолжайте делать то, что работает.
Где помогает автоматизация
Автоматизация оправдана, когда проблема в объёме или во времени. Медиафайлы публикуют, пока ваша команда спит. Рейд снова и снова публикует одно и то же изображение. Модераторам надоедает смотреть на контент, который они предпочли бы не видеть.
Бот справляется с ясными повторяющимися случаями: удаляет изображение, записывает его в канал журнала и, если вы используете доверие и страйки, применяет заданное вами последствие. Он не может рассудить спор, снять напряжение в конфликте или решить, подходит ли спорная публикация вашему сообществу. Кроме того, SfwBot обнаруживает только наготу. Всё остальное в ваших правилах остаётся за людьми.
Когда использовать оба подхода и как
Для большинства публичных серверов лучший вариант: оба, с понятным разделением работы.
- Бот делает первый проход. Он удаляет медиафайлы на вашем уровне и записывает каждое удаление в журнал.
- Модераторы проверяют. Из журнала они могут пометить удаление как ошибочное либо удалить, заглушить, выгнать или забанить. Они могут посмотреть историю участника, отменить нарушение, добавить или убрать страйки.
- Участники могут оспорить решение. Командой
/standingучастник видит свой статус и может сообщить об изображении, удалённом по ошибке. - Модераторы обучают бота. Если добавить изображение в белый или чёрный список, одно и то же решение не придётся принимать дважды.
Если ваша команда пока не готова доверить удаление боту, отключите автоматическое удаление. Тогда бот только записывает найденное, а каждое решение остаётся за человеком. Эта настройка описана в руководстве по обнаружению наготы.
Вопросы и ответы
Может ли SfwBot заменить моих модераторов?
Нет. Он удаляет наготу в медиафайлах и применяет текстовые фильтры на основе правил. Контекст, споры и всё остальное в ваших правилах требуют людей.
Может ли бот только сообщать, ничего не удаляя?
Да. Отключите автоматическое удаление, и бот будет только записывать найденное. Что делать дальше, решает модератор.
Что происходит, когда бот ошибается?
Модератор может пометить удаление как ошибочное и отменить нарушение, а участник может сообщить об этом. Изображение из вашего белого списка больше не удаляется.
Нужно ли модераторам по-прежнему следить за каналами с изображениями?
Не так пристально, но да. Ни одна модель не бывает права каждый раз, а SfwBot не обнаруживает насилие, жестокие сцены и символы ненависти.