Сравнение
ИИ-модерация изображений и AutoMod только по ключевым словам
Правила по ключевым словам читают слова в сообщении, а проверка изображений смотрит на картинки. На этой странице описано, что охватывает каждый подход, когда хватает одних ключевых слов и почему большинство публичных серверов в итоге используют оба.
Два инструмента для двух видов контента
Встроенный AutoMod в Discord работает с текстом. Вы задаёте ключевые слова, наборы или шаблоны, и Discord сам блокирует подходящее сообщение до публикации. Он также проверяет имена пользователей и массовые упоминания. Внутрь изображений он не заглядывает.
ИИ-модерация изображений работает с медиафайлами. SfwBot проверяет изображения, GIF и видео после публикации, оценивает их по одному из трёх уровней наготы и удаляет всё, что находится на заблокированном на вашем сервере уровне или выше. Текст сообщения он не читает.
SfwBot не заменяет AutoMod. Он настраивает правила AutoMod в Discord и поддерживает их в актуальном состоянии из панели управления, так что вы управляете обоими инструментами в одном месте. См. AutoMod и определение наготы.
Рядом друг с другом
| AutoMod по ключевым словам | ИИ-модерация изображений | |
|---|---|---|
| Что проверяет | Текст сообщений и имена пользователей. | Изображения, GIF и видео. По желанию стикеры и пользовательские эмодзи. |
| Когда действует | До публикации сообщения. Правило применяет сам Discord. | После публикации сообщения. Бот проверяет медиафайл и удаляет его. |
| Что настраивается | Ключевые слова, наборы и, в Premium, регулярные выражения и дополнительные пакеты слов. | Самый низкий блокируемый уровень наготы, а также исключения и списки изображений. |
| Чего не видит | Изображение без поясняющих слов рядом. | Оскорбления, мошенничество и всё остальное, написанное текстом. |
| Типичная ошибка | Безобидное слово, которое содержит ключевое слово или совпадает с ним. | Безобидная картинка с завышенной оценкой или небезопасная с заниженной. |
| Как исправить | Изменить список ключевых слов. | Отметить удаление как ошибочное, добавить изображение в белый список или изменить уровень. |
| Кредиты | Кредиты не расходуются. | Каждая проверка ИИ расходует кредиты. Совпадения с вашими списками их не расходуют. |
AutoMod является функцией Discord и бесплатен. Бесплатный тариф SfwBot включает собственные ключевые слова, набор для нецензурной лексики и два пакета ключевых слов.
Когда хватает правил по ключевым словам
На некоторых серверах модерация только по ключевым словам вполне разумна:
- Изображения отключены или встречаются редко. Если участники не могут прикреплять файлы или встраивать ссылки в основных каналах, проверять изображениям почти нечего.
- Проблемы связаны с текстом. Оскорбления, мошеннические фразы, реклама и массовые упоминания обрабатываются правилами AutoMod и пресекаются до того, как их кто-либо увидит.
- Вам не нужны постоянные расходы. Правила AutoMod не расходуют кредиты.
В таких случаях аккуратно настройте AutoMod и откажитесь от проверки изображений либо оставьте определение наготы в SfwBot по умолчанию, а немногие появляющиеся изображения покроют бесплатные ежемесячные кредиты.
Где правила по ключевым словам заканчиваются
Правило по ключевым словам может сработать только на написанное. У откровенной картинки без подписи или с безобидной подписью нет ничего, за что оно могло бы зацепиться. То же верно для GIF и видео. Блокировка слов вроде распространённых имён файлов или названий сайтов ловит немногое и сильно раздражает участников.
Если на вашем сервере разрешено публиковать медиафайлы и вам важно, что на этих картинках, текстовый фильтр с этой задачей не справится. Эту брешь закрывает модерация изображений, и только её: SfwBot определяет наготу, а не насилие, жестокость или символы ненависти.
Когда использовать оба
Любому публичному серверу, где разрешены и текст, и медиафайлы, полезны оба инструмента. Рабочее разделение выглядит так:
- AutoMod для слов: ваши собственные ключевые слова, набор для нецензурной лексики и бесплатные пакеты против мошенничества с Nitro и рекламного спама.
- Определение наготы для медиафайлов на уровне, который подходит вашей аудитории.
- Защита ссылок для ссылок на сайты из списков порнографических и мошеннических ресурсов: ни ключевые слова, ни проверка изображений с ними справляются плохо.
Всё это настраивается в одной панели управления. Текстовые фильтры и AutoMod не расходуют кредиты, поэтому их добавление к модерации изображений не меняет ваших расходов. См. тарифы.
Вопросы и ответы
Может ли AutoMod блокировать откровенные изображения?
Нет. AutoMod работает с текстом и именами пользователей, но не с изображениями. В настройках безопасности сервера в Discord есть отдельный фильтр откровенных изображений.
SfwBot заменяет AutoMod в Discord?
Нет. SfwBot создаёт и обновляет правила AutoMod в Discord из своей панели управления. Применяет их по-прежнему Discord.
Читает ли ИИ-модерация изображений текст на картинке?
SfwBot оценивает изображения на наличие наготы. Распознавания текста и его смысла он не предлагает.
Что настроить в первую очередь?
AutoMod, если проблемы в основном в тексте. Модерацию изображений, если участники свободно публикуют медиафайлы. Оба инструмента можно настроить из панели управления за один раз.