Руководство
Настройка обнаружения обнажённого контента
Обнаружение обнажённого контента включается сразу, как только SfwBot попадает на сервер, и удаляет откровенные изображения, GIF и видео. Вы можете изменить уровень, с которого начинается блокировка, исключить каналы и роли и вести собственные белый и чёрный списки.
Как это работает
Когда участник публикует медиа, SfwBot выполняет проверки в таком порядке:
- Исключения. Исключённые каналы и роли пропускаются. Каналы с возрастным ограничением тоже, если вы не отключили это правило.
- Списки изображений. Отпечаток медиа сравнивается с вашим белым списком, вашим чёрным списком и общими списками, которые ведёт SfwBot. При совпадении ответ дается сразу, без сканирования.
- ИИ-сканирование. Всё остальное оценивает модель. Сканирование использует кредиты.
- Решение. Медиа с оценкой не ниже вашего уровня блокируется.
Есть три уровня, и вы выбираете самый низкий из блокируемых:
| Уровень | Название | Блокирует |
|---|---|---|
| 1 | Откровенная одежда | Откровенная одежда, намёк на обнажение и откровенный контент |
| 2 | Намёк на обнажение | Намёк на обнажение и откровенный контент |
| 3 | Откровенный контент | Только откровенный контент. Это значение по умолчанию. |
Проверяются вложения, изображения в превью ссылок и пересланные сообщения. Стикеры, пользовательские эмодзи и медиа от других ботов проверяются, только если вы это включите. Аватары и баннеры не проверяются. Обзор функции: обнаружение обнажённого контента.
Настройка в панели управления
В [справочнике настроек](/docs/settings) перечислены все параметры со значениями по умолчанию.
Откройте «ИИ-обнаружение», «Обнажённый контент»
В панели управления откройте свой сервер и перейдите в ИИ-обнаружение, затем в Обнажённый контент. Переключатель Проверять медиа на обнажённый контент включает и выключает модуль.
Выберите, что блокировать
В разделе Что нужно блокировать? выберите «Откровенная одежда», «Намёк на обнажение» или «Откровенный контент».
Решите, что происходит дальше
Удалять заблокированный контент удаляет сообщение. Отключите это, если хотите сначала проверять вручную: тогда бот только сообщает в канал журнала, а модератор может удалить сообщение оттуда.
Решите, что проверять
Параметры Разрешить в каналах с возрастным ограничением, Пропускать медиа со спойлером, Проверять контент ботов, Проверять стикеры и Проверять пользовательские эмодзи определяют, какие медиа попадают на сканирование.
Добавьте исключения
В разделах Исключённые каналы и Исключённые роли выберите, где и для кого проверка пропускается.
Укажите канал журнала
Без него модераторы не узнают, что было удалено. См. журнал.
Команды
/settings, страница Обнаружение, включает и выключает обнаружение и меняет уровень, удаление, правило для каналов с возрастным ограничением и правило для спойлеров./settings, страница Исключения и списки изображений, добавляет и убирает исключённые каналы и роли, а также добавляет изображение в белый или чёрный список по ссылке.- Меню сообщения Приложения, Добавить в чёрный список добавляет в ваш чёрный список все изображения, GIF и видео из сообщения.
/standingпоказывает участнику его собственные недавно удалённые изображения с кнопкой, чтобы сообщить о неверном решении.
Для первых трёх нужно право «Управление сервером». См. справочник команд.
Что происходит, когда медиа блокируется
- Сообщение удаляется, если удаление включено. Совпадение с вашим чёрным списком всегда ведёт к удалению.
- В канал журнала добавляется запись с кнопками: отметить решение как неточное, удалить сообщение, если оно ещё на месте, или выдать участнику мут, исключить или забанить его.
- Участник получает уведомление, если сообщение было удалено. Участники, которые включили это через
/dms, получают личное сообщение с кнопкой для сообщения об ошибке. Остальные видят короткое уведомление в канале, которое удаляется само, если вы не отключили его в общих настройках. - Уровень доверия снижается, если вы используете доверие и страйки и сообщение было удалено. Совпадение с вашим чёрным списком считается нарушением среднего уровня. Удаление по результатам ИИ-сканирования считается нарушением низкого уровня и по умолчанию отключено, потому что модель может ошибаться; включите его в настройках доверия, если хотите.
Данные из сообщения, такие как ссылка на медиа и его отпечаток, удаляются через 30 дней. См. безопасность и конфиденциальность.
Исключения и списки изображений
Списки отображаются в разделе «ИИ-обнаружение», «Списки изображений». В них хранится отпечаток каждого изображения, а не само изображение.
Исключённые каналы
Отключает обнаружение в канале. Ветка следует за каналом, которому принадлежит.
Исключённые роли
Отключает обнаружение для участников с определённой ролью, например для ваших модераторов.
Каналы с возрастным ограничением
По умолчанию пропускаются. Отключите Разрешить в каналах с возрастным ограничением, чтобы проверять и их.
Белый список
Изображение из белого списка никогда не удаляется на вашем сервере и не расходует кредиты. Почти идентичные копии тоже совпадают.
Чёрный список
Изображение из чёрного списка всегда удаляется, без сканирования. Используйте его для изображений, которые модель пропустила.
Параметры в Plus и Pro
Два параметра на странице обнажённого контента входят в Plus и Pro:
- Блокировать секс-игрушки и предметы также удаляет секс-игрушки и похожие предметы.
- Иллюстрации и арт задаёт для рисованных работ отдельный уровень или полностью разрешает арт, а для фотографий остаётся обычный уровень.
Ещё два входят в Pro:
- Уровни каналов задают отдельный уровень для канала или целой категории, до 50 штук. Ветка следует за своим каналом, а канал следует за своей категорией, если у него нет собственного уровня. Если сервер выходит из Pro, уровни сохраняются, но приостанавливаются.
- Глубокое сканирование видео проверяет 30 кадров видео вместо 10 и 15 кадров GIF вместо 5.
См. тарифы.
Устранение неполадок
- Бот сообщает о медиа, но не удаляет его. Либо отключён параметр Удалять заблокированный контент, либо у бота нет права «Управление сообщениями» в этом канале. Во втором случае в канале журнала появляется ошибка прав.
- В одном канале ничего не происходит. Канал имеет возрастное ограничение или находится в списке исключений.
/statusпоказывает состояние текущего канала. - Один участник никогда не проверяется. У участника есть исключённая роль.
- Стикеры или эмодзи проходят. Эти проверки отключены, пока вы их не включите.
- Сканирование остановилось везде. На сервере закончились кредиты. Ваши списки продолжают работать. См. кредиты.
- Изображение удалено по ошибке. Сообщите об этом из записи журнала и добавьте изображение в белый список.
- Нет записей журнала. Канал журнала не задан или бот не может в нём писать.
Частые вопросы
Можно ли проверять вручную до удаления?
Да. Отключите Удалять заблокированный контент. Бот сообщает о каждом случае в канал журнала, а решение принимает модератор.
Проверяются ли изменённые сообщения повторно?
Одинаковое медиа не сканируется и не оплачивается повторно в течение 24 часов, поэтому правка с тем же изображением ничего не стоит.
Можно ли разрешить обнажённый контент в одном канале?
Да. Отметьте канал в Discord как имеющий возрастное ограничение или добавьте его в исключённые каналы. В Pro у канала также может быть собственный уровень.
Снижается ли доверие участника при ошибочном удалении?
По умолчанию нет. Нарушение по результатам ИИ отключено в настройках доверия, пока вы его не включите, а модератор может отменить нарушение из записи журнала.