Обнаружение наготы
Небезопасные изображения, GIF и видео удаляются сразу после публикации
SfwBot просматривает медиафайлы, опубликованные на вашем сервере, с помощью модели изображений, сравнивает результат с уровнем, который допускает ваш сервер, и удаляет всё, что его превышает. Границу определяете вы.
Три уровня
Модель оценивает то, что видит. Вы выбираете самый низкий заблокированный уровень: всё на этом уровне и выше удаляется.
Уровень 1: откровенная одежда
Купальники, нижнее бельё и похожая откровенная одежда. Выберите его, если на сервере не нужны никакие провокационные картинки.
Уровень 2: подразумеваемая нагота
Нагота, прикрытая или скрытая позой, руками или предметами. Частый выбор для общих сообществ.
Уровень 3: явный контент
Видимая нагота и сексуальный контент. Это значение по умолчанию: новый сервер начинает с блокировки явного контента и ничего больше.
Что происходит, когда кто-то публикует медиафайл
Сообщение проверяется на исключения
Каналы и роли, для которых вы задали исключения, пропускаются. Так же пропускаются каналы с возрастным ограничением, если вы не отключите это, и медиафайлы со спойлером, если вы решите их пропускать.
Известные изображения определяются по вашим спискам
У каждого изображения есть отпечаток. Если он совпадает с белым списком, изображение проходит, а если с вашим чёрным списком или общим чёрным списком, оно удаляется. В обоих случаях ИИ-проверка не выполняется.
Модель оценивает медиафайл
Изображения проверяются как есть. Для GIF и видео бот проверяет кадры. Проверка расходует кредиты из баланса вашего сервера.
Бот действует по результату
Медиафайл на вашем уровне или выше удаляется, удаление записывается в канал журнала, а если вы используете систему доверия, участник теряет доверие.
Исключения, списки и другие настройки
Исключения для каналов и ролей
Задайте исключение для канала персонала или доверенной роли. Ветка подчиняется настройкам канала, к которому относится.
Белый и чёрный списки
Разрешите изображение, которое модель оценила неверно, или заблокируйте то, которое больше не хотите видеть. Похожие копии изображения из списка тоже распознаются.
Отдельный уровень для искусства
Серверы с Premium могут задать для иллюстраций и артов свой уровень или полностью разрешить искусство, а для фотографий сохранить более строгое правило.
Стикеры, эмодзи и боты
При желании можно проверять стикеры, пользовательские эмодзи и медиафайлы, опубликованные другими ботами.
Секс-игрушки и предметы
Серверы с Premium также могут блокировать секс-игрушки и похожие предметы.
Проверка в канале журнала
Каждое удаление публикуется в вашем канале журнала с кнопками, чтобы пометить неверное решение или принять меры в отношении участника.
Когда модель ошибается
Ни одна модель изображений не бывает права каждый раз. SfwBot устроен так, чтобы неверное решение было легко исправить:
- Модератор может пометить удаление как ошибочное в канале журнала.
- Участник может увидеть свои удалённые изображения командой
/standingи сообщить об одном из них. - Изображение, которое вы разрешили, добавляется в белый список, поэтому та же картинка больше не удаляется.
Если вы предпочитаете проверять, а не удалять, отключите автоматическое удаление: бот по-прежнему записывает найденное, но оставляет сообщение на месте.
Что происходит с медиафайлом
Бот загружает файл, чтобы его проанализировать. Само изображение он не хранит. После этого сохраняются данные об удалении: кто, где и когда опубликовал, уровень и отпечаток (хеш) изображения. Только когда решение отправлено на проверку, это одно изображение сохраняется для проверки. Всё, что получено из сообщения, удаляется не позднее чем через 30 дней. Полный список: безопасность и конфиденциальность.
Вопросы и ответы
Обнаруживает ли SfwBot насилие или жестокие сцены?
Нет. SfwBot обнаруживает наготу по трём уровням. Другие типы контента не предлагаются.
Проверяет ли он видео и GIF?
Да. Проверяются изображения, GIF и видео. Стикеры и пользовательские эмодзи тоже можно проверять, если включить это.
Сколько стоит проверка?
Проверка моделью расходует кредиты из баланса вашего сервера. Бесплатный тариф включает кредиты каждый месяц, а медиафайлы, совпавшие с одним из ваших списков, обрабатываются без проверки. Подробнее: цены.
Можно ли разрешить наготу в некоторых каналах?
Да. Каналы с возрастным ограничением по умолчанию пропускаются, а для любого другого канала или роли можно задать исключение.
Что происходит, когда кредиты заканчиваются?
Бот перестаёт проверять новые медиафайлы моделью, пока кредиты снова не появятся. Белый и чёрный списки и текстовые фильтры продолжают работать.