Détection de nudité
Les images, GIF et vidéos inappropriés sont supprimés dès leur publication
SfwBot examine les médias publiés dans votre serveur avec un modèle d'image, compare le résultat au niveau que votre serveur autorise et supprime ce qui le dépasse. C'est vous qui placez la limite.
Les trois niveaux
Le modèle évalue ce qu'il voit. Vous choisissez le niveau le plus bas qui est bloqué ; tout ce qui se situe à ce niveau et au-dessus est supprimé.
Niveau 1 : suggestif
Maillots de bain, sous-vêtements et tenues suggestives similaires. À choisir pour les serveurs qui ne veulent aucune image suggestive.
Niveau 2 : nudité sous-entendue
Nudité couverte ou masquée par une pose, des mains ou des objets. Un choix courant pour les communautés généralistes.
Niveau 3 : explicite
Nudité visible et contenu sexuel. C'est le réglage par défaut : un nouveau serveur démarre donc en bloquant le contenu explicite, et rien d'autre.
Ce qui se passe quand quelqu'un publie un média
Le message est vérifié pour les exemptions
Les salons et rôles que vous avez exemptés sont ignorés. Les salons soumis à une limite d'âge le sont aussi, sauf si vous le désactivez, ainsi que les médias en spoiler si vous choisissez de les ignorer.
Les images connues sont traitées d'après vos listes
Chaque image reçoit une empreinte. Si elle correspond à votre liste d'autorisations, elle passe ; si elle correspond à votre liste de blocage ou à la liste de blocage partagée, elle est supprimée, dans les deux cas sans analyse IA.
Le modèle évalue le média
Les images sont analysées telles quelles. Pour les GIF et les vidéos, le bot analyse des images extraites. Une analyse consomme des crédits du solde de votre serveur.
Le bot agit selon le résultat
Un média au niveau choisi ou au-dessus est supprimé, la suppression est consignée dans votre salon de logs et, si vous utilisez le système de confiance, le membre perd de la confiance.
Exceptions, listes et autres réglages
Exemptions de salons et de rôles
Exemptez un salon du staff ou un rôle de confiance. Un fil suit le salon auquel il appartient.
Listes d'autorisations et de blocage
Autorisez une image que le modèle a mal jugée, ou bloquez-en une que vous ne voulez plus jamais voir. Les copies similaires d'une image listée sont également reconnues.
Un niveau distinct pour l'art
Les serveurs premium peuvent donner aux illustrations et aux œuvres d'art leur propre niveau, ou autoriser l'art entièrement, tandis que les photos gardent la règle plus stricte.
Stickers, émojis et bots
Analysez en option les stickers, les émojis personnalisés et les médias publiés par d'autres bots.
Jouets et objets pour adultes
Les serveurs premium peuvent aussi bloquer les jouets pour adultes et objets similaires.
Vérification dans votre salon de logs
Chaque suppression est publiée dans votre salon de logs avec des boutons pour signaler une mauvaise décision ou agir sur le membre.
Quand le modèle se trompe
Aucun modèle d'images n'a toujours raison. SfwBot est conçu pour qu'une mauvaise décision soit facile à corriger :
- Un modérateur peut signaler une suppression comme inexacte depuis le salon de journal.
- Un membre peut voir ses images supprimées avec
/standinget en signaler une. - Une image que vous autorisez est ajoutée à votre liste d'autorisation, afin que la même image ne soit plus supprimée.
Si vous préférez vérifier plutôt que supprimer, désactivez la suppression automatique : le bot consigne toujours ce qu'il trouve et laisse le message en place.
Ce qu'il advient des médias
Le bot télécharge un fichier pour l'analyser. Il ne stocke pas l'image. Ce qu'il conserve ensuite, ce sont des données sur la suppression : qui a publié, où et quand, le niveau et une empreinte (hash) de l'image. Seulement lorsqu'une décision est signalée pour examen, cette image est conservée pour l'examen. Tout ce qui est issu d'un message est supprimé au bout de 30 jours au plus. Consultez sécurité et confidentialité pour la liste complète.
Questions et réponses
SfwBot détecte-t-il la violence ou le gore ?
Non. SfwBot détecte la nudité selon trois niveaux. Les autres types de contenu ne sont pas proposés.
Analyse-t-il les vidéos et les GIF ?
Oui. Les images, GIF et vidéos sont analysés. Les stickers et les émojis personnalisés peuvent l'être aussi si vous activez cette option.
Combien coûte une analyse ?
Une analyse par le modèle consomme des crédits du solde de votre serveur. L'offre gratuite inclut des crédits chaque mois, et un média qui correspond à l'une de vos listes est traité sans analyse. Consultez les tarifs.
Puis-je autoriser la nudité dans certains salons ?
Oui. Les salons soumis à une limite d'âge sont ignorés par défaut, et vous pouvez exempter n'importe quel autre salon ou rôle.
Que se passe-t-il quand les crédits sont épuisés ?
Le bot cesse d'analyser les nouveaux médias avec le modèle jusqu'à ce que des crédits soient de nouveau disponibles. Vos listes d'autorisations et de blocage ainsi que les filtres de texte continuent de fonctionner.