仕組み
画像の投稿から判定まで
ボットは、すべての画像、GIF、動画に対して同じ手順で処理します。手順を知っておくと、設定が理解しやすくなります。
投稿された画像の処理の流れ
最初にテキストをチェック
有効にしている場合、招待、スパム、リンクのフィルターがメッセージのテキストを確認します。クレジットは消費しません。
除外設定を適用
除外対象のロールのメディアや、除外対象のチャンネル内のメディアはスキップされます。年齢制限付きチャンネルは、デフォルトでスキップされます。
画像リストを先に照合
ボットは画像のフィンガープリントを計算します。ホワイトリストに一致すれば通過し、ブラックリストに一致すれば削除されます。どちらもAIスキャンは不要です。
モデルが画像を評価
画像モデルが、露出あり、ヌードを示唆、露骨のどれに当たるかを判定します。このスキャンではクレジットを消費します。
設定したレベルで判断
結果がサーバーのブロックレベル以上の場合、そのメディアはブロック対象になります。Premiumのサーバーでは、アート用に別のレベルを設定できます。
対応して報告
メッセージが削除され、削除内容がログチャンネルに投稿されます。信頼スコアを使っている場合は、メンバーの信頼スコアが下がります。
設定方法
サーバーで「サーバー管理」権限が必要です。
SfwBotをサーバーに追加
Discordでログインし、サーバーを選んで、ボットが求める権限を承認します。
セットアップウィザードを実行
任意のチャンネルで /setup と入力し、ログチャンネルとヌードのレベルを選びます。
ダッシュボードを開く
チャンネルとロールを除外し、招待・スパム・リンクのフィルターを有効にして、AutoModルールの管理とストライクアクションの設定を行います。
ログを確認
最初の数日間はログチャンネルを確認し、ボットの誤判定にフラグを付けます。ホワイトリストが充実し、誤判定は少なくなっていきます。
ボットが保持するデータ
SfwBotが保存するのは、設定、件数、各アクションの記録です。画像は保存されません。ボットが保持するのはフィンガープリント（ハッシュ）で、画像そのものは判定がレビューに報告されたときだけ保持されます。メッセージから取得したデータは、最長30日で削除されます。