ヌード検出
不適切な画像、GIF、動画を投稿時に削除
SfwBotはサーバーに投稿されたメディアを画像モデルで確認し、その結果をサーバーで許可しているレベルと照らし合わせて、超えたものを削除します。基準はサーバーごとに決められます。
3つのレベル
モデルは写っている内容を評価します。ブロック対象とする最も低いレベルを選ぶと、そのレベル以上がすべて削除されます。
レベル1：露出の多い服装
水着、下着、これらに近い露出の多い服装が対象です。性的な印象を与える画像を一切認めないサーバーに向いています。
レベル2：ヌードを連想させるもの
ポーズ、手、物で隠れているヌードが対象です。一般的なコミュニティでよく選ばれます。
レベル3：露骨なもの
はっきり見えるヌードや性的なコンテンツが対象です。これが初期設定のため、新しいサーバーでは露骨なコンテンツだけがブロックされた状態で始まります。
メディアが投稿されたときの流れ
メッセージの除外設定を確認
除外に設定したチャンネルとロールはスキップされます。年齢制限チャンネルも、設定でオフにしない限りスキップされます。スポイラー付きのメディアも、スキップを選んだ場合は対象外です。
既知の画像はリストで判定
すべての画像にフィンガープリントが付きます。ホワイトリストに一致すれば通過し、ブラックリストまたは共有ブラックリストに一致すれば削除されます。どちらもAIスキャンは行いません。
モデルがメディアを評価
画像はそのままスキャンされます。GIFと動画はフレームをスキャンします。スキャンではサーバーの残高からクレジットが使われます。
結果に応じてボットが対応
設定したレベル以上のメディアは削除され、削除の記録がログチャンネルに書き込まれます。信頼システムを使っている場合は、メンバーの信頼スコアも下がります。
除外、リスト、その他の設定
チャンネルとロールの除外
スタッフ用チャンネルや信頼できるロールを除外できます。スレッドは所属するチャンネルの設定に従います。
ホワイトリストとブラックリスト
モデルが誤判定した画像を許可したり、二度と見たくない画像をブロックしたりできます。リストにある画像に似たコピーも認識されます。
アート用の別レベル
Premiumのサーバーでは、イラストやアートワークに別のレベルを設定したり、アートをすべて許可したりできます。写真には引き続き厳しい基準が適用されます。
スタンプ、絵文字、ボット
スタンプ、カスタム絵文字、他のボットが投稿したメディアも、必要に応じてスキャンできます。
アダルトグッズなどの物
Premiumのサーバーでは、アダルトグッズやそれに類する物もブロックできます。
ログチャンネルで確認
削除のたびにログチャンネルへ投稿されます。誤判定の報告やメンバーへの対応を行うボタンも付きます。
モデルが誤判定したとき
常に正しい画像モデルはありません。SfwBotは、誤った判定を簡単に修正できるように作られています。
- モデレーターは、ログチャンネルから削除を不正確として報告できます。
- メンバーは
/standingで削除された自分の画像を確認し、報告できます。 - 許可した画像はホワイトリストに追加されるため、同じ画像が再び削除されることはありません。
削除よりも確認を優先したい場合は、自動削除を無効にしてください。ボットは検出した内容をログに記録し、メッセージはそのまま残します。
メディアの扱い
ボットは分析のためにファイルをダウンロードしますが、画像は保存しません。保存されるのは削除に関するデータで、誰がいつどこに投稿したか、レベル、画像のフィンガープリント（ハッシュ）です。判定が確認のために報告された場合に限り、その1枚の画像が確認用に保持されます。メッセージから取得したデータは、最長でも30日後にすべて削除されます。詳しい一覧はセキュリティとプライバシーをご覧ください。
よくある質問
SfwBotは暴力やグロテスクな表現も検出しますか
いいえ。SfwBotは3つのレベルでヌードを検出します。その他の種類のコンテンツには対応していません。
動画やGIFもスキャンされますか
はい。画像、GIF、動画がスキャンされます。スタンプとカスタム絵文字も、オンにするとスキャンできます。
スキャンにはいくらかかりますか
モデルによるスキャンでは、サーバーの残高からクレジットが使われます。Freeプランには毎月クレジットが含まれており、リストに一致したメディアはスキャンなしで判定されます。料金をご覧ください。
一部のチャンネルでヌードを許可できますか
はい。年齢制限チャンネルは初期設定でスキップされ、それ以外のチャンネルやロールも除外できます。
クレジットがなくなるとどうなりますか
クレジットが再び使えるようになるまで、ボットは新しいメディアのモデルによるスキャンを停止します。ホワイトリスト、ブラックリスト、テキストフィルターは引き続き動作します。