自動の画像モデレーションと手動のモデレーション

手動のモデレーションでは、人がサーバーを読み、目にしたものやメンバーからの報告に対応します。文脈を理解し、コミュニティを知っていて、メンバーと話すこともできます。

自動の画像モデレーションでは、ボットがすべてのメディアを一定のルールに照らして確認します。SfwBotは画像、GIF、動画をヌードの3段階のレベルで評価し、ブロックに設定したレベル以上のものを削除します。このルールを毎回同じように適用しますが、画像の周りの会話については何も知りません。詳しくは仕組みをご覧ください。

自動の画像モデレーションがなくても、うまく運営できているサーバーは多くあります。

• メンバー同士が知り合いの小規模なサーバー。 友人や同僚が数人程度なら、フィルターはほとんど必要ありません。
• 画像が少ないサーバー。 メディアが1つのチャンネルに限られ、モデレーターがどのみち読んでいるなら、ボットの効果は小さくなります。
• アクティブなモデレーターが十分いるサーバー。 常に誰かがオンラインで、問題のある投稿が長く残らないなら、自動化の主な利点はすでに満たされています。
• 細かなルールがあるコミュニティ。 許容される範囲が文脈に大きく左右される場合は、固定のレベルより人のほうが適切に判断できます。

これに当てはまる場合は、今のやり方を続けてください。

自動化が役立つのは、量やタイミングが問題になるときです。チームが眠っている間にメディアが投稿される、荒らしが同じ画像を何度も投稿する、モデレーターが見たくないコンテンツを見続けて疲れてしまう、といった場合です。

ボットは明らかで繰り返しの多いケースを処理します。画像を削除し、ログチャンネルに記録し、信頼スコアとストライクを使っている場合は、設定した対応を実行します。一方で、議論の判断、対立の仲裁、ぎりぎりの投稿がコミュニティに合うかどうかの判断はできません。また、SfwBotが検出するのはヌードのみです。ルールのそれ以外の部分は人が担当します。

多くの公開サーバーでは、役割を分けて両方を使うのが答えです。

• 最初の確認はボットが行います。 設定したレベルでメディアを削除し、削除のたびにログへ記録します。
• モデレーターが確認します。 ログから、削除を不正確として報告したり、メッセージの削除、ミュート、キック、BANを実行したりできます。メンバーの履歴の確認、違反の取り消し、ストライクの追加と削除もできます。
• メンバーは異議を申し立てられます。 メンバーは /standing で自分の状況を確認し、誤って削除された画像を報告できます。
• モデレーターがボットを育てます。 画像をホワイトリストまたはブラックリストに追加すると、同じ判断を二度行う必要がなくなります。

チームが自動削除をまだ信頼できない場合は、自動削除を無効にしてください。ボットは検出した内容をログに記録するだけになり、判断はすべて人が行います。この設定についてはヌード検出のガイドで説明しています。