Discordモデレーターの燃え尽き：自動化できること

Discordのモデレーターが燃え尽きる主な原因は2つあります。一日中繰り返される同じ小さな作業と、誰も見たくないコンテンツを見なければならないことです。判断が不要なケースをBotに任せれば、どちらも減らせます。この記事では、モデレーション業務を自動化できるものと人に残すべきものに分け、前者の設定方法を紹介します。

モデレーターを疲弊させるもの

• 待機状態が続くこと：スパムは夜中にも届き、誰かが対応する責任を感じます。
• 繰り返し：今日5回目の同じ招待リンクの削除は、週末には誰の記憶にも残らない作業です。
• コンテンツそのもの：露骨な画像を削除する人は、まず自分でそれを見なければなりません。
• 議論：手作業の判断は、すべて異議を唱えられる可能性があり、説明するのはモデレーターです。
• 曖昧なルール：同じケースでも2人のモデレーターの判断が分かれると、判断に時間がかかり、リスクも大きく感じられます。

モデレーターの多くはボランティアです。疲れたと口にすることはあまりなく、活動が減り、やがて辞めていきます。

Botに任せられること

答えが明らかなケースが、量の大半を占めます。手作業で行うと、最も疲れる作業でもあります。

SfwBotでは、Botが参加した時点からヌード検出がオンになっています。その他のモジュールは、ダッシュボードでオンにします。テキストフィルターではクレジットを使いません。

人に残すべきこと

Botは文脈を判断できません。次のケースには、コミュニティを知る人が必要です：

• メンバー間の対立
• 禁止語を使わない嫌がらせ
• 判定に対する異議申し立て
• メンバーの安全に関わること

前者を自動化すれば、チームは後者に時間を使えます。自動モデレーションと手動モデレーションの比較もご覧ください。

モデレーターにコンテンツを見せない

露骨な画像を、チームの目に二度さらす必要はありません。ダッシュボードのログページで、ログメッセージにメディアを含めるをオフにします。すると、ログにはメンバー、チャンネル、モデルが検出したレベルが記録され、画像は含まれません。

何かを削除する前に確認したい場合は、そのための設定もありますが、モデレーターがすべてのケースを見ることになります。多くのチームでは、自動で削除し、メンバーから報告があったものだけを確認する運用のほうが続けやすくなります。

判断を取り消しやすくする

間違いをワンクリックで取り消せるモデレーターは、間違えることをあまり心配しません。SfwBotには、次の3つの仕組みがあります：

• ログチャンネルにある信頼スコアの変更には、それぞれ**元に戻す（誤検出）**ボタンがあります。メンバーの信頼スコアを復元し、それに伴うタイムアウトやBANを解除します。
• 削除に対する不正確として報告で、モデルの誤判定を確認に回せます。
• ホワイトリストの画像は、そのサーバーで二度と削除されません。

メンバーは /standing で自分の状況を確認できます。最近削除された画像と、誤判定を報告するボタンも表示されます。本来ならモデレーターのDMに届く質問は、ここで解決します。

処分の基準を一度で決める

議論の多くは、ケースごとに処分を決めることから生じます。ストライクによる処分を使えば、1回目、2回目、3回目のストライクが何を意味するかを一度決めるだけで、Botが全員に同じように適用します。新しいサーバーでは、タイムアウトが30分、1日、3日から始まります。

メンバーから苦情が来ても、モデレーターは個人的な判断を弁明する代わりに、ルールと履歴を示せます。

1週間で設定する

1. 1日目：Botを追加し、 /setup を実行して、非公開のログチャンネルを選びます。
2. 2〜4日目：ログチャンネルを読みます。誤判定を報告し、何度も出てくる無害な画像をホワイトリストに追加します。
3. 5日目：招待フィルターと、スパムフィルターのメッセージ連投チェックをオンにします。
4. 6日目：ストライクによる処分を設定してから、信頼スコアとストライクをオンにします。
5. 7日目：まだチームに負担が残っているものをメンバーに尋ね、調整します。

初日の手順は、はじめにガイドで詳しく説明しています。