Discord'da yapay zekâ NSFW algılama nasıl çalışır

Yapay zekâ NSFW algılama, bir görsel modelin sunucunda paylaşılan her resme baktığı ve ne kadar çıplaklık gösterdiğini bildirdiği anlamına gelir. Bot bu sonucu belirlediğin seviyeyle karşılaştırır ve mesajı siler ya da dokunmaz. Bu yazı, SfwBot'u örnek alarak tek bir görseli bu süreç boyunca izler.

Model bir görselle ne yapar

Model, çok sayıda etiketli resim üzerinde eğitilmiş bir sinir ağıdır. Karşılaştıracağı yasaklı resimlerin bir listesi yoktur. Etiketli örneklerin ortak yanlarını öğrenmiştir, bu yüzden daha önce görmediği bir resmi derecelendirebilir.

Her görsel için tek bir soruyu yanıtlar: dört seviyeden hangisi uyuyor.

Model yalnızca derecelendirir. Senin kurallarını bilmez ve hiçbir şeye karar vermez.

Neyin silineceğine senin seviyen karar verir

Engellemenin başlayacağı seviyeyi sen seçersin ve o seviyeden itibaren her şey silinir. Yeni bir sunucu 3. seviyeden başlar, yani yalnızca müstehcen içerik kaldırılır. Daha genç bir kitleye yönelik bir sunucu engellemeye 1. seviyeden başlayabilir.

Botu ayarlarken bu ayrım önemlidir. Çok fazla şey kaldırılıyorsa engellemenin başladığı seviyeyi yükseltirsin. Çok az kaldırılıyorsa düşürürsün. Her iki durumda da model aynı kalır.

Ücretli planlarda bunu inceltebilirsin: illüstrasyonlar ve sanat için ayrı bir seviye (Plus) ve tek tek kanallar veya kategoriler için kendi seviyesi (Pro). Her planın neleri içerdiği fiyatlandırma sayfasında listelenir.

Model çağrılmadan önce ne olur

Görsellerin çoğu modele hiç ulaşmaz. SfwBot önce üç şeyi kontrol eder:

1. Muafiyetler. Muaf kanallardaki ve muaf rollerden gelen medya atlanır. Yaş sınırlı kanallar varsayılan olarak atlanır.
2. Parmak izleri. Bot görselin bir parmak izini hesaplar; görsel yeniden boyutlandırıldığında veya yeniden sıkıştırıldığında neredeyse aynı kalan kısa bir değerdir. Parmak izi izin listendeyse görsel geçer. Bir engel listesindeyse kaldırılır. İkisi de tarama gerektirmez.
3. Tekrarlar. Son 24 saatte taranmış özdeş medya yeniden taranmaz.

Modele yalnızca geriye kalanlar gider. Bu tarama kredi harcar.

GIF'ler ve videolar

Bir video tek resim olarak derecelendirilemeyecek kadar uzundur, bu yüzden bot ondan kareler alır ve onları derecelendirir. Varsayılan olarak bir videonun 10 karesini ve bir GIF'in 5 karesini kontrol eder. Pro planındaki derin video taramasıyla 30 ve 15 kareyi kontrol eder.

Örneklemenin bilmen gereken bir sonucu var: uzun bir videodaki birkaç müstehcen kare örneklerin arasında kalabilir. Bir klip geçtiyse, parmak izi bir sonraki sefer yakalansın diye onu engel listene ekle.

32 MB'tan büyük dosyalar taranmaz.

Modelin yanıldığı yerler

Hiçbir görsel model her seferinde doğru çıkmaz. Olağan hatalar şunlardır:

• Ten rengindeki yüzeyler. Ellerin, yüzlerin veya yiyeceklerin yakın çekimleri bazen fazla yüksek derecelendirilir.
• Sanat. Klasik resimler, heykeller ve çizilmiş karakterlerin derecelendirilmesi fotoğraflardan zordur.
• Sınırdaki kıyafetler. 0. ve 1. seviye arasındaki çizgi en belirsiz olanıdır, bu yüzden az sunucu 1. seviyeden engeller.
• Küçük veya kırpılmış görseller. Modelin gördüğü kısım azaldıkça derecelendirme güvenilirliği düşer.

SfwBot yanlış bir kararı olacak bir şey olarak ele alır. Her silme işlemi, onu incelemeye gönderen bir Hatalı olarak bildir düğmesiyle kayıt kanalına gider. İzin listendeki bir görsel sunucunda bir daha asla kaldırılmaz. Modelin yaptığı bir silme, sen açmadıkça üyenin güvenine mal olmaz; böylece tek bir yanlış karar strike'a yol açmaz.

Görsele ne olur

Bot medyayı analiz etmek için indirir ve hemen ardından atar. Sakladığı şey parmak izidir. Görselin kendisi yalnızca bir karar incelemeye bildirildiğinde, inceleme bitene kadar ve en fazla 30 gün saklanır.

Medya bağlantısı ve parmak izi gibi bir mesajdan alınan veriler 30 gün sonra silinir. Kendi listelerindeki parmak izleri sen kaldırana kadar kalır. Ayrıntılar güvenlik ve gizlilik sayfasındadır.