การตรวจจับ NSFW ด้วย AI บน Discord ทำงานอย่างไร
โมเดลภาพให้คะแนนแต่ละภาพ และการตั้งค่าของคุณกำหนดว่าจะเกิดอะไรต่อ นี่คือสิ่งที่โมเดลเห็น จุดที่ผิดพลาด และสิ่งที่ถูกเก็บไว้
โดย SfwBot Teamอ่าน 2 นาที
การตรวจจับ NSFW ด้วย AI หมายถึงโมเดลภาพดูทุกภาพที่โพสต์ในเซิร์ฟเวอร์ของคุณและรายงานว่าภาพนั้นมีภาพเปลือยมากเพียงใด บอตเทียบผลกับระดับที่คุณตั้งไว้ แล้วลบข้อความหรือปล่อยไว้ บทความนี้ตามภาพหนึ่งภาพผ่านกระบวนการนั้น โดยใช้ SfwBot เป็นตัวอย่าง
โมเดลทำอะไรกับภาพ
โมเดลคือโครงข่ายประสาทเทียมที่ฝึกด้วยภาพที่ติดป้ายกำกับจำนวนมาก ไม่มีรายการภาพต้องห้ามไว้เปรียบเทียบ แต่เรียนรู้สิ่งที่ตัวอย่างที่ติดป้ายมีร่วมกัน จึงให้คะแนนภาพที่ไม่เคยเห็นได้
สำหรับแต่ละภาพ โมเดลตอบคำถามเดียว คือระดับใดในสี่ระดับที่เหมาะสม
| ระดับ | ชื่อ | เนื้อหาทั่วไป |
|---|---|---|
| 0 | ทั่วไป | มีม ภาพหน้าจอ เซลฟี |
| 1 | เปิดเผย | ชุดว่ายน้ำ ชุดชั้นใน และการแต่งกายที่คล้ายกัน |
| 2 | บ่งชี้ภาพเปลือย | ภาพเปลือยที่ถูกปิดหรือซ่อนไว้ |
| 3 | โจ่งแจ้ง | ภาพเปลือยที่เห็นได้และเนื้อหาทางเพศ |
โมเดลทำหน้าที่ให้คะแนนเท่านั้น ไม่รู้จักกฎของคุณและไม่ตัดสินใจอะไร
ระดับของคุณกำหนดว่าอะไรจะถูกลบ
คุณเลือกระดับที่เริ่มบล็อก และทุกอย่างตั้งแต่ระดับนั้นขึ้นไปจะถูกลบ เซิร์ฟเวอร์ใหม่เริ่มที่ระดับ 3 จึงลบเฉพาะเนื้อหาโจ่งแจ้ง เซิร์ฟเวอร์สำหรับผู้ชมอายุน้อยอาจเริ่มบล็อกที่ระดับ 1
การแบ่งนี้สำคัญเมื่อคุณปรับบอต หากลบมากเกินไป ให้เพิ่มระดับที่เริ่มบล็อก หากลบน้อยเกินไป ให้ลดระดับ โมเดลยังคงเหมือนเดิมในทั้งสองกรณี
ในแผนแบบชำระเงิน คุณปรับละเอียดได้อีก: ระดับแยกสำหรับภาพประกอบและงานศิลปะ (Plus) และระดับของตัวเองสำหรับช่องหรือหมวดหมู่เดี่ยว (Pro) หน้าราคา แสดงสิ่งที่แต่ละแผนรวมอยู่
สิ่งที่เกิดขึ้นก่อนถามโมเดล
ภาพส่วนใหญ่ไม่เคยถึงโมเดล SfwBot ตรวจสามอย่างก่อน:
- ข้อยกเว้น สื่อในช่องที่ได้รับยกเว้นและจากบทบาทที่ได้รับยกเว้นจะถูกข้าม ช่องที่จำกัดอายุจะถูกข้ามโดยค่าเริ่มต้น
- ลายนิ้วมือ บอตคำนวณลายนิ้วมือของภาพ ซึ่งเป็นค่าสั้นๆ ที่แทบไม่เปลี่ยนเมื่อภาพถูกปรับขนาดหรือบีบอัดใหม่ หากลายนิ้วมืออยู่ในรายการอนุญาตของคุณ ภาพจะผ่าน หากอยู่ในรายการบล็อก ภาพจะถูกลบ ทั้งสองกรณีไม่ต้องสแกน
- ภาพซ้ำ สื่อที่เหมือนกันซึ่งสแกนไปแล้วใน 24 ชั่วโมงที่ผ่านมาจะไม่ถูกสแกนอีก
เฉพาะส่วนที่เหลือเท่านั้นที่ไปถึงโมเดล การสแกนนั้นใช้เครดิต
GIF และวิดีโอ
วิดีโอยาวเกินกว่าจะให้คะแนนเป็นภาพเดียว บอตจึงดึงเฟรมจากวิดีโอมาให้คะแนน โดยค่าเริ่มต้นจะตรวจ 10 เฟรมของวิดีโอและ 5 เฟรมของ GIF ด้วยการสแกนวิดีโอเชิงลึกในแผน Pro จะตรวจ 30 และ 15
การสุ่มตัวอย่างมีผลที่ควรรู้: เฟรมโจ่งแจ้งไม่กี่เฟรมในวิดีโอยาวอาจหลุดอยู่ระหว่างตัวอย่าง หากคลิปผ่านไปได้ ให้เพิ่มลงในรายการบล็อกเพื่อให้จับลายนิ้วมือได้ในครั้งต่อไป
ไฟล์ที่ใหญ่กว่า 32 MB จะไม่ถูกสแกน
จุดที่โมเดลผิดพลาด
ไม่มีโมเดลภาพใดถูกต้องทุกครั้ง ความผิดพลาดที่พบบ่อยคือ:
- พื้นผิวสีผิว ภาพระยะใกล้ของมือ ใบหน้า หรืออาหารบางครั้งถูกให้คะแนนสูงเกินไป
- งานศิลปะ ภาพวาดคลาสสิก ประติมากรรม และตัวละครที่วาดให้คะแนนยากกว่าภาพถ่าย
- การแต่งกายก้ำกึ่ง เส้นแบ่งระหว่างระดับ 0 และระดับ 1 มีความแน่นอนน้อยที่สุด จึงมีเซิร์ฟเวอร์น้อยที่บล็อกตั้งแต่ระดับ 1
- ภาพเล็กหรือถูกครอบ ยิ่งโมเดลเห็นน้อย การให้คะแนนยิ่งเชื่อถือได้น้อย
SfwBot ถือว่าการตัดสินที่ผิดเป็นสิ่งที่จะเกิดขึ้น ทุกการลบจะไปที่ช่องบันทึกของคุณพร้อมปุ่ม รายงานว่าผิด ที่ส่งไปตรวจสอบ ภาพที่อยู่ในรายการอนุญาตของคุณจะไม่ถูกลบในเซิร์ฟเวอร์ของคุณอีก การลบโดยโมเดลไม่ทำให้สมาชิกเสียความน่าเชื่อถือ เว้นแต่คุณเปิดตัวเลือกนั้น การตัดสินที่ผิดครั้งเดียวจึงไม่นำไปสู่สไตรก์
สิ่งที่เกิดกับภาพ
บอตดาวน์โหลดสื่อเพื่อวิเคราะห์และทิ้งทันทีหลังจากนั้น สิ่งที่เก็บไว้คือลายนิ้วมือ ตัวภาพจะถูกเก็บเฉพาะเมื่อมีการรายงานการตัดสินเพื่อตรวจสอบ จนกว่าการตรวจสอบจะเสร็จและไม่เกิน 30 วัน
ข้อมูลที่นำมาจากข้อความ เช่น ลิงก์สื่อและลายนิ้วมือ จะถูกลบหลังจาก 30 วัน ลายนิ้วมือในรายการของคุณเองจะอยู่จนกว่าคุณจะลบ รายละเอียดอยู่ในหน้าความปลอดภัยและความเป็นส่วนตัว
คำถามที่พบบ่อย
การตรวจจับด้วย AI แทนผู้ดูแลที่เป็นคนได้ไหม
ไม่ได้ ระบบลบกรณีที่ชัดเจนได้ในพริบตาทุกเวลา ผู้ดูแลของคุณยังคงตัดสินกรณีที่ถูกรายงานและทุกอย่างที่ขึ้นกับบริบท
โมเดลเรียนรู้จากภาพในเซิร์ฟเวอร์ของฉันไหม
บอตไม่เก็บภาพที่สแกน ภาพจะถูกเก็บเฉพาะเมื่อมีการรายงานการตัดสินเพื่อตรวจสอบ และไม่เกิน 30 วัน
AI อ่านข้อความไหม
ไม่ โมเดลให้คะแนนภาพ GIF และวิดีโอ ข้อความจัดการโดยตัวกรองแยกสำหรับคำเชิญ สแปม และลิงก์ ซึ่งไม่ใช้เครดิต
จะเกิดอะไรขึ้นเมื่อการสแกนล้มเหลว
ข้อความจะอยู่ต่อ และเครดิตของการสแกนนั้นจะถูกคืน
