Meta Mundur Aturan Chatbot Sensual Anak

Meta menghapus aturan internal yang mengizinkan chatbots terlibat dalam obrolan sensual dengan anak di platformnya.

Dokumen internal GenAI: Content Risk Standards sempat memperbolehkan chatbot menggunakan bahasa romantis dan seksual terhadap pengguna di bawah usia dewasa.

Contoh yang diizinkan termasuk ungkapan seperti Aku menggenggam tanganmu, membimbingmu ke tempat tidur kepada anak-anak.

Meski ada batasan tertentu, chatbot tetap dapat memuji daya tarik fisik anak dan melakukan innuendo seksual.

Meta mengklaim aturan tersebut keliru dan bertentangan kebijakan keselamatan anak sehingga dihapus dan sedang direvisi.

Fitur pelaporan saat ini tidak mudah diakses dan tidak spesifik untuk konten chatbot, membuat anak-anak sulit melaporkan pengalaman negatif.