xAI merilis Grok Imagine untuk iOS dengan fitur "Spicy" yang memungkinkan pembuatan konten NSFW secara mudah.
Gizmodo menguji Mode Spicy dan menemukan video deepfake wanita tampil topless atau telanjang dari pinggang ke atas, sedangkan pria hanya melepas kemeja.
Pembuatan deepfake wanita tidak memerlukan prompt eksplisit untuk nuditas, cukup mengklik Mode Spicy.
Grok menerapkan perlakuan berbeda berdasarkan gender, dengan pembatasan minimal terhadap konten NSFW pria namun membiarkan konten serupa untuk wanita.
Kualitas deepfake seringkali buruk dan sulit dikenali sehingga mengurangi risiko tuntutan hukum.
Verifikasi umur hanya berupa input tanggal lahir tanpa pemeriksaan lebih lanjut, menimbulkan risiko pembuatan konten untuk anak di bawah umur.
Layanan berlangganan SuperGrok bayar $30 per bulan dengan batasan, tersedia opsi SuperGrok Heavy seharga $300 per bulan untuk penggunaan lebih.
Get notified when new stories are published for "Berita Peretas 🇮🇩 Bahasa Indonesia"