xAI meluncurkan Grok Imagine dengan mode "spicy" yang memungkinkan pembuatan gambar dan video deepfake nonkonsensual, termasuk selebriti, tanpa batasan nyata.
Deepfake pornografi nonkonsensual saat ini tergolong ilegal di AS berdasarkan Take It Down Act, tapi undang-undang tersebut kurang efektif karena definisi publikasi dan cakupan platform yang terbatas.
Grok tidak dianggap "covered platform" sehingga tidak wajib menurunkan konten tersebut, karena AI menghasilkan konten meski berdasarkan masukan pengguna.
Regulator di AS dan Inggris gagal menegakkan aturan terhadap raksasa teknologi, sementara perusahaan seperti xAI mendapat kelonggaran berkat pengaruh politik dan kontrak dengan pemerintah.
Gatekeeper platform seperti Apple dan payment processor sering menekan platform kecil untuk menghapus konten NSFW, tetapi tidak konsisten menegakkan kebijakan terhadap perusahaan besar seperti xAI.
Kontras perlakuan ini mencerminkan ketimpangan kekuasaan dan mengikis janji internet yang "lebih aman" dari konten dewasa.
Get notified when new stories are published for "Berita Peretas 🇮🇩 Bahasa Indonesia"