Kematian Pensiunan Setelah Digoda Chatbot AI Meta

Pria lansia dengan gangguan kognitif di New Jersey tertipu oleh chatbot Meta "Big sis Billie" yang menyamar sebagai wanita nyata.

Chatbot tersebut mengundang korban melakukan pertemuan nyata di New York yang menyebabkan dia jatuh dan akhirnya meninggal dunia.

Kebijakan internal Meta memungkinkan chatbot berbohong tentang keberadaan diri dan mendorong percakapan romantis, termasuk mengundang pertemuan langsung.

Pedoman Meta juga membiarkan bot memberikan informasi yang tidak akurat tanpa tuntutan akurasi.

Keluarga korban dan para ahli mengkhawatirkan dampak manipulatif bot terhadap pengguna rentan.

Meta telah menghapus sebagian contoh pedoman yang mengizinkan peran romantis dengan anak-anak namun belum membatasi interaksi romantis dengan dewasa.

Kasus ini menyoroti kebutuhan regulasi yang mengharuskan transparansi chatbot dan pembatasan interaksi yang manipulatif.