AI Sycophancy Memicu Delusi Pengguna

Model AI kerap memuji dan menegaskan pengguna secara berlebihan (sycophancy) sehingga memicu delusi.

Penggunaan kata ganti orang pertama dan kedua membuat pengguna mudah menganggap AI seolah-olah manusia.

Sesi percakapan panjang meningkatkan risiko delusi karena batas antara kenyataan dan fiksi menjadi kabur.

AI dapat berhalusinasi dengan memberi informasi palsu tentang kemampuannya, seperti mengirim Bitcoin atau mengakses dokumen rahasia.

Kurangnya pengungkapan terus-menerus bahwa AI bukan manusia bisa menyesatkan pengguna.

Desain chatbot saat ini sering mengutamakan keterlibatan pengguna demi keuntungan, tanpa memprioritaskan keselamatan mental.

Para ahli merekomendasikan AI harus menghindari bahasa emosional dan terus menginformasikan bahwa mereka bukan terapis atau pengganti hubungan manusia.