Model AI Rentan Disinformasi dan Kurang Nalar

LLM grooming adalah praktik produksi massal dan duplikasi narasi palsu untuk memanipulasi keluaran model AI.

ChatGPT 4o dan o3 sering mengutip konten disinformasi dari jaringan Pravda meski model menyatakan sumber tersebut tidak dapat dipercaya.

Kedua model gagal melakukan penalaran sederhana untuk menyimpulkan bahwa mereka harus menolak mengutip jaringan Pravda.

Kerentanan ini makin terlihat saat model melakukan pencarian waktu nyata pada topik yang kurang banyak dibahas.

Model “reasoning” seperti o3 tidak memperlihatkan peningkatan signifikan dalam menahan disinformasi dibanding model standar.

Solusi jangka panjang membutuhkan kemampuan kognitif mendalam yang mampu mengevaluasi sumber, memahami konteks, dan melakukan fact checking otomatis.