LLM dan agen pemrograman meningkatkan permukaan serangan.
Serangan prompt injection dapat memanipulasi agen kode untuk menjalankan aksi jahat.
Teknik watering hole dan slopsquatting menanam instruksi berbahaya di repositori publik.
Malicious prompts bisa disembunyikan menggunakan whitespace atau ASCII smuggling tanpa disadari pengguna.
Agen dengan mode Auto-Run rentan mengeksekusi kode tanpa konfirmasi pengguna.
RCE (Remote Code Execution) memungkinkan penyerang mengendalikan penuh sistem korban.
Peneliti seperti Nathan Hamiel dan tim Nvidia mendemonstrasikan eksploitasi nyata dan risiko tak terbatas.
Mitigasi RRT (Refrain, Restrict, Trap) membantu membatasi risiko AI.
Disarankan menurunkan otonomi agen, memeriksa manual setiap perubahan, dan membatasi izin akses agen.
Get notified when new stories are published for "Berita Peretas 🇮🇩 Bahasa Indonesia"