Uji Coba LLM Open Source Lokal

Penulis menguji beberapa LLM open source (Deepseek-r1:8b, Mistral:7b, Qwen3:8b) untuk pemrograman lokal.

Deepseek-r1 sering macet saat bernalar, sedangkan Mistral cepat tetapi sering berhalusinasi; Qwen3 paling stabil dan dipilih.

Model dijalankan secara lokal lewat Ollama yang bertindak seperti Docker dan menyediakan API.

CLI "aider" digunakan sebagai pasangan programmer AI; membutuhkan arahan manual melalui perintah /add, /ask, /code, dan /architect.

Refaktorisasi sederhana berhasil tetapi memakan waktu lebih lama dibanding pengeditan manual.

Pembuatan proyek baru gagal karena kode Python yang dihasilkan penuh halusinasi dan tidak dapat dijalankan.

Untuk tugas penjelasan bug atau pesan galat, setup ini sangat membantu dan lebih cepat daripada mencari di Google.

CLI "Qwen Code" kurang cocok untuk model lokal karena batas konteks kecil dan gagal menulis berkas.

Kesimpulan: LLM lokal bermanfaat untuk debugging, namun belum efisien sebagai penulis kode otonom.