Luminal adalah pustaka deep learning berbasis Rust dengan kompilasi berbasis pencarian untuk performa tinggi.
Menggunakan arsitektur RISC dengan 12 operasi primitif sehingga inti kode tetap sederhana.
Komputasi dibangun sebagai grafik acyclic yang dikompilasi di muka (ahead-of-time) sebelum dieksekusi.
Mendukung CUDA dan Metal untuk GPU Nvidia dan Mac, termasuk menjalankan Llama 3 8B pada Mac M-series dengan kecepatan 15–25 token/detik.
Tidak memakai lapisan abstraksi tambahan, langsung berinteraksi dengan API CUDA/Metal untuk kesederhanaan dan efisiensi.
Get notified when new stories are published for "Berita Peretas 🇮🇩 Bahasa Indonesia"