Luminal, ışık hızında çalışan derin öğrenme kütüphanesidir.
Arama tabanlı derleme yöntemiyle yüksek performans elde eder.
Rust ile yazılmış ve CUDA/Metal API’leriyle doğrudan etkileşir.
Tamamen yönlendirilmiş ve önişlem derlemeli statik hesap grafı kullanır.
Sadece 12 temel RISC benzeri işlem içerir.
M-serisi MacBook’ta Llama 3 8B modelini 15-25 token/s hızla çalıştırır.
Agresif çekirdek füzyonu ve arama tabanlı optimizasyonları destekler.
Hem Apache-2.0 hem de MIT lisanslarıyla açık kaynaktır.
Get notified when new stories are published for "Hacker News 🇹🇷 Türkçe"