Przewodnik deweloperski Gemma 3n

Gemma 3n to mobilny model AI multimodalny działający na urządzeniach edge.

Dostępne dwie wersje: E2B (5B parametrów, 2GB pamięci) i E4B (8B parametrów, 3GB pamięci).

MatFormer to architektura Matrioszka umożliwiająca elastyczne rozmiary modeli i mieszanie parametrów.

Per-Layer Embeddings zmniejsza wymagania VRAM, przenosząc część parametrów do pamięci CPU.

KV Cache Sharing przyspiesza przetwarzanie długich kontekstów, dwukrotnie skracając fazę prefill.

Gemma 3n rozpoznaje i tłumaczy mowę on-device (ASR i AST) z zaawansowanym enkoderem audio.

MobileNet-V5-300M to efektywny enkoder obrazu, zapewniający do 60 FPS na urządzeniach mobilnych.

Szerokie wsparcie popularnych narzędzi open source oraz konkurs deweloperski z nagrodami.