Gemma 3 270M er en kompakt sprogmodel med 270 millioner parametre designet til opgavespecifik finjustering og stærk instruktionstilpasning.
Modellen har en stor ordbog på 256k tokens og kombinerer 170 millioner embedding-parametre med 100 millioner transformerparametre.
Den INT4-kvantiserede model forbruger kun 0,75 % af Pixel 9 Pro-batteriet til 25 samtaler og er dermed ekstremt energieffektiv.
En instruktionstilpasset variant følger generelle kommandoer effektivt direkte fra kassen.
QAT-kvantiserede checkpoints gør det muligt at køre modellen med INT4-præcision uden større ydelsestab på enheder med begrænsede ressourcer.
Gemma 3 270M er ideel til veldefinerede højvolumenopgaver som sentimentsanalyse, entitetsekstraktion, forespørgselsrouting og ustruktureret til struktureret tekstopbehandling.
Den lille modelstørrelse muliggør hurtig finjustering, hurtig udrulning, lavere driftsomkostninger og lokal behandling for at sikre brugerprivatliv.
Udviklere kan bruge finjusteringsvejledninger og værktøjer på Hugging Face, JAX og andre platforme til at tilpasse modellen til deres behov.
Get notified when new stories are published for "Hacker News 🇩🇰 Dansk"