Gemma 3 270M имеет 270 млн параметров и большой словарь (256k токенов) для точного представления специфических и редких токенов.
Модель потребляет всего 0.75% батареи Pixel 9 Pro за 25 диалогов в INT4-квантовании, демонстрируя экстремальную энергоэффективность.
Инструкционно-тренированная версия модели хорошо следует общим инструкциям прямо из коробки.
QAT-контролируемая INT4-прецизионная квантизация обеспечивает минимальную деградацию производительности на ограниченных устройствах.
Gemma 3 270M оптимальна для высоконагруженных, чётко определённых задач: классификации текста, извлечения данных, маршрутизации запросов и др.
Модель легко дообучать и развертывать локально или в облаке, что ускоряет эксперименты и снижает затраты.
Защита приватности пользователей обеспечивается возможностью работы полностью на устройстве без отправки данных в облако.
Get notified when new stories are published for "Hacker News 🇷🇺 Русский"