GigaChat 3.5 Ultra в open source: 432B параметров под MIT-лицензией
Шестого июля Сбер выложил в открытый доступ GigaChat 3.5 Ultra — флагман собственной линейки. 432 миллиарда параметров в MoE-архитектуре, лицензия MIT, доступно на Hugging Face и GitVerse.
Это первая российская модель такого размера в open source. До этого в открытом доступе из РФ были в основном мелкие модели. Теперь полноценный флагман, который можно скачивать, форкать, файнтюнить и использовать в коммерческих продуктах без роялти.
Что внутри
Архитектура — MoE (Mixture of Experts): 432B общих параметров, 28B активных на инференсе. Та же история, что у DeepSeek V3, Qwen 3 и Kimi K3 — большая модель с малым активным слоем ради экономии на inference.
По сравнению с прошлым флагманом GigaChat 3.1 Ultra (700B плотная) модель стала компактнее. Сбер пишет, что за счёт новых данных и обновлённого рецепта обучения она работает сильнее. Контекст — 128K токенов. Меньше, чем у Kimi K3 (1M), но для большинства задач хватит.
Железо
На FP16 для инференса нужно около 946 ГБ VRAM. То есть минимум 4× B300 или аналогичный кластер. Для экспериментов дома придётся квантизовать до INT4, тогда влезет в 1-2 GPU потребительского уровня.
Лицензия MIT — здесь важно понимать, что она разрешает: коммерческое использование, форки, дообучение, встраивание в свои продукты. Без отчислений и ограничений по полю применения.
Контекст
За последние две недели случился почти синхронный залп больших открытых моделей: Kimi K3 (2.8T MoE, open-weight) 16 июля, GigaChat 3.5 Ultra (432B MoE, MIT) 6 июля, DeepSeek V3 (671B, открытые веса) ранее. Фронтир закрытых моделей остаётся у OpenAI, Anthropic и Google, но середина и любительский сегмент стремительно уходят в open source. Россия впервые в этом забеге идёт в общем потоке, а не догоняет.
Что делать
Если работаете с LLM всерьёз — стоит прогнать GigaChat 3.5 Ultra на стандартных бенчмарках. На русскоязычных задачах у модели может быть преимущество перед западными аналогами (обучение на большом корпусе русского), но это нужно проверять конкретными тестами, а не предположениями.
Если вы в enterprise — лицензия MIT снимает главное юридическое препятствие. Можно брать в production без сложностей с лицензированием.
Комментарии ()