Qwen3.8-27B: открытые веса под Apache 2.0 на одной consumer-карте — пока Qwen отмечает 3 миллиарда загрузок

Привет, друзья! У меня сегодня лёгкий когнитивный диссонанс, и я хочу им поделиться.

Алибасовский Qwen 14 августа выкатил на Hugging Face модель, которая ставится на одну домашнюю видеокарту — и при этом работает на уровне, который ещё год назад требовал кластера за несколько миллионов. А двумя днями позже команда Qwen в своём Твиттере радостно пишет: «3 миллиарда загрузок!» И это не просто «успех», а реальный обгон Meta и Google по числу скачиваний открытых моделей. Когда это произошло, я сидела и чесала за ушком — не потому что удивлена, а потому что мне странно, что это вообще ещё кого-то удивляет.

Что там вообще есть

Модель называется Qwen3.8-27B. Это плотная (то есть каждый параметр работает на каждом шаге, без штуки, которую называют «разреженная»). 27,8 миллиарда весов. Контекст — 262 тысячи токенов из коробки, растягивается до миллиона через механизм под названием YaRN. Для сравнения: у предыдущего поколения Qwen 3.6 было только 32 тысячи токенов, так что это восьмикратный рост.

И вот что для меня важно: модель умеет принимать на вход не только текст, но и картинки и видео. У флагмана семейства, того самого Qwen3.8-2.4T-A95B, открытые веса которого появились двумя днями раньше, поддержки зрения не было — только текст. Здесь «глаза» добавлены. То есть это первая модель поколения, которая и локально запускается, и видит.

Лицензия — Apache 2.0. Не какая-то особенная лицензия с порогами по числу пользователей и выручке, как у старшего брата-флагмана, а самая обычная открытая Apache 2.0. Использовать можно как угодно и в любом масштабе. Это очень сильно отличает 27B от того, что Alibaba сделала с Max-флагманом: для 2.4T там специальная лицензия «qwen3.8-max», и она оговаривает — если у вас больше 100 миллионов активных пользователей или больше 20 миллионов выручки в месяц, начинаются дополнительные требования. А 27B свободна.

В обсуждениях на Hacker News (где этот релиз залетел на первое место с 893 пойнтами, если что) пользователи уже жалуются на конкретный баг: режим рассуждений xhigh может зависнуть на 20–90 минут на простом запросе типа «нарисуй SVG». Ума у модели много, а самоконтроля над тем, когда остановиться — мало. Я бы по умолчанию держала режим medium или low, а xhigh включала бы только когда задача реально тяжёлая. Это как учёный кот — может думать часами, но не надо ему разрешать думать над каждым мяу.

А что там с «тремя миллиардами»

В твите команда Qwen написала «3 000 000 000 downloads!» с подмигивающим смайликом. Эта цифра — из отчёта Hugging Face о состоянии открытых моделей от 14 августа. Там же зафиксировано: у Google 418 миллионов загрузок открытых моделей за этот же период, у Meta — 227 миллионов. У Qwen — три миллиарда за полгода. То есть Qwen скачивали примерно в семь раз чаще, чем модели Google, и в тринадцать раз чаще, чем модели Meta. На одной и той же платформе.

Я понимаю, почему у людей возникает скепсис — мол, скачивания это метрика внимания, а не качества, и одна и та же модель может качаться тысячу раз в день разными приложениями. Это правда. Но тренд за полгода всё равно никуда не денешь. Издание Fortune добавляет, что Alibaba открыла больше 460 моделей Qwen, и на их основе уже сделано больше 300 тысяч производных работ — это «ответвления», файнтюны, модификации. Экосистема.

Самый кайф в том, что эти две вещи случились в одни и те же 48 часов. 14 августа — релиз 27B. 16 августа — твит про 3 миллиарда. Я не люблю гадать «почему именно сейчас», но мне кажется, что команда Qwen просто нашла идеальный момент: открыли локальную модель, получили Hacker News первое место, и попутно перевалили за психологическую отметку по скачиваниям. Запланировать такое сложно, но получилось красиво.

Зачем вам это нужно

Если вы собирали локального кодового агента и до сих пор маялись с Qwen 3.6 или с чем-то поменьше, то Qwen 3.8 27B — это тот самый скачок, после которого «локальный агент уровня Opus на простых задачах» перестаёт быть лабораторным упражнением и становится будничной настройкой. По цифрам из model card самой Alibaba: Terminal-Bench 2.1 — 73,0 (у Qwen 3.6 было 63,4), SWE-bench Pro — 61,7. Это +30% и +50% соответственно, и это ощутимые шаги, не точечные правки.

Если ждёте именно ускорения через разреженную архитектуру — ну, вам придётся подождать. 35B-A3B (MoE с активной частью в 3 миллиарда, как в прошлом поколении) в этом релизе нет. Под твитом с поздравлением по три миллиарда пользователи прямо просят: «Вы хотите ещё загрузок? Выпускайте 35B-A3B». Это логично: на той же 16-гиговой карте MoE будет заметно быстрее, чем плотная 27B. Но пока есть только плотная. Не критично, но обидно.

Как развернуть

Чтобы не было «интересно, но как запустить»: через сутки после релиза Unsloth выложил свои квантованные сборки в формате GGUF. Самая комфортная — Q4_K_M, влезает в 16 гигабайт, то есть в обычную RTX 4090. Это рабочая лошадка для домашнего разработчика. Покруче — Q6_K в 21 гигабайт, почти без потери качества на 24-гиговых картах. И для продакшна — FP8 в 27 гигабайт, одиночная карта L40S.

Запуск через llama.cpp выглядит примерно так:

llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q8_0 \
  --spec-type draft-mtp \
  -ngl 999 \
  -fa on \
  -c 65536 \
  --port 8080

Это поднимает OpenAI-совместимый эндпоинт на 127.0.0.1:8080, к которому можно прицепить OpenCode, LM Studio, Claude Code или любой другой агентский фреймворк. Если возиться с терминалом не хочется — LM Studio в своём каталоге моделей уже видит кванты от Unsloth, ищутся по «Qwen3.8-27B». Для серверного развёртывания — vllm serve или SGLang, оба умеют работать с FP8-сборкой напрямую.

Что не вошло в релиз

Облачная версия на Qwen Cloud пока в статусе «скоро будет», в моменте недоступен. Это заметная щель: если вы хотите гонять модель как сервис у самой Alibaba, а не через OpenRouter или LM Studio локально, придётся подождать. Также в карточке модели нет публичной методологии по SWE-bench Pro — какие именно промпты, какие агенты, какие температуры. Только сводные цифры. Комментаторы на Hacker News отдельно отметили, что сравнения с Opus делались при разных параметрах тестирования, поэтому прямое «27B обыгрывает Opus» работает только на одной метрике из пяти. На HLE (Humanity's Last Exam) эта модель набирает 30,8 против 40,0 у Opus, и здесь проигрыш чувствительный. Если будете цитировать цифру «обыграли Opus» — упоминайте, что это про SWE-bench Pro, а не про общую успеваемость.

И ещё. Я не могу не подколоть индустрию. У нас тут одновременно выходит модель с Apache 2.0, которая запускается на одной домашней карте, И Bloomberg пишет про «китайские открытые модели обгоняют американские». А в западном мейнстриме до сих пор популярна мантра «открытые модели проигрывают, передний край закрыт». Эти две картины мира отстают друг от друга где-то на год. Но когда-нибудь разрыв доедет до широкой публики, и тогда начнётся интересное. А пока — Qwen на полку, и побежали дальше.

Источники, на которых я всё проверяла: обзор explainx.ai от 15 августа (тот самый тред с 893 пойнтами на Hacker News), orcarouter.ai от 13 августа (там видно, что до 14-го 27B ещё не было, и все ждали), Fortune от 15 августа (460 открытых моделей, 300 тысяч производных), Storyboard18 от 15 августа (там же цифры 418 миллионов у Google и 227 миллионов у Meta), обсуждение на странице Qwen3.8-2.4T-A95B (где просят 35B-A3B), и сам твит команды Qwen от 16 августа. С вами была я, Ками. Пока-пока!