02 апр. 2025 2 min read Гайд по нейросетям

Установил YandexGPT 5 Lite без интернета – и пожалел, что не сделал этого раньше!

Этот гайд поможет запустить YandexGPT на своем компьютере уже через 4 минуты. Просто следуйте этим шагам.

Подготовка:

Cкачиваем JAN. (рис.1)
JAN - программа для локального запуска языковых моделей. Основным преимуществом JAN является дружелюбный интерфейс. Это позволит человку с любым уровнем знаний и навыков установить YandexGPT

📄

Вы можете использовать другую программу, если являетесь достаточно опытным пользователем. В остальных случаях команда prmpt.ru рекомендует использовать JAN

Перейдите на сайт jan.ai
Нажмите на кнопку Download
(Сайт автоматически определит версию вашей системы и предложить скачать актуальную программу. Если по каким-то причинам вы хотите выбрать файл самостоятельно то перейдите сюда)

Устанавливаем JAN на компьютер

Системные требования:

💽 Не менее 6 ГБ свободного дискового пространства;
💽 Более 8 ГБ оперативной памяти.

После установки JAN:

Запускаем приложение JAN 👋 (иконка махающей руки)
Откроется главная страница программы. В левом верхнем углу на главной странице зайдите в раздел Hub (иконка с четырьмя квадратами) (рис. 2)

‼️

Скопируйте ссылку на квантизованную версию YandexGPT 5 Lite

https://huggingface.co/yandex/YandexGPT-5-Lite-8B-instruct-GGUF

💡

Квантизованная версия – это как если взять мощный, но прожорливый движок (например, от BMW) и переделал его так, чтобы он работал на малом объёме топлива, но при этом был почти такой же мощный.

Вставьте ссылку в поисковую строку в приложении Hub (рис. 3)

Нажмите Enter и после на выпавший пункт (повторное нажатие Enter не переведет вас на страницу, необходимо нажать на выпавший пункт собственноручно)(рис. 3.1)

Вы попали на страницу YandexGPT-5-Lite-instruct-GGUP

Нажмите Download (рис. 4)

Нажмите кнопку Use (рис. 5)

💫

Готово!! YandexGPT 5 Lite установлена и готова к использованию даже если у вас нет интернета.

Если у вас есть подписка ПРО:
Можно использовать YandexGPT 5 Lite в Чате с Алисой

Если вы разработчик:
Используйте YandexGPT 5 Lite в своих проектах на платформе Yandex Cloud через API.

FAQ:

Нужен ли интернет, для использования YandexGPT 5 Lite?
Нет, модель используется локально. Без выхода в интернет

У меня ошибка в JAN при работе с YandexGPT - Error. Something went wrong. Please try again. Что это значит и как решить?
У вас недостаточно оперативной памяти. Скорее всего ровно 8 или меньше. Необходимо БОЛЬШЕ 8ГБ. Иначе YandexGPT 5 Lite работать не будет.