Как запустить YandexGPT 5 Lite? 5 простых шагов.
Этот гайд поможет запустить YandexGPT на своем компьютере уже через 4 минуты. Просто следуйте этим шагам.
Подготовка:
- Cкачиваем JAN. (рис.1)
JAN - программа для локального запуска языковых моделей. Основным преимуществом JAN является дружелюбный интерфейс. Это позволит человку с любым уровнем знаний и навыков установить YandexGPT
📄
Вы можете использовать другую программу, если являетесь достаточно опытным пользователем. В остальных случаях команда prmpt.ru рекомендует использовать JAN
- Перейдите на сайт jan.ai
- Нажмите на кнопку Download
(Сайт автоматически определит версию вашей системы и предложить скачать актуальную программу. Если по каким-то причинам вы хотите выбрать файл самостоятельно то перейдите сюда)
- Устанавливаем JAN на компьютер
Системные требования:
Не менее 6 ГБ свободного дискового пространства;
Более 8 ГБ оперативной памяти.
После установки JAN:
- Запускаем приложение JAN 👋 (иконка махающей руки)
- Откроется главная страница программы. В левом верхнем углу на главной странице зайдите в раздел Hub (иконка с четырьмя квадратами) (рис. 2)
‼️
Скопируйте ссылку на квантизованную версию YandexGPT 5 Lite
https://huggingface.co/yandex/YandexGPT-5-Lite-8B-instruct-GGUF
💡
Квантизованная версия – это как если взять мощный, но прожорливый движок (например, от BMW) и переделал его так, чтобы он работал на малом объёме топлива, но при этом был почти такой же мощный.
- Вставьте ссылку в поисковую строку в приложении Hub (рис. 3)
- Нажмите Enter и после на выпавший пункт (повторное нажатие Enter не переведет вас на страницу, необходимо нажать на выпавший пункт собственноручно)(рис. 3.1)
Вы попали на страницу YandexGPT-5-Lite-instruct-GGUP
- Нажмите Download (рис. 4)
- Нажмите кнопку Use (рис. 5)
💫
Готово!! YandexGPT 5 Lite установлена и готова к использованию даже если у вас нет интернета.
Если у вас есть подписка ПРО:
Можно использовать YandexGPT 5 Lite в Чате с Алисой
Если вы разработчик:
Используйте YandexGPT 5 Lite в своих проектах на платформе Yandex Cloud через API.
FAQ:
Нужен ли интернет, для использования YandexGPT 5 Lite?
Нет, модель используется локально. Без выхода в интернет
У меня ошибка в JAN при работе с YandexGPT - Error. Something went wrong. Please try again. Что это значит и как решить?
У вас недостаточно оперативной памяти. Скорее всего ровно 8 или меньше. Необходимо БОЛЬШЕ 8ГБ. Иначе YandexGPT 5 Lite работать не будет.
Комментарии ()