Как скачать и запустить GLM локально: веса на Hugging Face
Отдельного приложения «GLM для скачивания» не существует. Скачивают открытые веса моделей с Hugging Face (организация zai-org), чтобы запускать их локально через vLLM, Ollama или llama.cpp. Веса открыты под лицензией MIT, их можно использовать в коммерческих проектах.
Семейство GLM (Z.ai) включает несколько открытых моделей разного размера. Полные версии флагманов огромны и требуют серверного железа, но для домашнего запуска есть квантованные форматы и облегчённые версии. Если локальный запуск не нужен, проще пользоваться бесплатным веб-чатом chat.z.ai - он работает из России без VPN.
По каналам
| Модель | Параметры | Контекст | Веса на Hugging Face |
|---|---|---|---|
| GLM-5.2 | 753B (MoE) | До 1M | zai-org/GLM-5.2 |
| GLM-4.6 | 357B всего (~32B активных, MoE) | 200K | zai-org/GLM-4.6 |
| GLM-4.5 | 355B всего / 32B активных | 128K | zai-org/GLM-4.5 |
| GLM-4.5-Air | 106B всего / 12B активных | 128K | zai-org/GLM-4.5-Air |
| GLM-4.7-Flash | 31B (лёгкая версия) | - | zai-org/GLM-4.7-Flash |
Что скачать и где лежит
Основной источник весов - страница организации zai-org на Hugging Face. Там выложены оригинальные веса в формате safetensors (BF16, у части моделей FP8). Для запуска через Ollama доступны официальные теги: glm-4.6, glm-4.7, glm-5, glm-5.1, glm-5.2 (облачные) и локальный glm4:9b. Сообщество также делает GGUF-кванты для llama.cpp, LM Studio и Jan. Ищите репозитории вроде unsloth/GLM-4.6-GGUF.
Что учесть перед локальным запуском
Z.ai не публикует официальные минимальные требования к железу в карточках моделей. Полные веса огромны: BF16-версия GLM-4.6 занимает около 400 ГБ на диске и требует мультиGPU-сервера. Для домашнего запуска реальнее квантованные GGUF-версии. По руководству Unsloth (это не спецификация вендора), 2-битный квант GLM-4.6 (~135 ГБ) запускается на 1 видеокарте 24 ГБ и 128 ГБ ОЗУ. Для скорости 5+ токенов/с рекомендуют ~205 ГБ суммарно RAM+VRAM. Облегчённые версии вроде GLM-4.5-Air (106B параметров) заметно скромнее по требованиям. Если вам нужен доступ к моделям без скачивания, можно подключиться через API.
Бесплатный доступ без скачивания
Если локальный запуск кажется сложным, доступен бесплатный веб-чат chat.z.ai - он работает из РФ без VPN. Для программирования существует подписка GLM Coding Plan, но российские карты напрямую для оплаты не принимаются. Рабочие варианты: посредники по оплате или зарубежная карта. Текущие цены и тарифы включают три уровня подписки, а в API есть полностью бесплатные модели GLM-4.7-Flash и GLM-4.5-Flash. Если вас интересует конкретная модель GLM для ваших задач, стоит начать с веб-чата. Переходить к локальному запуску нужно только при необходимости оффлайн-работы.
Чем запускать
Для серверного запуска полных весов подходят vLLM, SGLang и HF transformers. Для локального запуска квантованных версий: llama.cpp, Ollama, LM Studio или Jan. Для GLM-5.2 также есть инструменты KTransformers и Unsloth. Выбор зависит от формата весов. Оригинальные safetensors требуют больше ресурсов, GGUF-кванты оптимизированы для потребительского железа.