Liquid AI выпустила LFM2.5-230M: модель для смартфонов, Raspberry Pi и роботов
Liquid AI выпустила LFM2.5-230M - компактную 230M-параметровую модель для запуска прямо на устройстве. Скорость: 213 tok/s на Samsung Galaxy S25 Ultra и 42 tok/s на Raspberry Pi 5. Доступна на Hugging Face (base и post-trained версии). Подходит для data extraction и агентных задач, но не для математики и генерации кода.
Liquid AI анонсировала свою самую маленькую модель LFM2.5-230M - она запускается прямо на устройстве, без облака, и уже доступна на Hugging Face.
Что именно вышло
Две версии: LFM2.5-230M-Base (для файн-тюнинга) и LFM2.5-230M (post-trained, готова к использованию из коробки). Обе доступны на Hugging Face с первого дня выпуска.
Модель построена на архитектуре LFM2 и обучена на 19 триллионах токенов, включая фазу расширения контекста до 32K токенов.
Как быстро работает
Цифры конкретные:
- 213 tok/s decode speed на Samsung Galaxy S25 Ultra (Qualcomm Snapdragon Gen4)
- 42 tok/s на Raspberry Pi 5
По заявлению Liquid AI, на обоих устройствах LFM2.5-230M показывает самый высокий prefill и decode throughput в своём классе среди сопоставимых моделей - включая SSM-гибриды и Gated Delta Networks - при меньшем объёме памяти.
Как её обучали
Post-training состоит из трёх шагов:
- Supervised fine-tuning с дистилляцией из LFM2.5-350M
- Direct preference optimization
- Multi-domain reinforcement learning
Цель - сохранить гибкость для разработчиков, которые будут дообучать модель под свои задачи.
Что умеет (и чего не умеет)
Liquid AI протестировала модель на 10 бенчмарках: GPQA Diamond, MMLU-Pro, IFEval, IFBench, Multi-IF, CaseReportBench, BFCLv3, BFCLv4, τ²-Bench Telecom и τ²-Bench Retail.
По результатам модель конкурирует с моделями, которые вдвое больше по размеру - в задачах извлечения данных, следования инструкциям и использования инструментов.
Но сами авторы честно предупреждают: не рекомендуется для сложных рассуждений, генерации кода и математики. Для этого нужны модели покрупнее.
Запуск на роботе-гуманоиде
Один из примеров применения - деплой LFM2.5-230M на гуманоидном роботе Unitree G1. Модель работает полностью on-device на встроенном NVIDIA Jetson Orin.
Здесь она выступает как skill-selection layer: берёт команду на естественном языке и разбивает её на последовательность вызовов инструментов, которые активируют low-level навыки из фреймворка NVIDIA SONIC. После быстрого файн-тюнинга под задачу модель превращает свободную команду в структурированный многошаговый план - например, ходьбу с заданной скоростью и наклон на одной ноге.
Liquid AI называет это «убедительным сигналом»: 230M-параметровая модель может работать как языковой интерфейс управления гуманоидом прямо на борту устройства.
Поддержка инфраструктуры
С первого дня модель работает с основными inference-фреймворками:
- llama.cpp - GGUF-чекпоинты для edge inference
- MLX - оптимизировано для Apple Silicon
- vLLM - GPU-ускоренный serving
- SGLang - GPU-ускоренный serving
- ONNX - кроссплатформенный инференс
Для CPU используется flash-attention с ручной настройкой под платформу: включён (-fa 1) на Raspberry Pi 5, отключён (-fa 0) на Snapdragon Gen4.
Что это значит
Если тебе нужна модель для data extraction пайплайна, агентного воркфлоу или on-device приложения - LFM2.5-230M стоит попробовать. Она open-weight, доступна без ограничений на скачивание и файн-тюнинг, и работает на железе, которое уже есть у большинства разработчиков.
Для тяжёлых задач (сложный код, математика) она не подойдёт - авторы сами об этом говорят. Но для лёгких агентных задач и структурированного извлечения данных это вполне рабочий вариант без необходимости держать облачный эндпоинт.
Источник: Liquid AI Blog, 1 июля 2025
FAQ
Где скачать модель? На Hugging Face, поиск по LFM2.5-230M и LFM2.5-230M-Base.
Можно ли её файн-тюнить под свои задачи? Да, модель open-weight, никаких ограничений на дообучение и деплой нет. Документация по локальному запуску и файн-тюнингу доступна на сайте Liquid AI.
Подходит ли для запуска на MacBook? Да, есть нативная поддержка MLX для Apple Silicon.