Украинская компания MacPaw, известная прежде всего своим магазином приложений SetApp, договорилась с Liquid AI о переносе части вычислений своего ассистента Eney прямо на устройство пользователя, без похода в облако. Речь о системе с названием Elix — инференс на устройстве плюс локальная память, позволяющая ассистенту работать офлайн и не гонять личные данные через чужие серверы.
Liquid AI строит архитектуру не так, как большинство разработчиков LLM: модель выбирается и обучается под конкретное железо заранее, а не адаптируется к нему постфактум. По словам сооснователя и CEO Рамина Хасани, это даёт самую эффективную версию интеллекта, которая помещается на устройство целиком — с плюсами вроде приватности и защиты данных. Apple, к слову, уже предлагает разработчикам собственные локальные модели, но в Liquid AI настаивают, что их подход выигрывает именно в производительности на разных типах задач.
MacPaw метит дальше простого обновления одного ассистента: компания хочет открыть эту архитектуру сторонним разработчикам через SetApp, у которого уже больше 150 тысяч платящих подписчиков. Одновременно тестируется кредитная модель оплаты: пользователь получает пакет кредитов, а сложность AI-операции определяет, сколько кредитов с него спишут. Платформа обещает доступ к облачным моделям сторонних компаний вроде Google, превращаясь в универсальную точку входа для разработчиков, которым не хочется разбираться в зоопарке AI-провайдеров.
Сюжет небольшой по масштабу, но показательный: рынок нащупывает нишу между огромными облачными моделями и полной автономией устройства, и приватность становится не бонусом, а продающим аргументом.
Во что углубиться:
- On-device AI vs облачные модели: плюсы и минусы локального инференса для приватности
- Liquid AI и жидкие нейросети (liquid neural networks): чем архитектура отличается от классических трансформеров
- Apple Intelligence и локальные модели: как Apple уже решает задачу приватности на устройстве