Tether объявила о запуске QVAC Fabric — платформы, которая обеспечивает обучение крупных моделей ИИ прямо на смартфонах и повседневных устройствах.

Прорыв в порогах обучения ИИ

В сфере разработки моделей искусственного интеллекта обучение крупных языковых моделей традиционно требовало дорогостоящего оборудования и облачных сервисов, что приводило к концентрации технологий у ограниченного числа ведущих игроков.

(Источник: Tether)

Недавний запуск QVAC Fabric от Tether — это новый фреймворк LoRA для дообучения, специально созданный для BitNet (1-битная крупная языковая модель). Этот прорыв значительно снижает требования к вычислительным ресурсам и памяти, позволяя обычным пользователям участвовать в обучении моделей ИИ.

Кроссплатформенная работа: поддержка от ПК до мобильных устройств

Одно из ключевых преимуществ QVAC Fabric — широкая совместимость с аппаратным обеспечением. Фреймворк работает на самых разных устройствах, включая:

• Ноутбуки

• Потребительские GPU (Intel, AMD, Apple Silicon)

• Смартфоны (включая различные мобильные GPU)

Теперь модели ИИ больше не ограничены дата-центрами и специализированным оборудованием — их можно обучать и запускать непосредственно на повседневных устройствах.

Обучение крупных моделей на смартфонах

Одна из важных особенностей этой технологии — возможность дообучать модели на мобильных устройствах.

Например:

• На Samsung S25 (Adreno GPU) модель с 125 млн параметров дообучается примерно за 10 минут

• На этом же устройстве модель с 1 млрд параметров — за 1 час 18 минут

• На iPhone 16 модель с 1 млрд параметров дообучается примерно за 1 час 45 минут

Команда также смогла запустить на смартфоне модели с числом параметров до 13 млрд, что демонстрирует стремительный рост возможностей мобильного оборудования для ИИ.

Основные достижения в производительности и оптимизации памяти

В сравнении с обычными моделями архитектура BitNet обладает явными преимуществами по производительности и эффективности использования ресурсов:

Производительность

• Скорость инференса на мобильных GPU в 2–11 раз выше, чем на CPU

• Возможность выполнять задачи, ранее требовавшие дата-центров

Использование памяти

• Снижение использования VRAM до примерно 77,8% по сравнению с 16-битными моделями

• Поддержка более крупных моделей и персонализированных приложений за счет увеличения операционной емкости

Эти улучшения значительно упрощают внедрение ИИ-приложений на edge-устройствах.

Преодоление зависимости от NVIDIA и облачных сервисов

Ранее обучение ИИ было тесно связано с оборудованием NVIDIA и облачными платформами. QVAC Fabric устраняет эту зависимость, позволяя дообучать 1-битные LLM LoRA на оборудовании AMD, Intel, Apple Silicon и мобильных GPU, таких как Adreno и Mali. Это снижает затраты и способствует развитию децентрализованных решений в области ИИ.

Децентрализация и защита данных

Еще одно важное преимущество QVAC Fabric — поддержка приватности данных и распределенного обучения:

• Модели можно обучать локально, не передавая конфиденциальные данные

• Реализована поддержка федеративного обучения

• Снижается зависимость от централизованной инфраструктуры

Эти возможности открывают более безопасный и масштабируемый путь для будущей экосистемы ИИ.

Видение Tether: будущее ИИ

Паоло Ардоино подчеркивает, что искусственный интеллект станет ключевым элементом будущего общества, и его развитие не должно концентрироваться в руках немногих. Избыточная зависимость от централизованных архитектур для обучения ИИ не только ограничивает инновации, но и угрожает устойчивости всей экосистемы. Возможность работы ИИ на персональных устройствах — важный шаг к массовому внедрению.

Итоги

QVAC Fabric от Tether — это не просто технологическое новшество, а потенциально новый этап в развитии ИИ. Благодаря снижению аппаратных барьеров и расширению кроссплатформенных возможностей крупные языковые модели переходят из дата-центров на повседневные устройства. По мере развития этих технологий ИИ движется к более открытому, децентрализованному и доступному будущему.