Google представила TurboQuant — алгоритм сжатия памяти ИИ, ускоряющий вычисления в 8 раз

Новый алгоритм сжимает кэш нейросетей без потери качества

Исследовательское подразделение Google анонсировало TurboQuant — алгоритм, радикально сокращающий потребление памяти при работе больших языковых моделей и систем векторного поиска. По результатам тестирования, технология обеспечивает шестикратное снижение расхода памяти и восьмикратный прирост скорости вычислений на GPU-ускорителях H100.

Пользователи соцсетей мгновенно провели параллель с вымышленным стартапом из культового сериала «Кремниевая долина»:

«TurboQuant is the new Pied Piper 🤣» — Justin Trimble (@justintrimble), оригинальный пост

Почему это важно

Масштабирование языковых моделей упирается в физические ограничения: многомерные массивы данных о словах и изображениях занимают огромный объём в кэше процессоров, замедляя генерацию ответов. Существующие методы оптимизации зачастую требуют хранения дополнительных переменных, что сводит на нет выигрыш от сжатия. TurboQuant решает эту фундаментальную проблему, открывая путь к более доступному и быстрому ИИ-инференсу — как для крупных корпораций, так и для независимых разработчиков.

Как работает TurboQuant

Алгоритм использует двухступенчатый подход к оптимизации памяти:

• Первый механизм — переводит векторы в полярную систему координат и сжимает основной массив данных.
• Второй механизм — выполняет функцию математического контролера, задействуя всего один бит памяти для коррекции остаточных скрытых ошибок.

Такая архитектура позволяет сжать кэш до трёх бит на элемент без деградации качества ответов модели. При этом технология не требует дополнительного дообучения нейросетей — она применяется поверх уже существующих моделей.

Тесты на открытых моделях и реакция индустрии

Команда Google проверила TurboQuant на популярных открытых моделях — Llama, Gemma и Mistral. Результаты подтвердили заявленные показатели: минимум шестикратная экономия памяти и восьмикратное ускорение вычислений на графических ускорителях H100.

Генеральный директор Cloudflare Мэттью Принс провёл аналогию между TurboQuant и китайской моделью DeepSeek, которая ранее привлекла внимание высокой эффективностью при минимальных аппаратных затратах:

«This is Google's DeepSeek. So much more room to optimize AI inference for speed, memory usage, power consumption, and multi-tenant utilization. Lots of teams at @Cloudflare focused on these areas. #staytuned» — Matthew Prince 🌥 (@eastdakota), оригинальный пост

Планы по внедрению

Google намерена интегрировать TurboQuant в собственные поисковые алгоритмы и ИИ-продукты, включая Gemini. Публичная презентация технологии запланирована на профильных конференциях ICLR и AISTATS в 2026 году.

Ранее, 25 марта, Google также раскрыла планы по переходу на постквантовую криптографию, что свидетельствует об активной работе корпорации сразу на нескольких передовых технологических направлениях.