Google создали алгоритм сжатия памяти для ИИ

Google создали алгоритм сжатия памяти для ИИ

Исследовательское подразделение Google представило TurboQuant — алгоритм сжатия памяти для искусственного интеллекта. Пользователи сравнили разработку с технологией стартапа Pied Piper из сериала «Кремниевая долина».

TurboQuant кратно снижает требования к ресурсам для работы больших языковых моделей и систем векторного поиска.

Искусственный интеллект оперирует сложными многомерными массивами, хранящими информацию о словах или изображениях. Эти данные занимают много места в кэше и замедляют генерацию ответов. Традиционные методы сжатия требуют хранения дополнительных переменных, что часто нивелирует пользу от оптимизации.

TurboQuant решает проблему перерасхода памяти с помощью двух механизмов. Первый алгоритм переводит векторы в полярную систему координат и сжимает основной объем данных. Второй работает как математический контролер, используя всего один бит памяти для устранения остаточных скрытых ошибок.

Генеральный директор Cloudflare Мэттью Принс сравнил алгоритм с достижениями китайской модели DeepSeek, которая ранее продемонстрировала высокую эффективность при минимальных затратах на оборудование.

Разработчики проверили технологию на открытых моделях Llama, Gemma и Mistral. Алгоритм сжал кэш до трех бит без потери качества ответов. Потребление памяти сократилось минимум в шесть раз, а скорость вычислений на графических ускорителях H100 выросла в восемь раз.

Инновация не требует дополнительного обучения нейросетей. По заверениям корпорации, технологию внедрят в поисковые алгоритмы и собственные ИИ-продукты, включая Gemini. Публичная презентация проекта состоится на профильных конференциях ICLR и AISTATS в 2026 году.

25 марта Google раскрыла планы по переходу на постквантовую криптографию.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Bitcoin

BitMine нарастила резерв ETH до 5,78 млн

Компания BitMine Immersion Technologies сообщила, что по состоянию на 19 июля удерживала на балансе ~5,78 млн ETH, а совокупные криптоактивы, денежные средства и ликвидные ценные бумаги оцениваются в $11,5 млрд. Из них ~4,91 млн ETH заблокированы в стейкинге. За неделю компания купила 7430 ETH и выкупила 5,5 млн обыкновенных акций на $4 млрд в рамках […]

Читать дальше
Bitcoin

Потери трейдеров Polymarket на ЧМ-2026 превысили $37 млн

Ставки на победителя чемпионата мира по футболу принесли убыток 66,7% адресов на платформе предсказаний Polymarket . Такими данными поделился ончейн-аналитик под псевдонимом defioasis.eth. Всего эксперт изучил более 194 000 кошельков — потери зафиксировали около 130 000. Распределение прибыли и убытков оказалось неравномерным: результат выше $1 млн показали только пять аккаунтов; 114 000 адресов лишились менее […]

Читать дальше
Bitcoin

Госдума рассмотрит закон о криптовалютах 21 июля

Во вторник, 21 июля, Государственная дума рассмотрит во втором и окончательном третьем чтениях законопроект о регулировании рынка криптовалют в России, заявил председатель думского комитета по финансовому рынку Анатолий Аксаков. Аксаков настаивает: внесенный правительством законопроект поможет победить мошенников и обеспечит «правовые условия для функционирования криптовалют в стране». «С одной стороны, мы создаем правовое пространство, чтобы бороться […]

Читать дальше