Google создали алгоритм сжатия памяти для ИИ

Google создали алгоритм сжатия памяти для ИИ

Исследовательское подразделение Google представило TurboQuant — алгоритм сжатия памяти для искусственного интеллекта. Пользователи сравнили разработку с технологией стартапа Pied Piper из сериала «Кремниевая долина».

TurboQuant кратно снижает требования к ресурсам для работы больших языковых моделей и систем векторного поиска.

Искусственный интеллект оперирует сложными многомерными массивами, хранящими информацию о словах или изображениях. Эти данные занимают много места в кэше и замедляют генерацию ответов. Традиционные методы сжатия требуют хранения дополнительных переменных, что часто нивелирует пользу от оптимизации.

TurboQuant решает проблему перерасхода памяти с помощью двух механизмов. Первый алгоритм переводит векторы в полярную систему координат и сжимает основной объем данных. Второй работает как математический контролер, используя всего один бит памяти для устранения остаточных скрытых ошибок.

Генеральный директор Cloudflare Мэттью Принс сравнил алгоритм с достижениями китайской модели DeepSeek, которая ранее продемонстрировала высокую эффективность при минимальных затратах на оборудование.

Разработчики проверили технологию на открытых моделях Llama, Gemma и Mistral. Алгоритм сжал кэш до трех бит без потери качества ответов. Потребление памяти сократилось минимум в шесть раз, а скорость вычислений на графических ускорителях H100 выросла в восемь раз.

Инновация не требует дополнительного обучения нейросетей. По заверениям корпорации, технологию внедрят в поисковые алгоритмы и собственные ИИ-продукты, включая Gemini. Публичная презентация проекта состоится на профильных конференциях ICLR и AISTATS в 2026 году.

25 марта Google раскрыла планы по переходу на постквантовую криптографию.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Bitcoin

Хоскинсон пишет новый язык для Cardano на фоне вялого DeFi

Основатель Cardano Чарльз Хоскинсон сообщил, что вместе с одним из создателей Aiken Лукасом Росой работает над новым языком программирования для блокчейна. По его словам, проект должен объединить транзакционные намерения, данные с доказательством и криптографические доказательства Groth16. Пока у разработки нет публичного названия, открытого кода, спецификации или объявленной даты выпуска, поэтому оценивать её реальные возможности рано. […]

Читать дальше
Bitcoin

Розница удвоила депозиты BTC на Binance, киты пассивны

Частные инвесторы почти вдвое увеличили свои депозиты биткоина (BTC) на Binance с апреля — показатель достиг полугодового максимума. Крупные инвесторы, киты, действуют в противоположном направлении уже почти два месяца. Потоки частных трейдеров и китов часто расходятся. По данным CryptoQuant, объем депозитов розницы в 2,8 раза превышает депозиты китов. Розница использует отскок для выхода За месяц […]

Читать дальше
Bitcoin

CZ отреагировал на запуск ИИ-агента Claude Duet от Anthropic

Anthropic запустила тестовую версию Claude Duet — нового приложения, в котором искусственный интеллект Claude выступает как активный ИИ-агент. Инструмент сам отмечает важные задачи, завершает их и работает даже когда пользователь не у экрана. Запуск быстро привлек внимание основателя Binance Чанпэна Чжао (CZ). «Теперь он управляет нами», — написал он в X и добавил смайлик. Однако […]

Читать дальше