Google сделала чип, который считает ИИ, не расшифровывая данные
Google показала два новых ускорителя для ИИ: TPU 8tx держит данные и модель зашифрованными прямо во время работы, а TPU 8i Max удваивает память для агентов, которые читают целые кодовые базы. Цены и сроки поставок не названы.
9 ноября Google представила два новых ускорителя для ИИ — TPU 8tx и TPU 8i Max. Это ответы на два разных ограничения: одним заказчикам нельзя отдавать данные в открытом виде, другим не хватает памяти, чтобы модель удержала в голове весь проект.
Первый: считать, не расшифровывая
TPU 8tx сделан на той же микросхеме, что и вышедший в апреле 8t, но данные и сама модель остаются зашифрованными, пока чип с ними работает. В паре с ним идут процессоры AMD EPYC.
Кому это нужно: госструктурам, банкам и другим регулируемым отраслям, которые хотят запускать ИИ на чувствительных данных и при этом не выгружать их в открытом виде на чужую инфраструктуру. Задержка при этом до двух раз ниже, чем у 8t, а потери в скорости компания называет почти нулевыми.
Второй: больше памяти
TPU 8i Max — это два чипа 8i в одном корпусе. Вдвое больше вычислений, вдвое больше быстрой памяти и вдвое выше пропускная способность памяти: 384 ГБ против 288 ГБ и 17,2 ТБ/с против 8,6 ТБ/с.
Зачем это: когда десятки агентов одновременно читают целый репозиторий, часы видео или длинный договор, узким местом становится не скорость счёта, а память. В стойку теперь помещается вдвое больше кремния — мощность растёт без новых площадей и электричества на новые залы.
Контекст
- Впервые Google выпускает четыре системы TPU за один год: 8t и 8i вышли в апреле, 8tx и 8i Max — сейчас.
- По данным компании, её чипами пользуются почти 100 внешних заказчиков — исследовательские лаборатории, трейдинговые компании, ритейл.
- Акции Alphabet на этой новости прибавили больше 2% на предварительных торгах.
- Цен и даты начала поставок Google не назвала; агентство Bloomberg пишет, что системы появятся в 2027 году.
Почему это важно
Для ИИ не хватает не только чипов — не хватает доверия к данным и памяти под длинные задачи. Если считать на зашифрованных данных станет обычным делом, банки, медицина и госсектор смогут применять модели там, где раньше это запрещали. А конкуренция с Nvidia должна расширить выбор и сдержать цены на вычисления.
Источники: Google Cloud, Reuters.