В 24 раза быстрее суперкомпьютеров: представлен чип, который сделает ИИ "умнее"

О новом TPU рассказал Амин Вахдат, вице-президент и генеральный менеджер Google по машинному обучению, системам и облачному ИИ, на виртуальной пресс-конференции перед мероприятием Google Cloud Next 25.

Сообщается, что Ironwood создан для поддержки следующей фазы генеративного ИИ и его огромных вычислительных и коммуникационных требований. Чип будет делать ИИ-модели быстрее и умнее, особенно в работе над задачами, требующими рассуждений или прогнозирования. Эта деятельность известна как "вывод".

"Это то, что мы называем "эпохой вывода", когда агенты ИИ будут активно извлекать и генерировать данные для совместной разработки идей и ответов, а не просто данных", — отметил Вахдат.

По данным компании, при масштабном развертывании TPU имеет в 24 раза большую вычислительную мощность, чем любой суперкомпьютер в мире. Он может обеспечить 42,5 экзафлопс вычислительной мощности при масштабировании до 9216 чипов на модуль. Эти показатели превышают 1,7 экзафлопс El Capitan — самого быстрого в мире суперкомпьютера.

Ironwood также поставляется с 192 ГБ памяти с высокой пропускной способностью (HBM). Это в шесть раз больше, чем у Trillium, TPU предыдущего поколения от Google, анонсированного в прошлом году. Ironwood также может достигать 7,2 терабита в секунду на чип с точки зрения пропускной способности памяти, что в 4,5 раза больше, чем у Trillium.

"В то время как доступная мощность является одним из ограничений для предоставления возможностей ИИ, мы обеспечиваем значительно большую мощность на ватт для рабочих нагрузок клиентов", — подчеркнул представитель Google.

Напомним, исследователи из Университета Твенте в сотрудничестве Городским университетом Гонконга разработали передовой программируемый фотонный чип на тонкопленочной платформе ниобата лития, который может лечь в основу высокопроизводительных радаров и коммуникационных приложений следующего поколения.