Новый уровень производительности: Blackwell B200 против Hopper H100

Blackwell B200 в 4 раза мощнее Hopper H100 и при этом потребляет на 75 % меньше энергии во время тренировки нейросетей.

Презентация NVIDIA на GTC 2024

Вчера NVIDIA провела большую презентацию GTC 2024, на которой анонсировала свою новую архитектуру Blackwell и представила самый мощный чип для ускорения обучения искусственного интеллекта — Blackwell B200. Компания сообщила, что крупные клиенты, такие как Amazon, Microsoft и Google, уже выстраиваются в очереди за новым GPU.

Технические характеристики Blackwell B200

Как и в случае с прошлым поколением, Blackwell B200 производится на 4-нанометровом техпроцессе 4NP компанией TSMC. Несмотря на отсутствие уменьшения техпроцесса, NVIDIA увеличила площадь кристалла. Количество транзисторов увеличилось с 80 млрд до 104 млрд.

Архитектура и производительность

Полный чип Blackwell B200 состоит из двух базовых GPU, соединенных магистральной линией с пропускной способностью в 10 ТБ/c, что делает совокупное количество транзисторов 208 млрд. Вокруг GPU расположено 8 чипов памяти HBM3e с суммарной емкостью 192 ГБ, обеспечивающей рекордную пропускную способность памяти в 8 ТБ/c.

Изображение нового GPU

Blackwell B200

Гибкость и масштабируемость архитектуры

NVIDIA разработала решение GB200, которое объединяет на одной плате два чипа Blackwell B200 с CPU Grace. Каждая такая плата предлагает 40 петафлопс производительности в вычислениях AI. GB200 также поддерживает объединение в стеки и серверные стойки GB200 NVL72, что позволяет собирать целые дата-центры с производительностью, ограниченной только бюджетом.

Система GB200 и её возможности

Система GB200

Эффективность Blackwell B200

Производительность систем GB200 в обучении искусственного интеллекта действительно впечатляет. Если для предыдущего поколения Hopper H100 было нужно 90 дней, 15 мегаватт мощности и 8000 GPU для обучения нейросети GPT-MoE с 1,8 трлн параметров, то Blackwell B200 справится с той же задачей за период времени, требующий всего 2000 систем GB200 и 4 мегавата мощности, что соответствует увеличению мощности в 4 раза и повышению эффективности на 75 %.

Изображение производительности GB200

Производительность GB200

Будущее с Blackwell B200

Если Hopper H100 стал революцией на рынке ускорителей AI, то Blackwell B200 может стать еще одним важным шагом вперед в развитии технологий. Ожидается, что системы искусственного интеллекта будут обучаться быстрее, а стоимость обучения снизится благодаря более экономному потреблению энергии. Таким образом, ИИ станет «умнее», его возможности будут расширяться, что сделает системы искусственного интеллекта более доступными для бизнеса и пользователей.