Cerebras Systems представила процессор WSE третьего поколения. Он предназначен для установки в суперкомпьютеры и по мощности сравним с 62 видеокартами NVIDIA H100. Разработчики рассказали, чем примечательна новинка.

По словам производителя чипов, Cerebras WSE-3 вдвое мощнее своего предшественника. Процессор изготовлен по 5-нанометровому техпроцессу TSMC и оснащен 44 ГБ встроенной памяти SRAM с пропускной способностью 21 ПБ/с. Площадь чипа — 46 225 мм², производительность — 125 Пфлопс (FP16).

1710495960 cerb02

Новый продукт стал компонентом суперкомпьютера Cerebras CS-3, предназначенного для обучения моделей искусственного интеллекта с числом до 24 триллионов параметров. Представители Cerebras утверждают, что при использовании нового процессора суперкомпьютеру потребуется на 97% меньше программного кода, чем аналогичной сборке на базе графических процессоров.

1710495983 cerb03 1710495962 cerb04

CS-3 можно сконфигурировать в кластерах до 2048 систем. Такая масштабируемость позволяет существенно ускорить рабочие процессы. Например, по словам разработчиков, тонкую настройку модели с 70 миллиардами параметров (например, обучение Llama 70B с нуля) можно за один день, используя комбинацию четырех систем.

1710495968 cerb05

В розницу такой процессор продаваться не будет — скорее всего, компания будет развивать собственную линейку суперкомпьютеров или работать с партнёрами в этом направлении.

Source

ЧИТАТЬ   Банк Русский Стандарт: доля офлайн-платежей смартфонами в 2023 году выросла до 52%

От admin