Производители оборудования каждый день бомбардируют нас новостями о новых продуктах и изменениях продуктов. Чтобы оставаться на волне, в Selectel мы следим за новостями, внедряем и используем адаптированный и актуальный материал в нашей
центры обработки данных
.
Мне было интересно ознакомиться с рядом «железных» новостей, а также вкратце рассказать об опыте и планах использования некоторых новинок.
Заинтересованы? Так что приглашаю вас под кат.
Более полугода назад Intel и AMD практически одновременно запустили новую линейку серверных процессоров Xeon Scalable 4th (Sapphire Rapids) и EPYC 9004 (Genoa). Неудивительно, что большинство новостей так или иначе связаны с этими компонентами.
AMD представила две новые группы процессоров: EPYC Bergamo и EPYC Genoa-X.
В первом случае с Bergamo число ядер увеличилось до 128 против максимальных 96, ранее представленных в AMD EPYC 9654 Genoa. Процессоры предназначены для использования на серверах облачных провайдеров и очень энергоэффективны. В нашем случае мы учитываем TDP, так как чем он меньше, тем проще охлаждать такой сервер.

Сейчас в Selectel мы предлагаем арендовать сервер с процессорами AMD EPYC 7763 с 64 ядрами на борту, и удвоение ядер в платформе впечатляет. В ближайшее время мы планируем предложить нашим покупателям как упомянутый AMD EPYC 9654 с 96 ядрами, так и AMD EPYC 9754 с 128 ядрами, мы активно тестируем эти платформы. 256 ядер в двухсокетной системе с 512 потоками — позавидует любое многопоточное приложение.
Также представлены процессоры с увеличенным объемом кэша:

Однако такое оборудование, по мнению специалистов, требуется только для узкоспециализированных задач. Если у вас есть интересные кейсы для процессоров с увеличенным кешем, пишите в комментариях.
Contents
Серверные платформы
Платформы Asus для 8 графических процессоров

Начну с настоящего хардкора, платформы
от Асуса. До 7 устройств, до 8 графических процессоров NVIDIA H100, подключенных через NVLink. Все это под управлением 4-х процессоров Intel Xeon Scalable с 32 слотами для памяти DDR5. В платформу можно установить до десяти дисков 2,5 + 4 диска M.2, а сухой вес начинается от 99 кг. Размер впечатляет.
Надеюсь, что в России появятся заказчики, готовые загружать своими моделями такое оборудование.

Более простой вариант: четыре единицы
для 8 графических процессоров, включая A100 с жидкостным охлаждением. Аналогично работает с 4-м процессором Intel Xeon Scalable, имеет 32 слота памяти DDR5, 1 слот M.2 и 8 слотов для накопителей форм-фактора 3,5. Вес от 27 кг, почувствуйте разницу! А у конкурента AMD EPYC 9004 появилась аналогичная платформа
.
В настоящее время мы используем платформу Asus ESC8000A-E11 4U для семейства процессоров AMD 7003, поддерживающую до 8 графических процессоров, в качестве предшественника. Самый популярный вариант сборки: 8 GPU A100 40GB + 2 CPU AMD EPYC 7513 (32×2.6 GHz SMT), оптимальное сочетание количества ядер CPU и ресурсов GPU.

Платформы Asus для 4 графических процессоров

Младшие братья предыдущих платформ
для Intel Xeon Scalable 4e и
для AMD EPYC 9004. В них можно установить до 4 GPU, 2 CPU, 16 или 12 модулей памяти DDR5 соответственно. В зависимости от артикула от 4 до 6 дисковых корзин.
Выделенные серверы с 4 графическими процессорами также используются Selectel, в настоящее время мы предлагаем Supermicro 7049GP-TRT и наиболее популярную комбинацию с графическими процессорами A5000 и Nvidia A2.
Как и в случае с платформами на 8 GPU, так и на 4 GPU мы планируем переход на платформы под новые процессоры.
Платформы для Intel Xeon Scalable 4th и AMD EPYC 9004

И
представляет платформы 1U и 2U, которые также отвечают требованиям нового сегмента серверных процессоров Intel Sapphire Rapids и AMD Genoa. Эти платформы позволяют разместить до 20 дисков.
Микрооблако для Ryzen
Представлена Супермикро
для настольного компьютера AMD Ryzen 7000. Не секрет, что эти процессоры используют
провайдеры выделенных серверов
. В представленной трехблочной модели возможно размещение 8 лезвий, однако применимость процессора ограничена TDP в 170 Вт. Каждый блейд-сервер имеет 2 отсека для дисков с возможностью горячей замены и слот M.2. Память DDR5 реализована в четырех слотах UDIMM, поддерживается коррекция ошибок ECC, однако максимальный объем оперативной памяти для этих процессоров ограничен 128 ГБ.

Память DDR5

Компания Micron анонсировала модули RDIMM DDR5-4800 емкостью 96 ГБ, напомню, что уже упомянутые линейки новых серверных процессоров Scalable 4th и 9004 работают именно с этим типом памяти: DDR5.
В нашем случае мы традиционно используем модули на 32, 64 и 128 ГБ, но думаю, что и такой размер, как 96 ГБ, тоже найдет свою полезность.
жесткие диски
Сигейт обещания для запуска жестких дисков до 40 ТБ в будущем. Интересное решение, учитывая, что сейчас, пожалуй, самый емкий формат — 18 Тб, конечно, такой диск существенно увеличивает вместимость платформы. Однако все будет зависеть от цены устройства и соответствующей цены в пересчете на ТБ дискового пространства.
графические процессоры
AMD представила две новые модели графических процессоров: Instinct MI300A и MI300X. По заявленным характеристикам объем памяти в устройствах впечатляет: 128 ГБ HBM3 и 192 ГБ.Эти устройства рассчитаны на работу с большими моделями. В нашем исследовании команды машинного обучения разделяют недостаток максимального размера памяти 40 ГБ на A100, который мы в настоящее время предлагаем. Однако ни одной памяти, такого количества решений и софта, как у NVIDIA, не боюсь предположить, что нет ни у одного другого производителя GPU. Самое интересное, что AMD может предложить помимо железа.
MACApple
Apple анонсировала новый MAC Pro с возможностью монтажа в стойку:

С процессором Apple M2 Ultra с 24 интегрированными ядрами (16 эффективных и 8 энергоэффективных). В платформе GPU с 60-76 ядрами, а также нейромодуль с 32 ядрами. Память до 192 ГБ и SSD до 8 ТБ.Предвосхищаю производительность таких систем, отмечу, что в выделенных серверах есть успешный опыт с конфигурациями
MAC mini с чипом M1
, которые используются для разработки, отладки и тестирования приложений для Mac OS. Мы переходим на новые решения от Apple в наших дата-центрах.
Более того, анонс этого железа означает полный переход Apple на платформу ARM. В текущей линейке устройств на архитектуре x86 больше не будет.
Как «взрослый ARM», мы внедрили платформу с процессором Ampere Altra Max M128 и считаем, что будущее за ARM.
СХД

Если в двух словах, то новая СХД TerraMaster U8-450 NAS максимальной емкостью 160ТБ на процессорах Intel Atom C3558R под управлением операционной системы Tos 5. Позиционируется как СХД для настольных издательских систем, видео, СУБД и виртуализации востребована в российский рынок. В Selectel мы предоставляем такую услугу по запросу клиента.
Заключение
Сложность выбора оборудования под проект заключается в том, чтобы построить ИТ-инфраструктуру, которая бы без проблем выдерживала нагрузку, и в то же время серверы не простаивали бы без работы. В следующем месяце мы продолжим информировать вас о новинках рынка. Надеюсь, резюме было полезным. Если вы хотите, чтобы мы рассказали о новом материале, не вошедшем в статью, обязательно укажите его в комментариях, мы его обсудим.