Ethernet или InfiniBand? ИИ разжигает аппетиты гигантов сетевой коммутации
Рынок коммутаторов для центров обработки данных (ЦОД) вырастет на 50% из-за растущего спроса на искусственный интеллект. По прогнозам аналитика Самеха Буджельбене (Sameh Boujelbene) из Dell'Oro, спрос на ИИ увеличит объем этого рынка вдвое к 2027 году.
В настоящее время доля ИИ в общем объеме рынка сетевых коммутаторов составляет менее 10%. При этом около 90% развертываний ИИ используют технологию InfiniBand*, а не Ethernet**. Благодаря этому Nvidia заняла второе место на рынке коммутации после Cisco.
В ИИ-сегменте ключевыми факторами являются пропускная способность и задержки. InfiniBand отличается низкими задержками и потерями пакетов по сравнению с Ethernet. А это критически важно для дорогих и долгих процессов обучения ИИ.
Однако InfiniBand уступает Ethernet по максимальной полосе пропускания. Последние коммутаторы Quantum InfiniBand от Nvidia имеют пропускную способность 25,6 Тбит/с и порты 400 Гбит/с. А Ethernet уже достиг 51,2 Тбит/с и 800 Гбит/с соответственно.
В то же время обычному серверу не нужны настолько скоростные порты. Зато ИИ-серверы оснащаются по 400-гигабитному сетевому адаптеру на каждый GPU***, а GPU может быть 4-8 штук. Такие ИИ-узлы и заполняют огромную полосу пропускания.
Чтобы конкурировать с InfiniBand, в Ethernet даже появились технологии управления потерями и задержками пакетов. Это позволит Ethernet занять 20% рынка коммутации для ИИ к 2027 году по прогнозам Dell'Oro. Основными драйверами роста как раз станут гипермасштабные центры обработки данных и облачные провайдеры.
К 2025 году большинство развернутых для ИИ коммутаторов будут иметь порты 800 Гбит/с. А к 2027 году их производительность может составить до 1600 Гбит/с. Такие высокие скорости станут возможны благодаря интеграции в сетевые адаптеры механизмов коммутации PCIe.
Таким образом, несмотря на то, что InfiniBand, вероятно, сохранит лидерство на рынке коммутации для ИИ, растущий спрос на технологии искусственного интеллекта будет только стимулировать рост и инновации в других решениях отрасли. Все это, так или иначе, приведет к существенному прогрессу и стремительному развитию в области ИИ и машинного обучения.
* InfiniBand – это высокопроизводительная технология сетевого соединения, предназначенная для передачи данных в вычислительных кластерах и хранилищах данных. Она обеспечивает высокую скорость передачи данных, низкую задержку и поддерживает различные топологии сети. InfiniBand использует собственные протоколы передачи данных, что отличает его от Ethernet, который основан на стандартах IEEE и чаще используется в корпоративных сетях и для доступа в Интернет. InfiniBand широко применяется в вычислительных задачах с высокой производительностью, таких как научные вычисления, машинное обучение и моделирование.
** Ethernet – наиболее распространенная технология LAN. Согласно стандарту IEEE 802.3, локальная сеть Ethernet обычно использует коаксиальный кабель или специальные виды витой пары.
*** GPU – графический процессор, или GPU (Graphics Processing Unit), это вычислительное устройство, спроектированное специально для обработки графики и параллельных вычислений. Оно используется для ускорения операций, связанных с отображением изображений, видео и 3D-графикой на компьютере или другом устройстве. Благодаря своей способности эффективно выполнять множество однотипных операций одновременно, GPU также стали неотъемлемой частью для выполнения разнообразных вычислительных задач, таких как научные исследования, машинное обучение, криптовалютное майнинг и многое другое.
Фото с сайта: securitylab.ru