CodingBox Документация

Кабелирование IB по поколениям: DAC, AOC, трансиверы, сплит-кабели

Кластер InfiniBand кабелируется по классам дальности: медь там, где коммутатор на расстоянии вытянутой руки, активная медь чуть дальше, активные оптические кабели до соседнего ряда, трансиверы со структурированным волокном для остального. Каждое поколение сдвигало границы внутрь и меняло разъём, а NDR добавил двухпортовые модули и сплит-кабели, которые сбивают с толку при первой установке. Здесь — справочник по кабелированию: дальности, разъёмы, сплит-конфигурации, механика и правила идентификации.

Разъёмы по поколениям

ПоколениеСкорость на каналПорт 4xРазъёмПримечания
SDR / DDR2,5 / 5 Гбит/с10 / 20 Гбит/сCX4 (медь), позже QSFPнаследие
QDR10 Гбит/с40 Гбит/сQSFPуправление SFF-8436
FDR14,06 Гбит/с56 Гбит/сQSFP+ (с рейтингом FDR)64B/66B; FEC опционально
EDR25,78 Гбит/с100 Гбит/сQSFP28та же оптика, что 100G Ethernet, другое кодирование
HDR53,1 Гбит/с PAM4200 Гбит/сQSFP56сплиттеры 1:2 в HDR100
NDR106 Гбит/с PAM4400 Гбит/сдвухпортовый OSFP (2 × 400G на модуль) в коммутаторах; OSFP или QSFP112 в HCA800G на клетку коммутатора
XDR212 Гбит/с PAM4800 Гбит/сOSFP / OSFP-XD1.6T на клетку коммутатора

Детали форм-факторов: QSFP28, QSFP56, OSFP, QSFP112.

Классы дальности

СредаQDRFDREDRHDRNDRПримечания
Пассивный DAC≤ 7 м≤ 3–5 м≤ 3 м≤ 2 м≤ 1,5–2 мдальность сжимается с каждым поколением; толще калибр для длинных
Активная медь (ACC/AEC)≤ 5 м≤ 5 м≤ 3–4 м≤ 3 мвилки с питанием; AEC с ретаймерами для NDR
AOC≤ 100 м (иногда 300)≤ 100 м≤ 100 м≤ 100 м≤ 30–50 м типичноVCSEL 850 нм, лента MMF внутри
Трансивер класса SR (MMF)≤ 300 м≤ 100–150 м≤ 70–100 м≤ 70–100 м≤ 50 м (VR) / 100 м (SR)OM3/OM4, MPO
Трансивер класса DR/FR (SMF)500 м – 2 км (PSM4, CWDM4)500 м – 2 км500 м (DR4) / 2 км (FR4)MPO-12 APC (DR4), дуплекс LC (FR4)

Что внутри каждого типа кабеля: Внутри кабелей.

Двухпортовый NDR и сплит-кабели

Клетка коммутатора NDR держит один двухпортовый OSFP = два независимых порта 400G за двумя розетками MPO-12/APC (или двумя дуплексами LC). Варианты кабелирования от одного модуля:

КонфигурацияКабельДальний конец
2 × 400G прямыедва транка MPO-12 APCдва порта NDR HCA 400G (OSFP или QSFP112) или другой коммутатор
Сплит 1:2 (800G → 2 × 400G)Y-кабель, один конец OSFP, два конца OSFP/QSFP112две HCA — стандартное подключение сервера
Сплит 1:4 (800G → 4 × 200G)один конец OSFP, четыре конца QSFP56/QSFP112HCA на скорости HDR (NDR200)
Двухпортовый AOCодин двухпортовый конец OSFP, два конца OSFP/QSFP112до ~30–50 м
Двухпортовый DACодин конец OSFP, два конца≤ 1,5–2 м; тяжёлый — только внутри стойки

Каждая ветка сплита — отдельная линия со своим согласованием; коммутатор видит два (или четыре) порта. Кодирование идентификации должно согласованно описывать всю сборку на каждом конце (Внутри кабелей).

OSFP с рёбрами и плоский

  • OSFP с ребристой крышкой — встроенный радиатор для клеток коммутаторов с открытым обдувом над модулем. Не входит в плоскую клетку.
  • OSFP с плоской крышкой — для HCA и клеток с накладным радиатором. Входит в любую клетку, но в открытой клетке коммутатора может перегреваться.
  • QSFP112 в HCA делит электрический интерфейс NDR 4 × 106 Гбит/с в габарите QSFP; порт HCA QSFP112 стыкуется со сплит-кабелем от коммутатора OSFP.

Тепловые последствия: Питание и тепло.

Правила механики

ПравилоПочему
Соблюдать радиус изгиба (DAC ≥ 10 диаметров; AOC/волокно ≥ 30 мм)смятый twinax → ошибки канала; согнутое волокно → потеря Rx
Разгружать вес кабелей — двухпортовые DAC тяжёлыетянет клетку, перебои контакта, треснувшие платы вилок
Штифты/без штифтов и APC на каждом MPOBreakout и кабелирование MPO
Чистить и осматривать каждый MPO перед вставкойодна пылинка стоит каналу 1–3 дБ
Держать пылезащитные колпачки на неиспользуемых клетках и разъёмахзагрязнение — главная причина отказов каналов
Прокладывать вдали от горячего выхлопадвижки AOC и вилки AEC стареют с температурой

Идентификация и политика вендора

Коммутаторы и HCA InfiniBand доминирующего вендора сверяют кабели и трансиверы со списком поддерживаемых и читают их сведения о кабеле (вендор, PN, SN, длина, технология) в менеджер фабрики. Непроверенный кабель может линковаться на пониженной скорости или быть помечен; кабель с неверной длиной или классом скорости может не пройти согласование. Байты идентификации — стандартные поля SFF-8636/CMIS плюс объявления скоростей InfiniBand (Коды соответствия, Вендор-лок).

Практика учёта

  • Маркируйте оба конца линком (коммутатор/порт ↔ хост/порт); сплит-кабелям нужны метки на каждую ветку.
  • Записывайте вендора, PN, SN и длину каждого кабеля в менеджер фабрики или CMDB; данные берите из mlxcables или из CodingBox при входном контроле.
  • Держите запас по классам дальности и разъёмам; двухпортовые NDR и сплит-варианты не взаимозаменяемы с обычным 400G.
  • Прогоняйте новую оптику до внедрения (Надёжность линков и мониторинг).

В CodingBox

Концы кабелей и трансиверы читаются как любой модуль: идентификация с длиной кабеля, технологией и классом скорости, поканальный DDM для AOC и оптики, состояние CMIS для модулей NDR (Check transceiver, DDM). Чтение каждой ветки сплит-кабеля до установки ловит несовпадающий конец, который иначе линковался бы на неверной скорости.