Кабелирование IB по поколениям: DAC, AOC, трансиверы, сплит-кабели
Кластер InfiniBand кабелируется по классам дальности: медь там, где коммутатор на расстоянии вытянутой руки, активная медь чуть дальше, активные оптические кабели до соседнего ряда, трансиверы со структурированным волокном для остального. Каждое поколение сдвигало границы внутрь и меняло разъём, а NDR добавил двухпортовые модули и сплит-кабели, которые сбивают с толку при первой установке. Здесь — справочник по кабелированию: дальности, разъёмы, сплит-конфигурации, механика и правила идентификации.
Разъёмы по поколениям
| Поколение | Скорость на канал | Порт 4x | Разъём | Примечания |
|---|---|---|---|---|
| SDR / DDR | 2,5 / 5 Гбит/с | 10 / 20 Гбит/с | CX4 (медь), позже QSFP | наследие |
| QDR | 10 Гбит/с | 40 Гбит/с | QSFP | управление SFF-8436 |
| FDR | 14,06 Гбит/с | 56 Гбит/с | QSFP+ (с рейтингом FDR) | 64B/66B; FEC опционально |
| EDR | 25,78 Гбит/с | 100 Гбит/с | QSFP28 | та же оптика, что 100G Ethernet, другое кодирование |
| HDR | 53,1 Гбит/с PAM4 | 200 Гбит/с | QSFP56 | сплиттеры 1:2 в HDR100 |
| NDR | 106 Гбит/с PAM4 | 400 Гбит/с | двухпортовый OSFP (2 × 400G на модуль) в коммутаторах; OSFP или QSFP112 в HCA | 800G на клетку коммутатора |
| XDR | 212 Гбит/с PAM4 | 800 Гбит/с | OSFP / OSFP-XD | 1.6T на клетку коммутатора |
Детали форм-факторов: QSFP28, QSFP56, OSFP, QSFP112.
Классы дальности
| Среда | QDR | FDR | EDR | HDR | NDR | Примечания |
|---|---|---|---|---|---|---|
| Пассивный DAC | ≤ 7 м | ≤ 3–5 м | ≤ 3 м | ≤ 2 м | ≤ 1,5–2 м | дальность сжимается с каждым поколением; толще калибр для длинных |
| Активная медь (ACC/AEC) | — | ≤ 5 м | ≤ 5 м | ≤ 3–4 м | ≤ 3 м | вилки с питанием; AEC с ретаймерами для NDR |
| AOC | ≤ 100 м (иногда 300) | ≤ 100 м | ≤ 100 м | ≤ 100 м | ≤ 30–50 м типично | VCSEL 850 нм, лента MMF внутри |
| Трансивер класса SR (MMF) | ≤ 300 м | ≤ 100–150 м | ≤ 70–100 м | ≤ 70–100 м | ≤ 50 м (VR) / 100 м (SR) | OM3/OM4, MPO |
| Трансивер класса DR/FR (SMF) | — | — | 500 м – 2 км (PSM4, CWDM4) | 500 м – 2 км | 500 м (DR4) / 2 км (FR4) | MPO-12 APC (DR4), дуплекс LC (FR4) |
Что внутри каждого типа кабеля: Внутри кабелей.
Двухпортовый NDR и сплит-кабели
Клетка коммутатора NDR держит один двухпортовый OSFP = два независимых порта 400G за двумя розетками MPO-12/APC (или двумя дуплексами LC). Варианты кабелирования от одного модуля:
| Конфигурация | Кабель | Дальний конец |
|---|---|---|
| 2 × 400G прямые | два транка MPO-12 APC | два порта NDR HCA 400G (OSFP или QSFP112) или другой коммутатор |
| Сплит 1:2 (800G → 2 × 400G) | Y-кабель, один конец OSFP, два конца OSFP/QSFP112 | две HCA — стандартное подключение сервера |
| Сплит 1:4 (800G → 4 × 200G) | один конец OSFP, четыре конца QSFP56/QSFP112 | HCA на скорости HDR (NDR200) |
| Двухпортовый AOC | один двухпортовый конец OSFP, два конца OSFP/QSFP112 | до ~30–50 м |
| Двухпортовый DAC | один конец OSFP, два конца | ≤ 1,5–2 м; тяжёлый — только внутри стойки |
Каждая ветка сплита — отдельная линия со своим согласованием; коммутатор видит два (или четыре) порта. Кодирование идентификации должно согласованно описывать всю сборку на каждом конце (Внутри кабелей).
OSFP с рёбрами и плоский
- OSFP с ребристой крышкой — встроенный радиатор для клеток коммутаторов с открытым обдувом над модулем. Не входит в плоскую клетку.
- OSFP с плоской крышкой — для HCA и клеток с накладным радиатором. Входит в любую клетку, но в открытой клетке коммутатора может перегреваться.
- QSFP112 в HCA делит электрический интерфейс NDR 4 × 106 Гбит/с в габарите QSFP; порт HCA QSFP112 стыкуется со сплит-кабелем от коммутатора OSFP.
Тепловые последствия: Питание и тепло.
Правила механики
| Правило | Почему |
|---|---|
| Соблюдать радиус изгиба (DAC ≥ 10 диаметров; AOC/волокно ≥ 30 мм) | смятый twinax → ошибки канала; согнутое волокно → потеря Rx |
| Разгружать вес кабелей — двухпортовые DAC тяжёлые | тянет клетку, перебои контакта, треснувшие платы вилок |
| Штифты/без штифтов и APC на каждом MPO | Breakout и кабелирование MPO |
| Чистить и осматривать каждый MPO перед вставкой | одна пылинка стоит каналу 1–3 дБ |
| Держать пылезащитные колпачки на неиспользуемых клетках и разъёмах | загрязнение — главная причина отказов каналов |
| Прокладывать вдали от горячего выхлопа | движки AOC и вилки AEC стареют с температурой |
Идентификация и политика вендора
Коммутаторы и HCA InfiniBand доминирующего вендора сверяют кабели и трансиверы со списком поддерживаемых и читают их сведения о кабеле (вендор, PN, SN, длина, технология) в менеджер фабрики. Непроверенный кабель может линковаться на пониженной скорости или быть помечен; кабель с неверной длиной или классом скорости может не пройти согласование. Байты идентификации — стандартные поля SFF-8636/CMIS плюс объявления скоростей InfiniBand (Коды соответствия, Вендор-лок).
Практика учёта
- Маркируйте оба конца линком (коммутатор/порт ↔ хост/порт); сплит-кабелям нужны метки на каждую ветку.
- Записывайте вендора, PN, SN и длину каждого кабеля в менеджер фабрики или CMDB; данные берите из
mlxcablesили из CodingBox при входном контроле. - Держите запас по классам дальности и разъёмам; двухпортовые NDR и сплит-варианты не взаимозаменяемы с обычным 400G.
- Прогоняйте новую оптику до внедрения (Надёжность линков и мониторинг).
В CodingBox
Концы кабелей и трансиверы читаются как любой модуль: идентификация с длиной кабеля, технологией и классом скорости, поканальный DDM для AOC и оптики, состояние CMIS для модулей NDR (Check transceiver, DDM). Чтение каждой ветки сплит-кабеля до установки ловит несовпадающий конец, который иначе линковался бы на неверной скорости.