CodingBox Документация

Основы коммутации: VLAN, LAG, spanning tree, маршрутизация

Проблема трансивера никогда не объявляет себя проблемой трансивера. Она выглядит как смена топологии spanning tree, приостановленный участник LAG, скачущий сосед OSPF, флапающий туннель VXLAN или «у половины пользователей всё медленно». Чтобы прочитать эти симптомы обратно к физическому уровню, нужен словарь коммутации: как коммутатор учит MAC-адреса, что такое VLAN и транки, как агрегация линков хеширует потоки, почему spanning tree блокирует порты и что делают протоколы маршрутизации, когда линк моргает. Эта страница — такой словарь, ограниченный тем, что важно, когда корневая причина может быть грязным разъёмом.

Уровень 2: изучение MAC и VLAN

ПонятиеЧто происходитРакурс оптики
Изучение MACMAC источника каждого кадра записывается за входным портом; неизвестные получатели рассылаются всемфлапающий порт сбрасывает и переучивает записи — короткие рассылки после каждого флапа
Старениезаписи истекают (300 с по умолчанию)
VLAN (802.1Q)домен рассылки; кадры на транках несут 12-битный тег (1–4094)
Access-портодин нетегированный VLAN
Trunk-портмного тегированных VLAN, один native нетегированныйнесовпадение native VLAN на аплинке выглядит как частичная связность, а не отказ линка
MTU / jumbo1 500 байт по умолчанию, 9 000–9 216 jumboнесовпадение MTU на аплинке пропускает малые пакеты, теряет большие — похоже на перебои оптики
Storm control, BPDU guard, port securityзащитные функции, выключающие портыпорт в errdisable от любой из них выглядит как мёртвый модуль (Индекс по симптомам)

Spanning tree

ВариантСходимостьПримечания
STP (802.1D)30–50 снаследие
RSTP (802.1w)< 1–3 сумолчание у большинства
MSTP (802.1s)как RSTP, по экземплярамгруппы VLAN
PVST+/Rapid-PVST+по VLANCisco

Spanning tree блокирует избыточные пути L2. Что с ним делает плохая оптика:

  • флапающий аплинк порождает уведомления о смене топологии (TCN); каждый TCN сбрасывает таблицы MAC по всей сети и вызывает секунды рассылок — пользователи видят замирания при каждом флапе (Флап линка);
  • однонаправленный линк (одно волокно порвано, Tx работает, Rx нет) может создать петлю, если BPDU перестают приходить — UDLD, loop guard и bridge assurance существуют именно для этого (Нет линка);
  • светодиоды заблокированного порта (жёлтые) нормальны на избыточных линках, это не отказ (Именование портов и светодиоды).

Фабрики leaf–spine избегают STP, маршрутизируя каждый линк.

Агрегация линков (LAG, port-channel, bond)

ПозицияПравило
ПротоколLACP (802.1AX / 802.3ad): участники обмениваются PDU, согласуют членство; статический LAG без защиты
Участникиодна скорость, дуплекс, MTU; большинство NOS требуют один FEC и тип среды — 4 × 25G оптики или 4 × 25G DAC, не смесь
Хешированиепотоки распределяются по хешу полей MAC/IP/порт; один поток никогда не превышает скорость одного участника
Участник с ошибкамиLACP держит его в пучке, пока проходят PDU; ошибки CRC на одном участнике портят захешированные на него потоки — «часть сессий медленные, другие в норме» — фирменный признак (VDM и метрики FEC)
Min-linksпучок падает, если поднято меньше N участников — защита от работы на одном деградировавшем линке
ИменаPort-channel, ae, Eth-Trunk, bond, PortChannel по NOS
Через два коммутатораMLAG/vPC/VLT (Стекирование и MLAG)

Практика: когда LAG «работает, но медленно», смотрите счётчики и DDM по участникам, а не по пучку.

Уровень 3: маршрутизация на коммутаторе

ПонятиеЧто этоРакурс оптики
SVI / маршрутизируемый портIP-интерфейс на VLAN или на физическом портуу маршрутизируемых аплинков нет STP; флап — событие маршрутизации
Статика / OSPF / IS-IS / BGPпротоколы маршрутизации; ДЦ-фабрики используют BGP (eBGP на линк) или OSPFлоги up/down соседа точно указывают, какой линк и когда флапнул
ECMPмногопутёвость равной стоимости по N аплинкам; потоки хешируются как в LAGодин плохой аплинк портит 1/N потоков; BFD (50–300 мс) обнаруживает отказ быстрее таймеров протокола
Dampeningподавляет анонсы флапающего интерфейсафлапающая оптика оказывается подавленной — линк «up», но трафик не маршрутизируется
VRFотдельные таблицы маршрутизации (VRF управления!)пинг коммутатора через неверный VRF выглядит как отказ линка
Резервирование первого хопа (HSRP/VRRP)виртуальный шлюз между двумя коммутаторамифлапы вызывают переключение шлюза

Оверлеи

ОверлейГдеРакурс оптики
VXLAN / EVPNДЦ-фабрики: L2 поверх L3туннели едут по ECMP; отказывающий линк spine портит туннели случайно, а не детерминированно
MPLS / SRоператорыбыстрый перемаршрут (< 50 мс) маскирует флапы — смотрите счётчики андерлея
EVPN multihoming (ESI-LAG)заменяет MLAGлинки участников к разным leaf, те же правила, что для участников LAG

Управление потоком и классы без потерь

МеханизмНазначениеРакурс оптики
Пауза 802.3xостановить соседаиспользуется редко; глобальная пауза скрывает перегрузку
PFC (802.1Qbb)пауза по приоритетам для RoCE/FCoEлинк с ошибками CRC вызывает повторы, а не паузу — но штормы пауз от флапающего порта могут остановить класс без потерь по всей фабрике (Lossless Ethernet)
ECNпометка перегрузки

Чтение симптомов коммутации обратно к физическому уровню

Симптом коммутацииФизическая причина для проверки
TCN STP каждые несколько минут, флапы MAC в логаходин флапающий аплинк — мощность Rx по DDM около чувствительности, грязный разъём
Участник LACP «suspended» / «individual»несовпадение FEC или скорости на этом участнике; модуль не распознан
Сбросы соседа OSPF/BGP на одном линкефлапающая оптика или модуль у предела температуры
ECMP: часть потоков медленные или с потерямиодин аплинк с неисправимыми FEC / CRC
Jumbo-кадры не проходят, пинги работаютMTU — не оптика
Петля или шторм рассылок после ремонта волокнаоднонаправленный линк, перепутанная полярность MPO, отсутствует UDLD
Трафик останавливается после обновления софтасторонняя оптика отвергнута новым релизом (Матрицы совместимости и прошивки)
Сервер видит линк up, трафика нетневерный VLAN/несовпадение native или LAG на коммутаторе и нет на сервере

Физические проверки за каждой строкой: Индекс по симптомам, Проверка оптики на коммутаторе.

В CodingBox

Симптомы уровня коммутации указывают на порт; порт указывает на модуль; DDM, идентификация и пороги модуля — прочитанные на коммутаторе или на столе — закрывают дело. Запись по каждому модулю в базе кодов превращает «LAG снова тормозил» в «участник 3, серийник X, Rx −17 дБм, заменён».