
Zastanawialiście się kiedyś czy zwykły switch LAN nadaje się do pracy w serwerowni? Jaki switch wybrać? Czym charakteryzują się przełączniki do Data Center? Jak są zbudowane i co takiego szczególnego potrafią? I czy w serwerowni są obszary, w których sprawdzą się tradycyjne switche?
W tym materiale przedstawiam najważniejsze różnice między switchami LAN, a tymi zaprojektowanymi do pracy w serwerowniach. Dowiesz się, jak zbudowane są przełączniki do centrów danych i jakie główne obszary sieci możemy tam wyróżnić. Wyjaśnimy, jaki switch wybrać do serwerowni? A jeśli wolisz oglądać nasze wideo na ten temat, zapraszamy na YT:
Switch LAN w Data Center
Standardowe switche LAN można stosować w serwerowniach, ale tylko w pewnych sytuacjach. Wszystko zależy od wielkości naszego środowiska oraz jego architektury i zastosowanych technologii.
Do połączenia dwóch czy trzech serwerów i jednej macierzy w niewielkiej serwerowni lub oddziale firmy raczej nie zdecydujemy się na zakup dedykowanych switchy. Do takich celów zazwyczaj klienci wykorzystują przełączniki kampusowe. Warto jednak aby były wyposażone w redundantne zasilacze czy moduły z interfejsami o większej przepustowości. Małe środowiska coraz częściej budowane są w oparciu o architekturę hiperkonwergentną. W niej funkcjonalność współdzielonej macierzy jest przeniesiona na lokalne zasoby serwerów, a wymagania względem sieci są ograniczone do niezbędnego minimum.
Kolejnym obszarem, w którym zazwyczaj stosuje się przełączniki LAN, i to nawet w dużych data center, jest tzw. sieć OOB (out of band). Służy ona do komunikacji interfejsów zarządzających naszych serwerów, macierzy, switchy SAN czy bibliotek taśmowych. To tylko kilka sytuacji, w których możemy pokusić się o zastosowanie switchy LAN w serwerowni, ponieważ w zdecydowanej większości przypadków ich wykorzystanie jest ryzykowne. Wynika to bezpośrednio z architektury tych urządzeń i obsługiwanych przez nie protokołów.
Sieć SAN
Podstawowym zadaniem przełączników w serwerowniach jest łączenie ze sobą macierzy, na których przechowywane są dane, z serwerami, które te dane przetwarzają. Ten obszar nazywamy siecią SAN, czyli Storage Area Network. Sieci SAN to ewolucja architektury DAS (Direct Attached Storage), w której macierze były podłączane bezpośrednio do hostów. Wykorzystanie switchy ma na celu zwiększenie dostępności oraz skalowanie współdzielonych zasobów storage.

Natomiast Fibre Channel to nie tylko protokół, adresacje WWN i WWPN, czy zoning. To także dedykowana infrastruktura w postaci kart HBA, odpowiedniej architektury macierzy oraz dedykowanych przełączników. Do najpopularniejszych należą switche Bracade oraz MDS’y od Cisco.
Sieci SAN spotykamy zazwyczaj w nieco większych środowiskach. Najwięcej zależy od tego, w jakim celu jest projektowana infrastruktura. Sieć SAN świetnie sprawdzi np. w środowisku wirtualnym, gdzie maszyny wirtualne, a często także hypervisory, są hostowane bezpośrednio z macierzy. Natomiast niekoniecznie będzie miała uzasadnienie, jeśli nasze macierze będą głównie służyły, jako serwery plików.
Sieć Ethernet w Data Center
Do zapewnienia komunikacji serwerów z pozostałą częścią środowiska zwykle służy tradycyjna sieć Ethernet. Wykorzystuje ona adresacje IP, VLANy i protokoły routingu. W tym obszarze najlepiej sprawdzą się switche Ethernet. To urządzenia dedykowane do pracy w Data Center, ze względu na swoją architekturę, wysoką wydajność, niskie opóźnienia czy wbudowaną telemetrię.
Niektóre modele switchy Nexus to platformy Unified mogące działać zarówno w trybie Ethernet, jak i wspomnianym wcześniej Fibre Channelu. Oznacza to mniej więcej tyle, że do tej samej pary przełączników możemy podpiąć serwery i macierze tworząc sieć SAN. Możemy również zapewnić komunikację Ethernet, wykorzystując iSCSI, czy podpinając macierze plikowe lub serwery NAS .

Różnice funkcjonalne pomiędzy switchami LAN a DC
Standardowe switche, jak i cała sieć LAN, zorientowane są na obsługę użytkowników oraz zapewnieniu bezpiecznego dostępu do niej. Dlatego kluczowe są tu elementy związane z bezpieczeństwem jak np. obsługa protokołu 802.1x, segmentacja z wykorzystaniem tagów, czy integracja z narzędziami NAC.
Switche LAN są też przystosowane do obsługi sieci bezprzewodowych poprzez podłączane do nich punkty dostępowe i mogą również pełnić rolę sieci bezprzewodowych.
Tymczasem switche serwerowe nie są zazwyczaj stackowane w klasyczny sposób. Zamiast tego tworzy się między nimi, a hostami wirtualne połączenia, jak np. Virtual Port Chennel (VPC) w przypadku Nexusów. Ponadto switche Data Center są zoptymalizowane do obsługi protokołów takich, jak RDMA (Remote Direct Memory Access) czy FCoE. Funkcjonalności tych oczywiście nie znajdziemy w urządzeniach do sieci LAN.
Jaki switch? Różnice w budowie przełączników
Jeśli chodzi o różnice w budowie, to na pierwszy rzut oka widać inne gabaryty urządzeń do DC. Niewielka wysokość urządzeń zazwyczaj wynosi 1U. Wiąże się to z ograniczonym miejscem w szafach serwerowych, ale przede wszystkim wynika z architektury ToR (Top of Rack). Jej zaletą w stosunku do topologii End of Row są duże oszczędności w okablowaniu oraz fakt, że switche modularne powoli znikają z naszych serwerowni. Ponadto w przypadku switchy data center, zazwyczaj każdy model ma nadmiarowe zasilanie.
Ilość wentylatorów oraz ich modularność w przełącznikach także zdecydowanie przekracza to, z czym mamy do czynienia w sprzęcie do kampusu.
Tu oprócz wysokiej dostępności mamy do czynienia z dużymi różnicami temperatur, jakie panują w centrach przetwarzania danych. Poza nielicznymi wyjątkami, przepływ powietrza w switchach data center jest odwrotny do tego, jaki znamy z klasycznych przełączników.

Wszystko dlatego, że switche służą głównie do połączeń serwerów, a te mają przecież porty sieciowe z tyłu i tam też wydmuchują ciepłe powietrze. Taka architektura przełączników data center znacznie upraszcza organizację okablowania, którego nie trzeba przeciągać przez całą szafę rack.
Bardzo ważnym aspektem jest też fakt, że w większości serwerowni zimne powietrze z klimatyzacji dostarczane jest właśnie od frontu szafy. Natomiast ciepłe odbierane jest od tyłu, tam gdzie znajdują się połączenia sieciowe i zasilające.
Switche data center z natury charakteryzują się większą przepustowością interfejsów. Dziś kształtuje się ona na poziomie 10/25 Gb dla portów dostępowych i 40/100Gb dla uplinków. Natomiast w przypadku switchy kampusowych standardem jest dziś 1, max 10Gb na accesie i 10/25Gb w górę sieci.
Oczywiście w przypadku switchy Fibre Channel przepustowość portów będzie kształtowała się na poziomie 16, 32 czy 64 Gbps.
Telemetria w switchach SAN
Przełączniki do Data Center oferują wiele ciekawych funkcjonalności, których nie znajdziemy w tradycyjnych switchach. Dobrym przykładem może być tu analityka wbudowana w przełączniki Cisco MDS serii 9000. Zapewnia ona pełny wgląd w ruch dla protokołu SCSI lub NVMe i to dla dla każdego przepływu osobno.
Często widzimy, że w większych organizacjach obszarem serwerów, sieci SAN i macierzy zajmują się różne zespoły. W przypadku problemu np. z wydajnością, zdarza się, że wzajemnie przerzucają się odpowiedzialnością. Dzięki wspomnianym narzędziom analitycznym o wiele łatwiej jest namierzyć potencjalne źródło problemu i odpowiednio zareagować.
Przykład:
Wyobraźmy sobie, że potrzebujemy namierzyć najwolniejszą macierz w obrębie naszej fabryki. W module SAN Insight platformy DCNM, z którą komunikują się switche MDS, możemy łatwo i szybko zidentyfikować przepływy z największymi opóźnieniami. Na podstawie dodatkowych metryk określimy, czy jest to problem po stronie sieci, macierzy czy hosta.
Jak wybrać switch do serwerowni?
Przede wszystkim musimy określić rolę, jaką przełącznik ma pełnić. Jeśli potrzebujemy platformy do sieci opartej o FC, wybór będzie dość prosty, a na decyzję o konkretnym modelu wpłyną zapewne:
- ilość potrzebnych portów,
- ich przepustowość,
- funkcje analityczne.
Pamiętajmy, że w przypadku switchy FC, płacimy głównie za ilość aktywnych portów. Możemy więc dziś kupić switch z większą ilością fizycznych portów, ale zapłacić jedynie za ich część, np. 8. Później, gdy nasze potrzeby wzrosną, pozostałe porty możemy aktywować licencją, bez konieczności wymiany urządzenia.
Jeżeli potrzebujemy switchy do połączenia serwerów i skomunikowania ich z pozostałymi obszarami sieci, wybierzemy zapewne przełączniki Ethernet. Tutaj dobrą opcją mogą być Nexusy szczególnie. Ich portfolio jest bardzo rozbudowane. Możemy wybrać małe switche 1U serii 3000 lub, któryś z modeli 9000, albo wielkie modularne maszyny.

Ciekawostka:
Modele serii 9000 mogą pracować w tradycyjnym trybie pod kontrolą NX-OS’a. Umożliwiają zatem budowę sieci opartych o różne protokoły: od starożytnego już Spanning Tree, aż po nowoczesny tzw. IP Fabric. Ale technologią, gdzie mogą pokazać pełnię możliwości, jest Cisco ACI. W tej architekturze switche pracują w architekturze SPINE-LEAF i są zarządzane przez centralny kontroler APIC.
Wspomniane Nexusy równie dobrze spiszą się, jako switche SAN. Zarówno wtedy, gdy do komunikacji storage wykorzystywany jest Ethernet i protokoły iSCSI, czy FCoE, jak i klasyczne FC, bo niektóre modele mogą pracować w trybie unified.
Oczywiście, czynników wskazujących na konkretnego producenta, czy model jest wiele. Pod uwagę trzeba wziąć kwestie funkcjonalne, budżetowe, albo typowo fizyczne (np. ilość, rodzaj i przepustowość portów oraz kompatybilność z obecną infrastrukturą).
Nie zapominajmy również o zdrowym rozsądku. Do połączenia dwóch lub trzech serwerów, kilku przełączników dostępowych, routerów i access pointów nie potrzeba cudów. Spokojnie wystarczą do tego wydajne, spięte w stack switche LAN wyposażone w redundantne zasilanie i kilka portów 10 lub 25G.