Diit.cz - Novinky a informace o hardware, software a internetu

Minirecenze: HPE ProLiant DL385 Gen10 Plus 2U server

V dnešní minirecenzi se podíváme na server společnosti HPE, který pojme až dva šedesáti čtyř jádrové procesory AMD EPYC a hromádku PCIe slotů.

Předně se musím omluvit hlavně společnosti HPE, jelikož server jsem měl zapůjčený v červenci roku 2020 na nějaké věci o kterých veřejně mluvit nemohu a zároveň jsem přislíbil i recenzi a nějaké testy. Doufal jsem, že článek stihnu asi do dvou měsíců od otestování, ale bohužel to tak nedopadlo...

Podobně jako u recenze ThreadRipperu 3960X a EPYCu 7F72 nejsem zcela spokojený s testovací metodikou, stihl jsem toho méně než jsem chtěl a neukazuje se tak úplně dobře výkon serveru, jeho konfigurace je navíc velmi specifická pro něco ne zcela standardního.

To mne přivádí k tomu, že k nějaké veselejší metodice se ihned nedostanu, snažím se testy postupně rozšiřovat a mám v plánu časem i nějaké testy virtualizace, ale ještě nevím jak přesně to pojmu. Idea je taková, že bych na testovaný server nainstaloval Proxmox nebo VMware ESXi + rozbalil hromádku virtuálních mašin s různými vlastnostmi(různý počet vCPU, RAM, disk, OS, atd.) a měřil bych operace jako rychlost tohoto "deploymentu" celé farmy na server, rychlost zapnutí celého hosta, rychlost zapnutí všech virtuálních strojů, nějaký pokus jak se chová server při větší zátěži(zda všechny VMs fungují, jak se chová ESXi/proxmox když dochází RAM a tak podobně) a určitě by šlo vymyslet mnoho dalšího z praxe. Jedná se však o něco netriviálního a časově velmi náročného a nedovedu říci, kdy přesně(možná během příští pětiletky) něco takového bude. Mezitím budu rozšiřovat "standardní" testy pro Windows a pro Linux.

Znovu chci upozornit, že testovací server je ve specifické konfiguraci na míru, do produkčního prostředí by v této podobě ani nešel, jednalo se o testovací mašinu. Toto je takový všeobecný problém u serverů, v rámci nějakého šasi/serveru daného výrobce můžete obzvlášť s EPYCy vymyslet velmi mnoho konfigurací, v rozpětí 1x 8C CPU až po 2x 64C, různé množství RAM, PCIe karet, disků, síťových prvků a tak podobně. Toto ztěžuje i nějaké finální hodnocení, protože každá konfigurace jde snadno změnit a nabídne různý výkon pro různá použití. Mějte tedy na paměti, že servery se typicky staví na míru pro daného zakáznika a způsob použití, nějaké hotové konfigurace jako notebooky doufám nikdo nekupuje a ani nevím, zda něco takového v retailu existuje.

Nyní se přesuneme k samotnému serveru, od HPE mi dorazil ve svém standardním kartonovém balení, většina serverů se balí do dobře vycpaných obřích kartonových krabic, servery patří spíše mezi dražší hardware a rozbít ho po cestě opravdu nechcete. Dnešní kousek může vážit v rozpětí 16-36kg v závilosti na konfiguraci, nicméně přesnou hmotnost neznám.

Uvnitř krabice najdeme mimo samotného serveru podlouhlou krabici s kolejnicemi, ty drží server v racku a umožňují ho vysunout z racku pro servisní operace(výměna komponent, upgrade, atd.). Kolejnice stačí standardně nacvaknout, pokud jste někdy s nějakými kolejnicemi pracovali, máte přibližnou představu jak na to.

Dále zde najdeme základní manuál a sadu dvou kabelů, což je specifikum pro tuto konfiguraci, nejsem si jist, zda je HPE přikládá i ke konfiguracím bez přídavné grafické karty. konkrétně se jedná o redukce z malého 8pin konektoru na dva velké osmipiny pro grafické karty.

Server zabere 2U pozice v racku, což je poměrně standardní, velmi oblíbené jsou i 1U servery, ale do těch nepřipojíme tolik přídavných PCIe karet a disků. 3U a 4U servery jsou pak méně běžné, ale existují.

HPE ProLiant DL385 Gen10 Plus 2U server má ve své přední části pozice na různé disky. Zajímavé je rozdělení na Boxy, přičemž každý Box může obsahovat až osm 2,5" pozic na SAS/SATA/NVMe disky. Každý Box má navíc vlastní backplane, takže můžeme osadit třeba jen jeden a zbytek nechat prázdný, podobně jako je to na dnes testovaném kusu. HPE nabízí i jistou flexibilitu, mimo disků může Box obsahovat optickou mechaniku, VGA a USB porty, záleží na tom co vlastně zákazník chce. Disky jsou samozřejmě hot-swapové a můžeme je vyndat a přidat za chodu. Na pravé straně vedle Boxu 3 najdeme ještě LEDku napájení, která slouží i jako zapínací tlačítko, LEDku signalizující zdraví serveru, aktivitu sítě a UID LED. Nechybí vytahovací kus plastu se service tagem a dva USB-A porty.

Testovaná konfigurace má poměrně běžné 960GB HPE Enterprise SATA 6Gb/s SSD v RAID1, jelikož to pro účely testování bylo zcela dostačující(teď nemyslím testy pro tento článek), finální ostrá konfigurace by měla nejspíše RAID5 z více SSD, ale toto je opět něco, co si zákazník může konfigurovat dle chuti.

Dále se podíváme do zadní části, kde je zbylé IO. V pravé části najdeme redundantní napájecí zdroje, které lze be nářadí vyjmout za chodu. Zdroje mají jednu 12V 66,7A větev a umí dodat až 800W, splňují navíc certifikaci 80PLUS Platinum, výše už je jen Titanium. HPE nabízí i značně výkonější zdroje, ale pro testovací sestavu jsou tyto naprosto dostatečné. Konkrétně do tohoto serveru můžeme vložit dva stejné 500W, 800W a 1600W zdroje, přičemž z nějakého důvodu existuje asi pět variant 800W zdroje a to včetně -48VDC verze.

Nad zdroji máme několik záslepek, jedna slouží pro volitelný COM1 port a zbylé dvě zakrývají dva přídavné PCIe sloty s nízkým profilem, ty se však musí objednat extra. Server tak nabízí celkem osm PCIe slotů k tomu dva OCP sloty pro daughter boardy, to je velmi slušné.

Přímo na desce sedí VGA připojené do HPE iLO BMC(BMC je víceméně počítač v počítači běžící nezávisle na serveru, slouží pro management, diagnostiku, OS deployment a iKVM, HPE svému řešení říká iLO, DELL zase iDRAC a tak podobně), dva USB 3.0 porty typu A a RJ45 port pro iLO management. Dále zde vidíme čtyřportovou gigabitovou síťovou kartu ve formě OCP daughter karty, na výběr jsou i jiné, například s dvěma či čtyřma SFP+ porty a tak podobně. Tyto proprietární karty využívají v podstatě PCIe konektivitu, ale konektor je zmenšený a karta samotná také oproti standardním PCIe kartám. Toto umožňuje vyšší flexibilitu oproti serverům, které mají síťové karty na desce připájené. Zcela vlevo dole je pak neosazený OCP slot pro druhou daughter kartu. K přídavným PCIe kartám se dostaneme za chvíli, na pohled můžeme vidět dvouportovou SFP+ síťovou kartu a nějakou grafickou kartu.

Horní víko lze velmi snadno odklopit, podobně jako u jiných OEM serverů, slouží na to plastová páčka se zámkem. Spodní víko je pak polepeno plakátem, na kterém najdeme mnoho užitečných informací o serveru, rozmístění základních komponent a portů.

Na fotografii můžeme vidět, že je server rozdělený do několika sekcí, což je celkem normální v tomto segmentu. Zcela vepředu jsou diskové Boxy, za nimi je sada ventilátorů, které je možné snadno vyjmout a to i za chodu pokud na to přijde. Celkem je zde šest ventilátorů s rozměrem 60x60x38 milimetrů, jedná se o SUNON XF60381BX-Q120-Q9T, maximální odběr ventilátoru je 42,8 Wattů. Maximální otáčky končí někde na 16500 RPM, ofuk při maximální rychlosti bude opravdu pořádný.

Za ventilátory v HPE nainstalovali plastový usměrňovač vzduchu, který kryje oba dva SP3 sockety a paměťové sloty. Deska v tomto serveru pojme maximálně dva 64-jádrové AMD EPYC Rome/Milan procesory a můžeme osadit až čtyři TeraBajty RAM, HPE udává 32x128GB jako maximum, ale každý EPYC umí 4TB i sám o sobě, takže věřím, že časem bude možno osadit i 256GB DDR4-Registered paměti. Každý procesor má k dispozici celkem šestnáct DDR4 slotů, takže můžeme osadit dva RDIMMy na kanál. HPE uvádí, že při obsazení dvou RDIMMů na jeden kanál dojde ke snížení propustnosti pamětí z 3200 MT/s na 2933 MT/s, což je opět něco co je ve světě serverů zcela standardní, čím více RDIMMů osadíte, tím více se snižuje propustnost.

Dnes testovaná konfigurace obsahuje "pouze" jeden procesor, druhý osazen není. Konkrétně zde je AMD EPYC 7742, což je 64C/128T CPU s 225W TDP, ale server nemá problém napájecí limit navýšit na 240W pokud to nastavíme v BIOSu a občasně se tak stane i zcela automaticky. Procesor má celkem 256MB L3 cache, základní takt 2250 MHz a maximální boost při využití malého počtu jader až 3,4GHz. Při využití úplně všech jader frekvence klesá na 2,6GHz při 240W napájecím limitu, což není vůbec špatné. Procesor má k dispozici celkem 128GB DDR4-3200 Registered RAM, zapojeno je osm 16GB SK hynix 2Rx8 3200 MT/s modulů.

Povšimněte si podivně tvarovaného chladiče procesoru s heatpipes, je to z toho důvodu, že do prostoru chladiče zasahuje lehce delší grafická karta, tímto řešením nedojde ke kolizi.

Přímo na základní desce bydlí RAID karta HPE Smart Adapter(takto se tváří v systému, víceméně se jedná o proprietární kontrolér, něco jako DELL PERC a tak podobně), tato karta má na sobě dva miniSAS konektory, které vedou do backplane Boxu s disky. V testované konfiguraci má karta na starost pouze RAID1 dvou 960GB SATA SSD.

Dále zde můžeme vidět OCP 3.0 daughter kartu, která na sobě nese čtyři gigabitové RJ45 konektory, pokud zákazník chce, může si nechat nainstalovat třeba čtyřportový SFP+ adaptér, nebo něco jiného.

Server vypadá lehce prázdně a to z důvodu chybějících PCIe stromečků pro zbylé PCIe sloty, musí se objednat samostatně, HPE je osadí v případě, že chceme osadit hromadu PCIe karet. Každý stromeček pro velké tři PCIe sloty nabídne fyzicky tři PCIe Gen4 x16 sloty, ale x16 linek elektricky nabídne jeden, zbylé dva jsou vždy x8. Server má k dispozici maximálně 128 PCIe Gen4 linek, teoreticky by šlo všech osm PCIe slotů osadit v x16 provedení, ale pak by nezbyla žádná konektivita pro řadiče na desce, síťové karty a případná další PCIe zařízení.

V testované konfiguraci je osazen pouze jeden stromeček, ve kterém je osazena dvouportová SFP+ síťová karta Marvell FastLinq 41000 2P a grafická karta HP NVIDIA Quadro RTX 4000 s 8GB VRAM. Quadro RTX 4000 zabere jeden slot a má překvapivě vysoký napájecí limit a to 160 Wattů, což jsem u karty velikosti Radeonu Pro W5500 nečekal. Díky tomu se GPU dost zahřeje, ale o tom až v pozdější kapitole. Konfiguračně karta odpovídá desktopové GeForce RTX 2070, nabídne samozřejmě stabilnější Quadro ovladače a lepší výkon v profesionálních aplikacích. Oproti RTX 2070 došlo i na zpomalení GDDR6 pamětí, namísto 14Gbps nabídnou propustnost 13Gbps efektivně.

Takto máme v kostce celý server, testy pro Diit jsem prováděl na interních SSD s operačním systémem Windows 10 Pro v2004, ano je trochu bizarní používat klientskou verzi OS na serveru, ale primárně mi šlo o otestování programů, které nehledí na verzi OS a potřeboval jsem to zprocesovat rozumně rychle, jelikož testování jiného účelu serveru zabralo delší dobu. Z těchto důvodů nenajdete testy výkonu v Linuxu. Jak jsem zmiňoval na začátku článku, nejsem z toho zrovna nadšený, ale bylo mi líto zahodit vše do koše. Bohužel jsem pořádně nestihl prozkoumat iLO, ale stihnul jsem alespoň nascreenshotovat BIOS.

Co se týče napájecího profilu serveru, HPE zde nabízí mnoho možností, z výroby je zvolena volba "General Power Efficient Compute" a s tím jsem také testoval. Pokud chcete co nejvyšší výkon, je třeba zvolit HPC Compute volbu, nebo si vytvořit vlastní profil. Možností je zde opravdu mnoho. General Power Efficient Compute má tu nevýhodu, že v některých situacích neprobudí procesor naplno ihned, ale chvíli čeká, zda zátěž neskončí, podobně se chovají například servery od DELLu, jedná se o optimalizaci na nižší spotřebu a vyšší efektivitu, přičemž velmi často procesory sedí na nejnižším PState pokud je to možné.

 

 

BIOS

Karel "Karáš Svorka" Svoboda (Google+)

Pesíci dělají chro. Je potřeba vysumýšovat chrochták.

VGA Legacy MKIII

více článků, blogů a informací o autorovi

Diskuse ke článku Minirecenze: HPE ProLiant DL385 Gen10 Plus 2U server

Čtvrtek, 29 Červenec 2021 - 10:13 | Karáš Svorka | Tak pokud se objeví něco zajímavého, mohlo by to...
Čtvrtek, 29 Červenec 2021 - 09:01 | Fox 25 | Byly to servery zachráněné před nenechavýma...
Čtvrtek, 29 Červenec 2021 - 08:49 | Fox 25 | S nastavením ventilátorů na výkon Eta Neptun...
Středa, 28 Červenec 2021 - 10:11 | Karáš Svorka | Tak je to úplně jiný způsob nasazení, v desktopu...
Středa, 28 Červenec 2021 - 10:10 | Karáš Svorka | I když teď už přesně nevím, chvíli jsem to...
Středa, 28 Červenec 2021 - 09:15 | PKoz | Potvrzuji vysavač :-). Nicméně s tím se tak nějak...
Středa, 28 Červenec 2021 - 09:13 | PKoz | No možná. Standardem jsou horké a studené uličky...
Středa, 28 Červenec 2021 - 04:43 | Fox 25 | Co jsem měl doma server HPE s dvěma xeony(ivy...
Úterý, 27 Červenec 2021 - 21:15 | Mirda Červíček | Vím, ono s tím malým průměrem to ani jinak nejde...
Úterý, 27 Červenec 2021 - 20:52 | Karáš Svorka | To mě nenapadlo vlastně ani zmínit ta značení s...

Zobrazit diskusi