HPE ProLiant DL385
Platforma podnikovej triedy, zostavená a testovaná v EÚ.
Server HPE ProLiant DL385 Generation 10 CTO s GPU NVIDIA A100
Tento server je vybavený dvoma 32-jadrovými procesormi AMD EPYC 7502 (64 jadier, 128 vlákien) a 512 GB pamäte HPE DDR4. Pre úložisko obsahuje 2x 480GB M.2 NVMe disky a 2x 1.6TB Enterprise SAS SSD. Server podporuje 8-polohovú 2.5" SFF backplane a je vybavený RAID radičom HPE Smart Array S100i.
Obsahuje 2x NVIDIA A100 80GB GPU akcelerátory, vďaka čomu je ideálny pre AI a strojové učenie. Server obsahuje štyri integrované GB NIC a dva 10GB SFP+ porty. Redundancia je zabezpečená prostredníctvom 2x 800W napájacích zdrojov a správa je zjednodušená pomocou iLO5.
Technické špecifikácie
| Procesory | Dva 32-jadrové AMD EPYC 7502 (2.5 GHz, Max Turbo 3.4 GHz) |
|---|---|
| Jadrá / vlákna | 64 jadier / 128 logických procesorov |
| Memory Masážne stoly | 512 GB (8x 64GB) HPE DDR4 |
| Primárne úložisko | 2x 480GB M.2 NVMe |
| Sekundárne úložisko | 2x 1.6 TB Enterprise 2.5" SAS SSD |
| backplane | 1x 8 pozícia 2.5" SFF (8SFF) |
| RAID | HPE Smart Array S100i SR Gen10 SW RAID + P208i RAID Controller |
| Grafické jednotky (GPU) | 2x NVIDIA A100 80 GB SXM4 PCIe GPU Accelerator |
| Zdroj | 2x redundantný 800W zdroj |
| Pripojenie k sieti | Quad Integrated GB NICs + Dual port 10GB SFP+ |
| Rackové koľajnice | zahrnuté |
| management | iLO5 Standard |
| Stav zariadenia | repasované |
| Záruka | 24 mesiacov RTB (návrat na základňu) |
| Testované s | Windows Server 2022/2019, VMware ESXi 7.0, Windows Server 2016/2019 HPC, Ubuntu, CentOS 7 64-bit, Proxmox VE |
Kľúčové vlastnosti a výhody
1. Výkonnostný potenciál s GPU NVIDIA A100
- NVIDIA A100 GPU: Navrhnuté pre najnáročnejšie výpočtové úlohy, ako je strojové učenie, hlboké učenie a spracovanie veľkých dát. S 80 GB pamäte na akcelerátor poskytujú vysoký výkon a kapacitu pre paralelné spracovanie dát.
- Optimalizácia AI a ML: Server efektívne zvláda úlohy AI a ML, ktoré sú kľúčové pre organizácie pracujúce s rozsiahlymi súbormi údajov vyžadujúcimi rýchle výpočty.
2. Vysoká škálovateľnosť a flexibilita
- Podpora rozšírenia: Podporuje širokú škálu konfigurácií vrátane rozšírenia pamäte, úložiska a ďalších komponentov
- Rozšíriteľnosť: Pripravené na budúce rozšírenie o ďalšie grafické karty a komponenty
3. Bezpečnosť a spoľahlivosť
- Integrované zabezpečenie: Obsahuje Silicon Root of Trust na ochranu pred útokmi na úrovni hardvéru a firmvéru
- Redundantné systémy: Obsahuje redundantné napájacie zdroje a komponenty podnikovej úrovne
Ideálne prípady použitia
AI a strojové učenie (MLaaS)
- Tréning a odvodenie hlbokých neurónových sietí
- Spracovanie prirodzeného jazyka
- Aplikácie počítačového videnia
Odhadovaný mesačný príjem: 2,000 10,000 – XNUMX XNUMX USD
Veľké dáta a analýza
- Spracovanie a analýza veľkých súborov údajov
- Analýza údajov v reálnom čase
- Aplikácie business intelligence
Odhadovaný mesačný príjem: 3,000 15,000 – XNUMX XNUMX USD
Virtualizácia a cloud computing
- Spustenie viacerých virtuálnych strojov
- Služby cloudovej infraštruktúry
- Organizovanie kontajnerov
Odhadovaný mesačný príjem: 2,000 10,000 – XNUMX XNUMX USD
Podnikové aplikácie
- Vysokovýkonné databázy
- Plánovanie podnikových zdrojov (ERP)
- Riadenie vzťahov so zákazníkmi (CRM)
Odhadovaný mesačný príjem: 1,000 7,000 – XNUMX XNUMX USD
Možnosti konfigurácie (CTO – Configure to Order)
Server je možné prispôsobiť tak, aby spĺňal špecifické organizačné požiadavky vrátane konfigurácií procesora, pamäte, úložiska a sieťových komponentov.
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje vyrobené z komponentov, ktoré máme pripravené, expedujeme rýchlo; čokoľvek, čo vyžaduje konkrétnu generáciu GPU, závisí od dodávok. Pred zaplatením vám oznámime dátum a ak sa dodávka zmení, oznámime vám to, namiesto toho, aby ste sa o tom dozvedeli.
Dá sa konfigurácia zmeniť pred zostavením?
Takmer vždy. Grafické karty, pamäť, úložisko a chladenie sa vyberajú pre každú objednávku a uvedená konfigurácia je skôr východiskovým bodom ako fixným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný prístup k chladeniu, oznámte to pred objednaním a my vám poskytneme cenovú ponuku.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad sa nachádza v Prahe a osobný odber je vítaný – väčšina ľudí, ktorí prídu, využije návštevu na to, aby si s naším technikom prezreli stroj a položili otázky, ktoré sú cez e-mail nepríjemné. V prípade objednávok v rámci Českej republiky sa tiež snažíme doručiť osobne a sprevádzať vás nastavením na mieste.
Môžem sa porozprávať s niekým, kto skutočne rozumie pracovnej záťaži?
Áno. Máme inžiniera, ktorý pracuje konkrétne na systémoch umelej inteligencie, nie na všeobecnom predajnom oddelení. Ak sa vaša otázka týka veľkosti dávok, kvantizácie, prepojení alebo toho, kde bude vaše úzke miesto, opýtajte sa – takýto rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Ktorý model môžem spustiť na tejto konfigurácii?
Áno. Každý stroj je pred odoslaním zostavený, otestovaný v praxi a porovnaný s reálnymi záťažami umelej inteligencie. Po odoslaní máme nainštalovaný a spustený LLM. Zapojíte ho, pripojíte k sieti a začnete pracovať – zostáva už len rozhodnutie, ktorý projekt spustíte ako prvý.
Ako otestujete server pred odoslaním?
Porovnávame ho so skutočnými záťažami umelej inteligencie, a nie so syntetickými skóre: inferenčná priepustnosť, trvalé správanie pri záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov získate so strojom, takže výkon, ktorý vám bol sľúbený, je výkon, ktorý si môžete overiť hneď v prvý deň.
Je server pripravený na spustenie, keď dorazí?
Áno. Každý stroj je pred odoslaním zostavený, otestovaný v praxi a porovnaný s reálnymi záťažami umelej inteligencie. Po odoslaní máme nainštalovaný a spustený LLM. Zapojíte ho, pripojíte k sieti a začnete pracovať – zostáva už len rozhodnutie, ktorý projekt spustíte ako prvý.
Odosielame z nášho skladu v EÚ. Ťažké položky môžu vyžadovať prepravu – kontaktujte nás pre cenovú ponuku na prepravu a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou podporou RMA; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám o vašej pracovnej záťaži a my túto platformu prispôsobíme jej špecifikáciám – grafické karty, pamäť, úložisko a chladenie zodpovedajú tomu, čo skutočne používate.