NVIDIA CMP 170HX 64 GB HBM2e (upravená, po ťažbe)
Platforma podnikovej triedy, zostavená a testovaná v EÚ.
NVIDIA CMP 170HX 64 GB HBM2e — lacná VRAM pre rezidentnú inferenciu
CMP 170HX s procesorom GA100 a pamäťou rozšírenou na 64 GB HBM2e. Za 1 600 eur je to zhruba 25 eur za gigabajt vysokorýchlostnej VRAM – približne pätina ceny profesionálnych kariet s veľkou VRAM. Ide o upravený hardvér so skutočnými obmedzeniami, ktoré vám pred kúpou vysvetlíme nižšie.
Čo táto karta je – a čo nie je
Kartu CMP 170HX predávala spoločnosť NVIDIA ako špecializovanú kartu na ťažbu: orezaná verzia GA100 s PCIe pripojením zámerne uzamknutým na PCIe 1.0 a obmedzenou väčšinou funkcií zobrazenia a výpočtu. Tieto jednotky boli dodatočne upravené tak, aby niesli 64 GB HBM2e. Vďaka tomu sú nezvyčajne lacným spôsobom, ako uchovávať veľký model výlučne vo vysokopásmovej pamäti – a zlou voľbou pre čokoľvek, čo závisí od rýchlych prenosov hostiteľa, škálovania viacerých GPU alebo trénovania.
Prečo je možnosť ×16 o 150 € drahšia
Obe verzie sú uzamknuté na signalizáciu PCIe 1.0 – túto časť nemožno vrátiť späť. Rozdiel je v počte línií, čo mení šírku pásma medzi hostiteľom a kartou 4×:
| PCIe 1.0 ×4 – 1 750 € | ~1 GB/s · naplnenie 64 GB trvá približne minútu |
| PCIe 1.0 ×16 – 1 750 € | ~4 GB/s · naplnenie 64 GB trvá približne 15 sekúnd |
Technické údaje
| GPU | NVIDIA GA100 — Ampér |
| Memory Masážne stoly | 64 GB HBM2e (upravená – nie je to štandardná konfigurácia) |
| Vypočítať | Čiastočne odpojené vs A100 – orientované na kapacitu, nie na priepustnosť |
| Rozhranie | PCIe 1.0 ×4 alebo PCIe 1.0 ×16 (vyberte vyššie) |
| Šírka pásma hostiteľa | ~1 GB/s (×4) · ~4 GB/s (×16) |
| Výstupy displeja | Žiadne – iba výpočet |
| Chladenie | Pasívne – vyžaduje prúdenie vzduchu z šasi |
| Podmienka | Použité, z baníctva – testované pred odoslaním |
| Záručný list | 6 mesiacov |
| Záruka – upravená VRAM | 14 dní |
Kam sa to hodí
- Obsluha jedného veľkého modelu, ktorý zostáva rezidentne vo VRAM – načíta sa raz, beží hodiny.
- Experimentovanie s veľkými modelmi s obmedzeným rozpočtom, kde ide o 64 GB za 1 600 €.
- Dávkové inferenčné úlohy, ktoré sú viazané na VRAM, a nie na prenos.
- Učenie a vývoj na rozsiahlych modelových pracovných postupoch bez výdavkov na dátové centrá a grafické procesory.
Kde sa to nehodí
- Tréning alebo doladenie – PCIe 1.0 a znížený výpočtový výkon pracujú proti vám.
- Viacnásobné tenzorovo-paralelné konfigurácie GPU – prepojenie je príliš pomalé.
- Úlohy, ktoré nepretržite streamujú dáta z hostiteľskej pamäte alebo disku.
- Čokoľvek, čo vyžaduje výstup na displej, alebo kartu, na ktorú sa môžete spoľahnúť počas rokov produkčnej prevádzky.
Často kladené otázky
Prečo je záruka na VRAM iba 14 dní?
Keďže konfigurácia pamäte 64 GB je úprava z dodatočného trhu, hardvér nebol nikdy navrhnutý. Každú kartu pred odoslaním testujeme, ale nebudeme predstierať, že upravený pamäťový subsystém má rovnakú dlhodobú záruku ako originálny diel. Samotná karta je krytá zárukou 6 mesiacov; upravená pamäť VRAM 14 dní. Hneď po doručení ju riadne otestujte.
Uvidí môj framework všetkých 64 GB?
V našich testoch je plná kapacita adresovateľná, čo je hlavný dôvod, prečo si túto kartu kúpiť. Výpočtová kapacita je iná vec – v porovnaní so skutočným A100 je čiastočne obmedzená a karty sa medzi jednotlivými jednotkami líšia. Pred objednaním nám povedzte, aké zamýšľané pracovné zaťaženie máte, a my vám priamo odpovieme, či je to pre vás správna kúpa.
Môžem získať plne odomknutú kartu?
Niektoré jednotky sú menej obmedzené ako iné, ale je to skutočne lotéria a nepredáme vám sľub, ktorý nemôžeme dodržať. Objednajte si na základe 64 GB VRAM za nízku cenu; čokoľvek nad túto cenu berte ako bonus.
Môžem ich prevádzkovať viacero na jednom stroji?
Fyzicky môžete a každá karta si ponechá vlastných 64 GB, takže nezávislé úlohy na kartu fungujú. Čo nefunguje dobre, je rozdelenie jedného modelu medzi karty – PCIe 1.0 robí tenzorovo-paralelnú komunikáciu úzkym hrdlom.
Potrebuje to špeciálne chladenie?
Áno. Je to pasívna karta bez vlastného ventilátora a očakáva sa serverová skriňa so správnym prúdením vzduchu spredu dozadu. V bežnej stolovej skrini sa prehrieva.
Ako sa to porovnáva s kúpou profesionálnej karty?
Pokiaľ ide o cenu VRAM, nič sa jej ani zďaleka nepribližuje – zhruba 25 €/GB oproti približne 141 €/GB za 96 GB RTX PRO 6000. Pokiaľ ide o spoľahlivosť, výpočtový výkon, záruku, šírku pásma PCIe a ďalší predaj, profesionálna karta vyhráva vo všetkých ohľadoch. Vyberte si podľa toho, na čom z toho vám záleží.
Odosielame z nášho skladu v EÚ. Ťažké položky môžu vyžadovať prepravu – kontaktujte nás pre cenovú ponuku na prepravu a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou podporou RMA; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám o vašej pracovnej záťaži a my túto platformu prispôsobíme jej špecifikáciám – grafické karty, pamäť, úložisko a chladenie zodpovedajú tomu, čo skutočne používate.