Počítač 70B L40

technické údaje

• GPU: 6x NVIDIA L40 (celkom 288 GB VRAM)
• Základná doska: ASRock Rack ROMED8-2T
• CPU: AMD EPYC 7542
• RAM: 512 GB SK Hynix 2666 MHz REG ECC DDR4 LRDIMM (8 x 64 GB)
• Pripojenie GPU k základnej doske: Kábel RYSER PCIe 4.0 x16
• Zdroj: 2x AX1600i 1000W
• Vec: Montážna konzola 4U
• Skladovanie:
  • 2TB NVMe SSD
  • 500 GB SATA disk

kľúčové vlastnosti

1. Vysokovýkonný GPU Compute: Vybavený 6 GPU NVIDIA L40, ktoré poskytujú celkovo 288 GB VRAM pre náročné úlohy AI, strojového učenia a vizualizácie.
2. Komponenty serverovej triedy: Obsahuje spoľahlivú základnú dosku ASRock Rack ROMED8-2T a výkonný procesor AMD EPYC 7542 pre výnimočné možnosti spracovania.
3. Dostatok pamäte: 512 GB vysokorýchlostnej pamäte SK Hynix DDR4 RAM zaisťuje plynulý multitasking a efektívne spracovanie dát pre komplexné výpočty.
4. Vysokorýchlostná integrácia GPU: Využíva kábel RYSER PCIe 4.0 x16 na rýchle pripojenie s plnou šírkou pásma medzi GPU a základnou doskou, čo zaisťuje optimálny výkon a rýchlosť prenosu dát.
5. Robustný napájací zdroj: Duálne jednotky AX1600i 1000 W poskytujú stabilné a dostatočné napájanie na podporu vysokovýkonných komponentov pri veľkom zaťažení.
6. Rozšíriteľné úložisko: Dodáva sa s rýchlym 2TB NVMe SSD pre primárne úložisko a dodatočným 500 GB SATA diskom pre extra kapacitu.
7. Profesionálne chladenie: Umiestnené v priestrannej 24U skrinke pre montáž do racku, ktorá poskytuje optimálne prúdenie vzduchu a tepelné riadenie pre trvalú vysokovýkonnú prevádzku.
8. Všestranná konfigurácia: Navrhnuté pre širokú škálu vysokovýkonných výpočtových úloh, od AI a strojového učenia až po profesionálnu vizualizáciu a vykresľovanie.

Ideálne prípady použitia

• Vyvodenie veľkého jazykového modelu (napr. modely s parametrami 70B)
• Výskum AI a strojového učenia
• Analýza a vizualizácia údajov
• Profesionálne 3D vykresľovanie a animácie
• Vedecké simulácie
• High-Performance Computing (HPC) aplikácie
• Počítačové videnie a spracovanie obrazu
• Finančné modelovanie a analýza rizika

Osobitné poznámky

• Optimalizované pre 70B modely: S 288 GB celkovej GPU VRAM je tento systém špeciálne navrhnutý na spracovanie veľkých jazykových modelov s až 70 miliardami parametrov, vďaka čomu je ideálny pre špičkový výskum a aplikácie AI.
• Výhoda NVIDIA L40: GPU L40 ponúkajú rovnováhu medzi výpočtovým výkonom a pamäťou, vhodné pre širokú škálu úloh AI, HPC a profesionálnej vizualizácie.
• Výkon PCIe 4.0: Kábel RYSER PCIe 4.0 x16 zaisťuje, že každý GPU môže pracovať s plnou šírkou pásma, čím sa maximalizuje priepustnosť dát a minimalizuje sa oneskorenie.
• Škálovateľný dizajn: Aj keď je tento systém optimalizovaný pre modely s parametrami 70B, možno ho jednoducho škálovať alebo zoskupiť pre ešte väčšie pracovné zaťaženie alebo prostredia s viacerými používateľmi.

Počítač 70B L40 predstavuje výkonné a všestranné riešenie pre organizácie a výskumníkov pracujúcich s veľkými modelmi AI, najmä v oblasti spracovania a generovania prirodzeného jazyka. Vďaka vyváženej konfigurácii GPU NVIDIA L40, CPU AMD EPYC a vysokorýchlostnej pamäti je vhodný pre širokú škálu vysokovýkonných výpočtových úloh nad rámec AI, vrátane vedeckých simulácií, analýzy údajov a profesionálnej vizualizácie.

Dodanie 2-6 týždňov