NVIDIA CMP 170HX 64 GB HBM2e (upravená, po těžbě)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, po těžbě)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, po těžbě)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, po těžbě)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, po těžbě)
Kentino · Vlastní server s umělou inteligencí

NVIDIA CMP 170HX 64 GB HBM2e (upravená, po těžbě)

Platforma podnikové úrovně, sestavená a testovaná v EU.

€1.600,00bez DPH · poštovné se vypočítá při platbě
Skladem — odesíláme ze skladu v EU
ISO 9001 · ověřený hardwareSklad v EU a záruka7+ let zkušeností s podnikovou umělou inteligencíTestováno zapálením před odesláním
Přehled
Doprava a záruka
Upravený · Z těžby · 64 GB HBM2e

NVIDIA CMP 170HX 64 GB HBM2e — levná VRAM pro rezidentní inferenci

Grafická karta CMP 170HX s procesorem GA100 a pamětí rozšířenou na 64 GB HBM2e. Za 1 600 eur to představuje zhruba 25 eur za gigabajt vysokorychlostní VRAM – zhruba pětinu ceny profesionálních karet s velkým objemem VRAM. Jedná se o upravený hardware se skutečnými omezeními, která vám před nákupem níže vysvětlíme.

64 GB
HBM2e VRAM
GA100
Grafický procesor Ampere
~ 25 €/GB
Cena VRAM
PCIe 1.0
×4 nebo ×16 článek
Nejdříve si přečtěte toto

Co tato karta je – a co není

Kartu CMP 170HX prodávala společnost NVIDIA jako specializovanou kartu pro těžbu: zjednodušenou verzi GA100 s PCIe propojením záměrně uzamčeným na PCIe 1.0 a omezenou většinou zobrazovacích a výpočetních funkcí. Tyto jednotky byly následně upraveny tak, aby pojaly 64 GB HBM2e. Díky tomu jsou neobvykle levným způsobem, jak uchovávat velký model výhradně ve vysokorychlostní paměti – a špatnou volbou pro cokoli, co je závislé na rychlých přenosech hostitele, škálování více GPU nebo trénování.

Jedná se o upravený hardware, který pracuje mimo zamýšlenou konfiguraci. Výpočetní výkon je ve srovnání s plnohodnotným A100 částečně oddělený, proto jako důvod k nákupu berte kapacitu VRAM – nikoli propustnost. Jednotlivé karty se liší: některé jsou plně odemčené než jiné a nemůžeme zaručit, jakou z nich dostanete. Pokud potřebujete zaručený a předvídatelný výpočetní výkon, kupte si místo toho RTX PRO 6000 nebo řádnou kartu do datového centra a my vám rádi zašleme cenovou nabídku.
Limit PCIe

Proč varianta ×16 stojí o 150 € více

Obě verze jsou vázány na signalizaci PCIe 1.0 – tuto část nelze vrátit zpět. Rozdíl je v počtu linek, což mění šířku pásma mezi hostitelem a kartou 4×:

PCIe 1.0 ×4 — 1 750 € ~1 GB/s · naplnění 64 GB trvá zhruba minutu
PCIe 1.0 ×16 — 1 750 € ~4 GB/s · zaplnění 64 GB trvá zhruba 15 sekund
Jakmile jsou váhy uloženy ve VRAM, inference probíhá z HBM2e a linka PCIe už téměř nehraje roli. Rychlost linky dominuje. doba načítání modelu, streamování hostitele a zařízení a jakákoli komunikace mezi více GPU. Pokud model načtete jednou a zpracováváte ho celé hodiny, ×4 je v pořádku. Pokud modely často střídáte, streamujete data nepřetržitě nebo plánujete rozdělit model na více karet, zaplaťte 150 €.
Obě možnosti pocházejí ze stejné šarže karet – konverzi na ×16 provádíme interně před odesláním, což je cena 150 EUR. U objednávek ×16 počítejte s trochou času na konverzi a opětovné testování.
TECHNICKÉ ÚDAJE

Technické údaje

GPU NVIDIA GA100 — Ampere
Memory 64 GB HBM2e (upravená – nejedná se o standardní konfiguraci)
Vypočítat Částečně fúzováno vs. A100 – orientováno na kapacitu, nikoli na propustnost
Rozhraní PCIe 1.0 ×4 nebo PCIe 1.0 ×16 (vyberte výše)
Šířka pásma hostitele ~1 GB/s (×4) · ~4 GB/s (×16)
Výstupy displeje Žádné – pouze výpočet
Chlazení Pasivní – vyžaduje proudění vzduchu z šasi
Stav Použité, z důlního závodu – před odesláním otestováno
Záruční karta 6 měsíců
Záruka – upravená VRAM 14 dní
Nejlepší pro

Kam se to hodí

  • Obsluha jednoho velkého modelu, který zůstává rezidentní ve VRAM – načte se jednou, běží hodiny.
  • Experimentování s velkými modely s omezeným rozpočtem, kde je 64 GB za 1 600 eur hlavním cílem.
  • Dávkové inferenční úlohy, které jsou vázány na VRAM, nikoli na přenos.
  • Učení a vývoj na rozsáhlých modelových pracovních postupech bez výdajů na datová centra a grafické procesory.

Kam se to nehodí

  • Trénování nebo jemné ladění – PCIe 1.0 a snížené výpočetní nároky hrají proti vám.
  • Vícenásobné tenzorově paralelní uspořádání GPU – propojení je příliš pomalé.
  • Úlohy, které nepřetržitě streamují data z paměti nebo disku hostitele.
  • Cokoli, co potřebuje výstup na displej, nebo kartu, na kterou se můžete spolehnout po mnoho let produkčního provozu.
otázky

Nejčastější dotazy

Proč je záruka na VRAM pouze 14 dní?

Protože konfigurace paměti 64 GB je modifikací dodatečně vyráběnou, hardware pro ni nikdy nebyl navržen. Každou kartu před odesláním testujeme, ale nebudeme předstírat, že upravený paměťový subsystém má stejnou dlouhodobou záruku jako originální díl. Na samotnou kartu se vztahuje záruka 6 měsíců, na upravenou paměť VRAM 14 dní. Jakmile kartu dorazí, řádně ji otestujte.

Uvidí můj framework všech 64 GB?

V našich testech je plná kapacita adresovatelná, což je jediný důvod, proč si tuto kartu koupit. Výpočetní kapacita je jiná věc – ta je u skutečného A100 částečně omezená a karty se u jednotlivých modelů liší. Před objednáním nám sdělte, jaké pracovní zatížení plánujete, a my vám dáme přímou odpověď, zda je to pro vás ta správná koupě.

Můžu získat plně odemčenou kartu?

Některé jednotky jsou méně omezené než jiné, ale je to skutečně loterie a my vám neprodáme slib, který nemůžeme dodržet. Objednejte si na základě 64 GB VRAM za nízkou cenu; cokoli nad tuto cenu berte jako bonus.

Můžu jich provozovat několik na jednom stroji?

Fyzicky to jde a každá karta si ponechává vlastních 64 GB, takže nezávislé úlohy na kartě fungují. Co ale nefunguje dobře, je rozdělení jednoho modelu mezi karty – PCIe 1.0 značně překáží tenzorově paralelní komunikaci.

Potřebuje to speciální chlazení?

Ano. Je to pasivní karta bez vlastního ventilátoru a očekává serverovou skříň s řádným prouděním vzduchu zepředu dozadu. V běžné stolní skříni se přehřívá.

Jak se to srovnává s koupí profesionální karty?

Co se týče ceny VRAM, nic se jí ani zdaleka neblíží – zhruba 25 EUR/GB oproti 96GB RTX PRO 6000 s kapacitou přibližně 141 EUR/GB. Co se týče spolehlivosti, výpočetního výkonu, záruky, šířky pásma PCIe a dalšího prodeje, profesionální karta vítězí ve všech ohledech. Vyberte si podle toho, na čem vám záleží.

Nejste si jisti, zda je tato karta pro vaši pracovní zátěž ta pravá? Sdělte nám model a jak jej chcete používat, a my vám upřímně řekneme, zda je tato, nebo sestavení s umělou inteligencí od Kentina, vhodnější.

Odesíláme z našeho skladu v EU. Těžké zboží může vyžadovat přepravu – kontaktujte nás pro cenovou nabídku a dodací lhůtu. Dvouletá omezená záruka s pokročilou podporou RMA; k dispozici je prodloužená záruka.

Není to přesně to, co potřebujete?

Sdělte nám svou pracovní zátěž a my tuto platformu specifikujeme podle ní – grafické karty, paměť, úložiště a chlazení budou odpovídat tomu, co skutečně používáte.