K-AI 768 TurinDuální RTXPro6000MQ 16000TOPS — 8× RTX Pro 6000 Blackwell Max-Q AI Frontier Server (duální Turin)

Špička řady serverů Kentino s umělou inteligencí. Vlajková loď inferenční platformy Frontier pro montáž do racku s osmi grafickými kartami NVIDIA RTX Pro 6000 Blackwell Max-Q s turboventilátorem, které jsou součástí 768 GB ECC VRAM, dvěma procesory AMD EPYC Turin řady 9005 (Zen5c, SP5), 1.5 TB paměti DDR5-4800 ECC (všech 24 kanálů obsazeno), 4 TB NVMe bootovacím rozhraním a 5x 1200W serverovým zdrojem. Komplexní sběrnice PCIe Gen5. Nativní DeepSeek V3 fp8 (~670 GB) na kartě. Kimi-K2 Q4-Q5. Současně rezistence 4 modelů Frontier.

technické vybavení

Co můžete spustit

LLM – text / uvažování / kódování

Čínská hranice v kvantitativní produkci

• Kimi-K2 (Základ / Instrukce / Myšlení) v Q4_K_M / Q5_K_M (~630 GB) pohodlně (~15-25 tok/s single, publikovaná reference) — vlajková loď čínské hranice na jednom boxu v produkčních kvantech
• DeepSeek V3 / R1 / V3.1 / V3.2 při nativní rychlosti FP8 (~670 GB) na kartě (~30-50 tok/s, publikovaná reference) — tenzorová jádra Blackwell FP8 to nativně běží rychlostí
• DeepSeek V3 v Q4_K_M (~404 GB) s více souběžnými instancemi pro velkodávkové obsluhování
• GLM-5 / GLM-5.1 (~745B/44B) ve 3.–4. čtvrtletí (~420–560 GB) pohodlná kapacita na kartě
• Intern-S1-Pro (1T/22B aktivní, SAGE) ve 3. až 4. čtvrtletí (~440–580 GB) pohodlně
• Qwen3-Coder-480B-A35B v 5. až 6. čtvrtletí (~340–400 GB) s 1 milionem ctx
• Qwen3-235B-A22B v bf16 (~470 GB) s velkorysou KV pro dlouhý kontext
• ERNIE-4.5-424B-A47B v 6. čtvrtletí (~360 GB); Hunyuan-velký při 8. frameworku (~390 GB)
• MiniMax-Text-01 / M1 v 5. až 6. čtvrtletí (~325–390 GB)

Západní hranice v produkčních kvantifikacích

• Mistral Large 3 (675B/41B MoE, Apache 2.0) ve 3.-4. čtvrtletí (~317-404 GB) pohodlně (~20-30 tok/s jeden, publikovaná reference)
• Flame 4 Maverick (400 miliard/17 miliard, 128 expertů) v 5.–6. čtvrtletí (~290–350 GB)
• Llama-3.1-Nemotron Ultra 253B v bf16 (~506 GB) na kartě
• Sněhová vločka Arktida v 5. až 6. čtvrtletí (~350–420 GB); Grok-1 v 5. až 6. čtvrtletí (~225–270 GB)
• Instrukce DBRX 132B/36B při bf16 (~264 GB) pro více instancí

Modely vizuální a jazykové komunikace

Vlajková loď VLM Qwen3-VL-235B-A22B s dlouhým kontextem; InternVL3.5-241B-A28B na bf16 (~482 GB); víceinstanční GLM-4.5V / 4.6V 106B bf16; víceinstanční Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; víceinstanční Molmo 72B bf16.

Generování obrazu

HunyuanImage-3.0 Instruct souběžné instance; FLUX.1 multiinstance (~15-20 s na obrázek 1024x1024, publikovaná reference); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0 — plný čínský + západní stack obrazů rezidentní souběžně.

Generování videa

Wan 2.2 T2V-A14B / I2V-A14B — mnoho souběžných streamů; HunyuanVideo 13B bf16 více souběžných streamů; Open-Sora 2.0 (11B) víceinstanční; Mochi-1 (10B) víceinstanční; NVIDIA Cosmos Predict 2 až 14B.

Zvuk / Řeč / TTS

Full stack rezidentní v dávce: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B realtime, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.

Vícemodelové / vícenájemnické služby (určující případ užití)

• Vícenájemní hraniční produkce: 4 modely hraniční třídy nacházející se současně — např. DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — s rozdělenou VRAM a SLO pro jednotlivé klienty
• Souběžná inference Blackwell s nativní frameworkem FP8 (rodina DeepSeek V3 / R1, Hunyuan FP8) + kvantizované obsluhování na samostatných doménách PCIe
• Výzkum A/B modelů napříč 4-5 hraničními modely s otevřenou váhou na výzkumné úrovni
• Agentská platforma s více než 400 miliardami primárních pracovníků a více specialisty s kapacitou 30–70 miliard pracovníků

Cílové úlohy

• Vícenájemní hraniční produkce s otevřenou hmotností – více hraničních modelů nacházejících se současně s izolací na nájemce
• Nasazení umělé inteligence na suverénních hranicích – přístup k DeepSeek V3 FP8 / Kimi-K2 / Mistral Large 3 v místních podmínkách, rezidenční přístup k datům v EU
• Výzkumná laboratoř Frontier s A/B hodnocením napříč 4+ modely s otevřenou váhou na výzkumné úrovni
• Podniková agentní platforma, kde více než 400 miliard nástrojů MoE řídí nástroje + několik specializovaných modelů
• Inference regulovaného odvětví s vzdušnou mezerou v hraničním měřítku s ECC + PCIe Gen5

Publikované reference výkonu

Není ideální pro

• Cenově dostupné implementace – vlajková skladová jednotka za vlajkovou cenu
• Školení od nuly na modelech hraniční třídy — žádný NVLink, pouze PCIe P2P (pro školení v tomto rozsahu je H100/H200 SXM nebo GB200 NVLink fabric tím správným nástrojem)
• Nasazení typu plug-and-play – pohraniční multitenantní služby MoE vyžadují zkušený tým MLOps

Záruka a dodací lhůta

Sestavení zahrnuje assembly, konfiguraci BIOSu, instalaci ovladačů, zapálení, memtest, funkční ověření, ladění NUMA a nastavení prostředí LLM (vLLM / SGLang / llama.cpp / CUDA 13 stack s jádry FP8 Blackwell). Dodací lhůta závisí na dostupnosti komponent, která bude potvrzena při objednávce.

Doporučené doplňky

• Síťová karta NVIDIA ConnectX-5 MCX555A-ECAT nebo ConnectX-7 Gen5 100 GbE pro horizontální škálování s více uzly
• Mellanox ConnectX-6 25 GbE SFP28 pro datová centra
• Druhý 4TB NVMe disk pro datovou sadu / knihovnu modelů (kontrolní body na hranicích jsou velké – samotný Kimi-K2 bf16 má ~1 TB)
• Plná 24U racková skříň s perforovanými předními dveřmi a řízeným PDU
• Online UPS 10 kVA (plynulé vypnutí při výpadku napájení)