Experiment: R1-671B-Modells in Multi-GPU-Clustern
Für den Betrieb des DeepSeek-R1-671B-Modells in Multi-GPU-Clustern sind folgende Spezifikationen erforderlich:
1. GPU-Konfiguration (Minimum)
Komponente
Anforderung
GPU-Typ
NVIDIA A100/H100 80GB (16–24 Chips)
VRAM