Az NVIDIA Dynamo másodpercekre csökkenti az LLM-kiesés helyreállítási idejét

A GPU Memory Service (GMS) segítségével a modell súlyai megmaradnak a folyamatok meghibásodása során, így az élettartamuk független a motorfolyamatoktól, ami lehetővé teszi a közel azonnali átkapcsolást.