Nvidia Blackwell Ultra GB300: messze megelőzi elődjét a DeepSeek használata során!
TECH HÍREK – A GB300 jelentős teljesítménybeli növekedést mutat fel a GB200-as MI-rackekhez képest. Az Nvidia GB300 NVL72 MI-rackjeit a DeepSeek legújabb nyílt forráskódú modelljein tesztelték, és a finomhangolás és az optimalizált következtetés révén az eredmények valóban ígéretesek. A GB300 esetében az Nvidia elsődleges célja az optimális hosszú kontextusú teljesítmény biztosítása volt, hogy kihasználhassa az ügynöki MI hullámát. A Large Model Systems Organization (LMSYS) tesztelte a GB300 NVL72-t hosszú kontextusú következtetés szempontjából, és az eredmények rendkívül ígéretesnek tűnnek. A tesztelés magában foglalja az infrastruktúra szintű szoftveres útválasztást is. Mivel a hosszú kontextusú munkaterheléseknél a nyomás inkább a GPU VRAM felé tolódik el, az LMSYS csapata integrálta a PD (Prefill-Decode) Disaggregationt, egy széles körben használt mechanizmust a nagyméretű token kontextus fenntartására. A PD Disaggregation segítségével… Olvasd tovább... Nvidia Blackwell Ultra G...
Hamarosan átirányítunk a teljes cikkhez → theGeek