Nvidia Blackwell Ultra: új szintre emelt „ügynöki MI”
TECH HÍREK – Szóval ahelyett, hogy a GeForce RTX 5000 Super kártyákra koncentrált volna az Nvidia, az MI-re koncentrál… Az MI-iparág 2022-es eredeti fellendülése óta több rétegben fejlődött, és jelenleg egy jelentős átállás figyelhető meg az „ügynöki” számítás felé, amelyet a határmodelleken alapuló alkalmazások, wrapperek hajtanak elő. Ugyanakkor az Nvidiahoz hasonló infrastruktúra-szolgáltatók számára egyre fontosabbá vált, hogy elegendő memória sávszélességgel és teljesítménnyel rendelkezzenek az ügynöki keretrendszerek késleltetési követelményeinek teljesítéséhez, és a Blackwell Ultra segítségével a cég pontosan ezt tette. Egy új blogbejegyzésben az Nvidia tesztelte a Blackwell Ultrat a SemiAnalysis InferenceMAX-án, és az eredmények lenyűgözőek. Az Nvidia első infografikája egy „token/watt” nevű értéket emel ki, amely valószínűleg az egyik legfontosabb szám a világon, amit a jelenlegi hyperscaler-kialakítás mellett figyelembe kell venni. A cég mind… Olvasd tovább... Nvidia Blac...
Hamarosan átirányítunk a teljes cikkhez → theGeek