A Perplexity új GPU-s eljárása gyorsabbá teszi a keresést

A Perplexity mérnökei Ivy, Tulip és ROSE nevű, GPU-kra optimalizált eljárásokat dolgoztak ki az online embedding sebességének növelésére, amelyek felülmúlják a vLLM teljesítményét.