RISC-V alapokon nyugvó egykártyás gép(ek) a Banana Pi konyhájából
A legfeljebb 60 TOPS-os újoncok 30 milliárd paraméteres LLM modelleket futtathatnak, másodpercenként legalább 10 token generálásával.
- Hirdetés -
- Hirdetés -
A legfeljebb 60 TOPS-os újoncok 30 milliárd paraméteres LLM modelleket futtathatnak, másodpercenként legalább 10 token generálásával.
- Hirdetés -