Csak 3 milliárd paramétert aktivál az NVIDIA Nemotron 3.5 Lightning

Az NVIDIA Nemotron 3.5 Lightning modellje 30 milliárd paraméteréből tokenenként mindössze 3 milliárdot használ, ami a Mixture-of-Experts (MoE) architektúrának köszönhető.