Przejdź do treści

Słownik technologii allee

Co to jest Mixture-of-experts?

Architektura, w której przy każdym tokenie aktywna jest tylko część parametrów modelu. Obniża koszt obliczeń, ale nie zmniejsza wymaganej pamięci.

Artykuły, w których pada to pojęcie

Pojęcia z tych samych artykułów

Cały słownik