W skrócie
- RAM to robocza pamięć komputera; model AI, który nie mieści się w pamięci karty graficznej, może korzystać z RAM, ale zwykle działa wtedy wolniej.
- Do nauki i prostych zadań 16 GB bywa wystarczające, ale 32 GB daje wyraźnie więcej luzu.
- 64 GB i więcej ma sens przy większych modelach, lecz pojemność nie oznacza pełnej szybkości.
- Więcej pamięci zwykle pomaga bardziej niż szybszy procesor, bo model bez miejsca w ogóle się nie uruchomi.
- Zanim kupisz sprzęt, sprawdź, czy RAM da się rozbudować, bo w wielu laptopach i Macach ilość pamięci ustala się na starcie.
Czym jest RAM, a czym VRAM
RAM to pamięć operacyjna komputera, czyli miejsce, w którym system, programy i otwarte okna trzymają swoje dane podczas pracy. Najprościej porównać ją do blatu w kuchni: im większy blat, tym więcej składników leży pod ręką naraz. Nie chodzi o to, gdzie coś jest na stałe, tylko o to, co jest dostępne w danej chwili.
VRAM to pamięć wbudowana w kartę graficzną. Jest bardzo szybka, bo karta pracuje nad nią bezpośrednio, dlatego narzędzia AI chętnie ładują tam model. Wiele osób myli te dwie pamięci, a w lokalnym AI to rozróżnienie wpływa na prędkość i na to, jaki model w ogóle uruchomisz.
Model językowy to w praktyce plik zawierający ogromną liczbę liczb zwanych parametrami. Żeby odpowiadać, program musi mieć ten plik w pamięci przez cały czas rozmowy. Jeśli nie ma na to miejsca w VRAM, pozostała część trafia do RAM.
Kiedy model mieści się w karcie, a kiedy korzysta z RAM
Jeśli model w całości mieści się w VRAM, odpowiedzi pojawiają się najszybciej. Gdy na karcie brakuje miejsca, część modelu zostaje w RAM, a procesor musi ją obsłużyć. Działa to, ale każde słowo odpowiedzi przychodzi wolniej.
Komputer bez dedykowanej karty graficznej, na przykład laptop biurowy albo mini PC, pracuje w całości na procesorze i pamięci RAM. Wtedy ilość RAM przestaje być dodatkiem, bo to ona określa, jaki model w ogóle da się uruchomić.
Różnica w szybkości bywa duża, ale nie podaję tu konkretnych liczb, bo zależą od modelu, programu i sprzętu. Zasada jest prosta: im więcej pracy wykonuje procesor zamiast karty, tym dłużej czekasz na odpowiedź.
- Model cały w VRAM: najszybciej, ale wymaga karty z odpowiednio dużą pamięcią.
- Model podzielony między VRAM i RAM: działa, ale wolniej.
- Model tylko w RAM, na procesorze: najbardziej dostępne rozwiązanie, zwykle najwolniejsze.
Jak oszacować, ile pamięci zajmie model
Najprostsze przybliżenie opiera się na dwóch liczbach: liczbie parametrów modelu i poziomie kompresji zwanym kwantyzacją. Liczbę parametrów podaje się w miliardach, więc zapis 7B oznacza około 7 miliardów parametrów. Kwantyzacja zmniejsza dokładność zapisu liczb, dzięki czemu model zajmuje mniej miejsca. Popularne są zapisy na 4 albo 8 bitach.
Przykład dla modelu 7B zapisanego na 4 bitach: 7 miliardów razy 4 bity to 28 miliardów bitów, czyli około 3,5 GB po podzieleniu przez 8. Do tego dochodzi zapas na kontekst, czyli pamięć na to, co model aktualnie czyta i pisze, oraz na sam program. W praktyce potrzebujesz więcej niż sam plik.
Ta metoda daje przybliżenie, a nie gwarancję. Każde narzędzie liczy to trochę inaczej. Traktuj wynik jako punkt wyjścia i sprawdź opis konkretnego modelu oraz wymagania programu, z którego korzystasz.
- Odczytaj liczbę parametrów z nazwy modelu, na przykład 7B, 14B albo 32B.
- Pomnóż ją przez liczbę bitów kwantyzacji i podziel przez 8, żeby otrzymać gigabajty.
- Dolicz zapas na narzędzie, system i długie rozmowy, często kilka gigabajtów.
Orientacyjne scenariusze: 16, 32, 64 GB i więcej
Poniższe scenariusze to wskazówki, a nie obietnice. Zakładają modele zapisane w popularnej kwantyzacji 4-bitowej i uwzględniają, że system oraz przeglądarka również zajmują pamięć. Wynik zależy od sprzętu, programu i ustawień, więc potraktuj go jako punkt wyjścia do własnych testów.
Przy 16 GB z całej pamięci na model realnie zostaje kilka lub kilkanaście gigabajtów, bo reszta idzie na system i przeglądarkę. Zwykle mieszczą się tam małe modele klasy 7B–8B, a większe robią się ciasne. To dobry start do nauki i prostych zadań, ale bez zapasu na dłuższe rozmowy i większe dokumenty.
32 GB to wygodniejszy próg. Modele 7B–14B działają z zapasem, a niektóre modele klasy 30B da się uruchomić, choć często na granicy możliwości. Do streszczania tekstów, pisania maili czy pomocy przy prostym kodzie to rozsądny wybór dla większości domowych i biurowych zastosowań.
64 GB pozwala na modele klasy 30B z zapasem oraz na większe, na przykład 70B w kwantyzacji 4-bitowej. Ten drugi przypadek zmieści się, ale ciasno, a bez mocnej karty graficznej będzie wolno. Pojemność rośnie szybciej niż komfort pracy.
128 GB i więcej to sprzęt dla osób, które pracują z dużymi modelami na co dzień, na przykład w małej firmie albo w badaniach. Ta pojemność nie przyspiesza odpowiedzi. Daje możliwość załadowania większych modeli, a szybkość nadal zależy od procesora i karty.
- 16 GB: nauka, małe modele i krótkie zadania; przy większych plikach robi się ciasno.
- 32 GB: wygodne modele 7B–14B, rozsądny wybór do pracy domowej i biurowej.
- 64 GB: większe modele z zapasem, ale bez mocnej karty bywają bardzo powolne.
- 128 GB i więcej: duże modele i wiele zadań naraz, raczej dla zaawansowanych użytkowników.
Dlaczego więcej RAM zwykle daje więcej niż szybszy procesor
Wyobraź sobie szybkiego kucharza w małej kuchni. Potrafi szybko kroić i smażyć, ale jeśli nie ma blatu, na którym zmieszczą się wszystkie składniki, będzie biegał do lodówki. Procesor to kucharz, a RAM to blat. Model, który nie mieści się w pamięci, nie jest tylko wolniejszy, bo często w ogóle nie wystartuje albo ciągle przerzuca dane.
Dlatego, gdy budżet jest ograniczony, rada brzmi: lepiej więcej pamięci niż szybszy procesor. Mocniejszy procesor przyspieszy pracę, ale tylko wtedy, gdy model się zmieści. Przejście z 16 do 32 GB otwiera zupełnie inne modele, a lepszy procesor zwykle poprawia komfort mniej.
Są wyjątki. Jeśli masz dużo pamięci, a odpowiedzi nadal są powolne, wąskim gardłem może być procesor albo karta graficzna. Wtedy sprawdź, co dokładnie spowalnia pracę. Gdy 64 GB to dla Ciebie za dużo, rozważ też usługę w chmurze, którą opisujemy osobno. Procesorom i jednostkom NPU poświęcamy osobne poradniki w tym dziale.
RAM w laptopie, komputerze stacjonarnym i Macu
W komputerze stacjonarnym zwykle da się dołożyć lub wymienić moduły RAM, o ile płyta ma wolne sloty i obsługuje większe kości. Zanim kupisz pamięć, sprawdź w dokumentacji płyty głównej, ile maksymalnie obsługuje i jakiego typu jest RAM. Szczegóły o slotach są w osobnym poradniku.
W wielu laptopach pamięć jest wlutowana na stałe albo zamontowana jako jedna kość, której nie da się rozszerzyć. Przed zakupem sprawdź, czy producent podaje możliwość rozbudowy. Informacje znajdziesz w karcie produktu i na stronie producenta.
Mac z Apple Silicon działa inaczej. Część pamięci jest zunifikowana, co znaczy, że procesor i układ graficzny korzystają z tej samej puli. Ilość pamięci ustala się w praktyce przy zakupie, więc wybór 16 czy 32 GB to decyzja na lata. Tę kwestię omawiamy w poradnikach o Macu do AI.
Na allee.pl możesz porównywać oferty laptopów i komputerów, ale patrz nie tylko na nazwę procesora. W opisie szukaj pojemności RAM, typu pamięci i informacji o rozbudowie.
Jak sprawdzić, ile pamięci naprawdę zużywasz
Zanim kupisz nowy sprzęt, zobacz, ile pamięci już pracuje. W Windows otwórz Menedżera zadań, a w zakładce Wydajność znajdziesz informacje o użytej i dostępnej pamięci. W macOS użyj programu Monitor aktywności, w którym zakładka Pamięć pokazuje, co zajmuje RAM.
Sprawdź też, ile pamięci zjadają przeglądarka z dziesiątkami kart, komunikatory i programy działające w tle. Zamknięcie kilku niepotrzebnych rzeczy często daje więcej miejsca niż dokładanie gigabajtów. To proste, a bywa pomijane.
Obserwuj zużycie podczas rozmowy z modelem, a nie tylko po jego uruchomieniu. Długie teksty wymagają więcej pamięci na kontekst, więc zużycie rośnie w czasie.
- Przed uruchomieniem modelu zapisz, ile pamięci jest wolne w narzędziu systemowym.
- Uruchom model i zadaj mu typowe pytanie z Twojej pracy.
- Sprawdź szczytowe zużycie podczas dłuższej rozmowy.
- Porównaj wynik z dostępną pamięcią i zostaw zapas.
Typowe błędy i lista kontrolna przed zakupem
Najczęstszy błąd to kupowanie sprzętu na podstawie nazwy procesora albo wyglądu obudowy, a pamięć traktowana jako dodatek. Drugi to wybór 16 GB do zadań, które od początku będą wymagały większych modeli, a później trzeba wymieniać cały sprzęt.
Trzeci błąd to zakładanie, że cała pojemność z pudełka jest dostępna dla modelu. System i programy zabierają swoją część. Czwarty to myślenie, że 64 GB automatycznie przyspieszy odpowiedzi. Pojemność pozwala załadować model, ale nie zastępuje szybkiej karty graficznej.
Pamiętaj o bezpieczeństwie. Lokalny model zwykle działa bez wysyłania rozmów na zewnętrzne serwery, ale sprawdź ustawienia narzędzia. Mimo to nie wpisuj haseł, numerów PESEL, danych medycznych ani cudzych danych osobowych bez zgody. Odpowiedzi AI sprawdzaj przed użyciem, zwłaszcza w pracy i przy sprawach ważnych dla zdrowia lub finansów. AI nie zastępuje lekarza ani doradcy.
- Sprawdź, jakie modele chcesz uruchamiać i ile mają parametrów.
- Policz orientacyjne zapotrzebowanie według zasady z poradnika i dolicz zapas.
- Ustal, czy RAM można później rozbudować, zanim kupisz laptop lub moduły.
- Zostaw miejsce na system, przeglądarkę i długie rozmowy.
- Porównaj oferty, sprawdzając pojemność i typ pamięci w opisie, a nie tylko procesor.
- Zanim dopłacisz, ustal, czy problem to pamięć, czy procesor albo karta graficzna.
Najczęstsze pytania
Ile RAM potrzeba do AI na laptopie?
Do nauki i mniejszych modeli zwykle wystarcza 16 GB, ale 32 GB daje znacznie wygodniejszą pracę. Dokładna liczba zależy od modelu, sposobu kompresji i tego, co działa obok. Sprawdź wymagania konkretnego narzędzia i policz zapas według zasady z tego poradnika.
Czy 16 GB RAM wystarczy do lokalnego AI?
Tak, do prostych zastosowań i mniejszych modeli, zwłaszcza gdy masz dedykowaną kartę graficzną z własną pamięcią. Przy większych modelach pamięć będzie ciasna, a odpowiedzi wolniejsze. Jeśli planujesz więcej, rozważ 32 GB.
Czy RAM jest ważniejszy niż karta graficzna?
Nie zawsze, ale oba elementy są często równie istotne. Karta z dużą pamięcią VRAM daje najszybsze działanie, a RAM przejmuje resztę, gdy na karcie zabraknie miejsca. Bez wystarczającej pamięci model się nie uruchomi, a bez mocnej karty będzie wolno.
Czy da się dołożyć RAM do laptopa?
Zależy od modelu. Część laptopów ma wolne sloty, a w innych pamięć jest wlutowana na stałe. Sprawdź dokumentację producenta, zanim kupisz laptop albo moduły. W Macach ilość pamięci zwykle ustala się przy zakupie.
Czy 64 GB RAM to przesada dla AI?
Dla wielu osób tak, bo mniejsze modele działają wygodnie już przy 32 GB. Sens 64 GB pojawia się, gdy chcesz uruchamiać duże modele lokalnie i akceptujesz, że bez mocnej karty graficznej mogą pracować wolniej.