W skrócie
- Model AI jest w praktyce dużym plikiem: model o 7 miliardach parametrów w mocno skompresowanym zapisie zajmuje kilka GB, a większe modele liczy się w dziesiątkach GB.
- Szybki dysk SSD skraca czas wczytywania modelu do pamięci z minut do kilkudziesięciu sekund, ale podczas samego generowania odpowiedzi kluczowe są RAM i karta graficzna.
- Osobny dysk na modele chroni dysk systemowy przed zapełnieniem i ułatwia reinstalację systemu oraz przenoszenie danych na inny komputer.
- Wybierając dysk, zwracaj uwagę na interfejs, typ komórek pamięci i zapas wolnego miejsca, a aktualne parametry sprawdzaj u producenta, bo zmieniają się często.
- Kopia zapasowa dotyczy danych, których nie da się odtworzyć, zgodnie z zasadą 3-2-1, a nie samych modeli, które można pobrać ponownie ze źródła.
Dlaczego model AI zajmuje tyle miejsca
Model AI uruchamiany na własnym komputerze to przede wszystkim plik albo zestaw plików zawierających ogromną liczbę wartości liczbowych. Nazywa się je wagami. Ich liczba idzie w miliardy, a każda musi gdzieś zostać zapisana. Z grubsza można to porównać do wielkiej książki kucharskiej, w której każdy przepis to jedna liczba: im więcej przepisów, tym grubszy tom.
Dysk SSD (ang. solid-state drive) to nośnik bez ruchomych części, zbudowany z pamięci flash, podobnej do tej w pendrive’ie, tylko szybszej i pojemniejszej. Na nim leżą nie tylko modele, ale też system, programy, pliki robocze i wyniki pracy. Pytania „ile miejsca” i „jak szybko” są więc dwiema stronami tej samej sprawy.
Ile miejsca zajmują modele: prosty sposób liczenia
Rozmiar modelu zależy przede wszystkim od dwóch rzeczy: liczby parametrów, zapisywanej w opisach jako np. 7B (7 miliardów), oraz precyzji zapisu, czyli liczby bitów przypadających na jedną wagę. Pełna precyzja to zwykle 16 bitów, czyli 2 bajty na wagę. Kwantyzacja, czyli zapis z mniejszą liczbą bitów, działa trochę jak zdjęcie zapisane w niższej jakości: plik jest wyraźnie mniejszy, a ogólny obraz pozostaje czytelny. Przy dobrze dobranym poziomie kwantyzacji wiele modeli zachowuje sensowną jakość odpowiedzi, ale to kompromis, który warto sprawdzić na własnych zadaniach.
Wzór jest prosty: liczba parametrów razy liczba bajtów na wagę daje rozmiar wag. Przykład do policzenia w głowie: model 7B w zapisie 16-bitowym to około 7 miliardów razy 2 bajty, czyli około 14 GB. Ten sam model skwantyzowany do 4 bitów to około 3,5 GB, a plik z dodatkowymi elementami zajmuje zwykle nieco więcej. Model 70B w 4 bitach to około 35 GB, a z zapasem na pliki pomocnicze rozmiar bywa zbliżony do 40 GB. To przybliżenia oparte na zasadzie obliczenia, a nie dane konkretnego modelu. Dokładny rozmiar zawsze podaje strona, z której pobierasz model.
Modele do generowania obrazów i dźwięku też nie są małe. Podstawowy model graficzny bywa mieć kilka GB, a każdy dodatek, np. nakładka stylu, dokłada kolejne setki MB. Jeśli zbierasz kilka modeli, dysk zapełni się szybciej, niż się spodziewasz.
Dlaczego szybkość dysku skraca ładowanie
Zanim model zacznie odpowiadać, musi zostać wczytany z dysku do pamięci operacyjnej (RAM) albo pamięci karty graficznej (VRAM). Szybkość dysku decyduje o tym, jak długo trwa to przenoszenie. Czas można oszacować, dzieląc rozmiar pliku przez prędkość odczytu. Przy modelu 40 GB i dysku czytającym około 500 MB/s (0,5 GB/s) wychodzi około 80 sekund. Szybki dysk NVMe, czytający z prędkością kilku GB/s, skraca ten czas do kilkunastu sekund. Klasyczny dysk HDD, czytający około 150 MB/s, potrzebuje ponad czterech minut. To uproszczenie, bo system dokłada własne opóźnienia, ale rząd wielkości jest właściwy.
Dysk wpływa głównie na start i na przełączanie między modelami. Gdy model siedzi już w pamięci, tempo generowania odpowiedzi zależy przede wszystkim od ilości RAM i od karty graficznej. Inaczej dzieje się wtedy, gdy brakuje pamięci operacyjnej: system zaczyna intensywnie korzystać z dysku jako pamięci wirtualnej, a odpowiedzi stają się bardzo wolne. To sygnał, by najpierw sprawdzić RAM, a nie wymieniać dysk. Więcej o tym w osobnym poradniku Ile RAM do lokalnego AI.
SSD, HDD i typy dysków SSD: na co patrzeć przy zakupie
HDD to dysk z wirującymi talerzami i głowicą. Jest tani w przeliczeniu na terabajt, ale wolny i wrażliwszy na wstrząsy. Pod modele AI nadaje się jako magazyn archiwalnych plików, a nie jako miejsce, z którego codziennie wczytujesz model. SSD jest szybszy i cichszy, bo nie ma ruchomych części.
Wśród dysków SSD spotkasz dwa główne interfejsy. Dysk SATA w formacie 2,5 cala jest wolniejszy, bo jego prędkość ogranicza sam standard SATA. Dysk M.2 z protokołem NVMe korzysta z łącza PCIe i jest wielokrotnie szybszy. Zanim kupisz, sprawdź, czy twoja płyta główna ma wolne gniazdo M.2 i jakiej wersji PCIe obsługuje. Szczegóły znajdziesz w osobnym poradniku o płycie głównej.
Na karcie produktu zwróć uwagę na typ komórek pamięci. TLC to zwykle dobry kompromis, a QLC jest tańszy, ale przy długim zapisie dużych plików po zapełnieniu szybkiego bufora może zwalniać. Modele czytasz częściej, niż zapisujesz, więc prędkość odczytu ma większe znaczenie. Dysk NVMe pod dużym obciążeniem może się grzać i zwalniać, a radiator oraz dobra wentylacja w obudowie pomagają. Konkretne parametry pojemności, prędkości i wytrzymałości podaje producent, dlatego sprawdzaj je w aktualnej karcie produktu.
Na Macu z Apple Silicon dysk jest zwykle zintegrowany z komputerem i w wielu modelach nie da się go wymienić później, więc pojemność wybierz od razu z zapasem. Zewnętrzny dysk podłączony przez USB lub Thunderbolt też może działać, ale jego prędkość zależy od złącza i obudowy. Sprawdź to przed zakupem, a najlepiej zrób test czasu wczytania własnego modelu.
Dlaczego warto mieć osobny dysk na modele
Najprostsza zasada brzmi tak: system i programy na jednym dysku, modele i pliki robocze na drugim. Nie musi to być dysk wewnętrzny. Może to być drugi SSD w komputerze stacjonarnym albo szybki zewnętrzny dysk, jeśli czas startu modelu jest dla ciebie akceptowalny.
Po pierwsze, modele szybko zapełniają miejsce, a system potrzebuje wolnej przestrzeni do aktualizacji i plików tymczasowych. Gdy dysk systemowy jest prawie pełny, komputer zwalnia we wszystkim, nie tylko w AI. Po drugie, reinstalacja systemu nie kasuje modeli, a przy przeprowadzce na nowy komputer przenosisz tylko folder z modelami, nie całą konfigurację. Po trzecie, łatwiej zarządzać kopiami: od razu widzisz, które dane są twoje, a które da się pobrać ponownie.
Wiele programów do lokalnego AI domyślnie zapisuje pobrane modele w katalogu użytkownika, czyli na dysku systemowym. Zanim pobierzesz pierwszy duży model, sprawdź w ustawieniach programu, czy da się zmienić folder modeli. Jeśli tak, ustaw folder na dysku na modele. Jeśli już masz pliki w złym miejscu, przeczytaj w dokumentacji programu, jak bezpiecznie je przenieść. Nie przerzucaj plików ręcznie w przypadkowy sposób, bo program może przestać je znajdować.
Ile pojemności kupić: prosty plan
Zacznij od listy tego, czego naprawdę użyjesz. Zapisz, ile modeli chcesz trzymać, ich przybliżony rozmiar i czy planujesz generowanie obrazów lub dźwięku. Dodaj miejsce na dane robocze i wyniki. Na końcu dołóż zapas, bo dysk nie powinien pracować przy samym limicie. Systemy i programy potrzebują wolnego miejsca, a porządki w plikach robi się rzadko.
Przykład z liczbami wyłącznie poglądowymi: system i programy 150 GB, trzy modele po około 5 GB, jeden model około 40 GB, kilka obrazów i pliki robocze około 50 GB. Razem wychodzi około 255 GB. Z zapasem rzędu 20–30% dysk powinien mieć około 310–330 GB, więc w praktyce wybór padnie na pojemność wyraźnie większą niż dokładnie wyliczona.
Im więcej dużych modeli, tym liczby rosną szybciej. Dlatego nie oszczędzaj na dysku, jeśli wiesz, że będziesz trzymać kilka modeli. Porównując oferty na allee.pl, patrz na pojemność, interfejs i informacje o gwarancji podane przez sprzedawcę, a nie tylko na cenę.
- System i programy: policz to, co już masz zainstalowane.
- Modele: suma rozmiarów modeli, które chcesz trzymać na stałe.
- Dane robocze i wyniki: zdjęcia, teksty, nagrania i pliki z eksperymentów.
- Zapas: około 20–30% wolnego miejsca ponad obliczoną sumę.
Kopia zapasowa: dobre praktyki
Dysk SSD nie jest archiwum. Może ulec awarii, a przy intensywnym zapisie ma ograniczoną trwałość, którą producent podaje w parametrach. Jeśli na dysku leżą twoje prompty, wyniki, dokumenty albo własne dostrojone modele, których nie da się odtworzyć, kopia zapasowa jest koniecznością. Nagłe wyłączenie prądu też może zaszkodzić zapisywanym plikom, o czym pisze osobny poradnik o zasilaczu UPS.
Najczęściej polecaną zasadą jest reguła 3-2-1: trzy kopie danych, na dwóch różnych nośnikach, z czego jedna poza komputerem albo poza domem. W praktyce może to być oryginał na dysku w komputerze, kopia na zewnętrznym dysku trzymanym w innym miejscu i kopia w zaszyfrowanej chmurze. Każdy z tych elementów chroni przed innym zagrożeniem: awarią, kradzieżą albo pożarem.
Dobre praktyki w skrócie:
- Kopiuj to, czego nie da się odtworzyć: prompty, notatki, wyniki, konfiguracje, własne zbiory danych i dostrojone modele.
- Nie kopiuj całych modeli, jeśli możesz je pobrać ponownie, bo zajmą dużo miejsca. Zapisz tylko, skąd je wziąłeś i na jakiej licencji, bo warunki użycia bywają ograniczone.
- Ustaw kopie automatycznie, np. raz w tygodniu, zamiast polegać na pamięci.
- Szyfruj kopie, jeśli zawierają dane wrażliwe, a hasło przechowuj osobno.
- Od czasu do czasu sprawdź, czy da się przywrócić plik z kopii. Kopia, której nigdy nie testowałeś, może okazać się pusta.
- Obserwuj stan dysku w narzędziach systemu albo producenta. Komunikaty o błędach to sygnał, by zrobić kopię od razu.
Typowe błędy i lista kontrolna przed zakupem
Najczęstsze błędy są proste: kupienie dysku dokładnie na styk, trzymanie modeli na dysku systemowym bez planu, pomylenie HDD z SSD przy zakupie oraz brak kopii, bo przecież dysk działa. Drugim kłopotem jest ufanie odpowiedziom AI bez sprawdzenia. Model może podać błędną informację tym samym pewnym tonem co prawdziwą, więc ważne decyzje weryfikuj w innym, wiarygodnym źródle.
Model uruchomiony lokalnie zwykle nie wysyła danych na zewnątrz, ale zależy to od programu i jego ustawień, więc sprawdź je w dokumentacji. Nie wpisuj haseł, numerów dokumentów ani danych wrażliwych, nawet jeśli pracujesz offline. Aktualne zasady dotyczące danych osobowych i AI znajdziesz w oficjalnych źródłach, a sam poradnik nie zastępuje porady prawnej ani medycznej.
Przed zakupem dysku przejdź tę listę:
- Policzyłem, ile miejsca zajmą modele, które chcę trzymać, i dodałem zapas 20–30%.
- Wiem, czy moja płyta główna albo Mac pozwala na dokupienie dysku, zanim kupię.
- Mam osobny dysk albo folder na modele i wiem, gdzie program je zapisuje.
- Interfejs dysku pasuje do mojego komputera, a parametry sprawdziłem w karcie produktu u producenta.
- Kopia zapasowa działa automatycznie, a raz ją przetestowałem.
- Nie wpisuję do AI haseł ani danych wrażliwych, a odpowiedzi sprawdzam.
Najczęstsze pytania
Ile miejsca na dysku zajmuje model AI?
Zależy to od liczby parametrów i poziomu kwantyzacji. Model o 7 miliardach parametrów w mocno skompresowanym zapisie to zwykle kilka GB, a modele znacznie większe, np. 70 miliardów parametrów, to zwykle dziesiątki GB. Dokładny rozmiar podaje strona, z której pobierasz model, a liczby w tym poradniku są tylko przybliżeniami.
Czy szybki dysk SSD przyspieszy odpowiedzi AI?
Głównie skraca czas wczytania modelu przy starcie i przy przełączaniu między modelami. Samo generowanie odpowiedzi zależy przede wszystkim od ilości pamięci RAM i karty graficznej. Dysk ma jednak znaczenie, gdy komputer z braku pamięci zaczyna z niego korzystać jako pamięci wirtualnej.
Czy mogę trzymać modele AI na zewnętrznym dysku?
Możesz, jeśli dysk jest na tyle szybki, że czas startu modelu jest dla ciebie akceptowalny, a program pozwala wskazać ten folder. Zewnętrzny dysk podłączony przez USB bywa wolniejszy od wewnętrznego SSD, więc sprawdź interfejs i zmierz czas wczytania. Nie odłączaj dysku w trakcie pracy programu.
Czy zwykły dysk HDD wystarczy do AI?
Do archiwum i przechowywania własnych plików tak, ale do codziennego wczytywania modeli raczej nie. Przy HDD start dużego modelu może trwać kilka minut, a przy częstym przełączaniu będzie to bardzo odczuwalne. Dla wygody szybki SSD jest zwykle lepszym wyborem.
Jak często robić kopię zapasową danych AI?
Najlepiej automatycznie, np. raz w tygodniu, a ważne pliki po każdej większej zmianie. Kopiuj dane, których nie da się odtworzyć, a modele pobieraj ponownie ze źródła. Kopia powinna być zapisana na innym nośniku niż oryginał.
Czy dysk SSD może się nagle zepsuć?
Tak, każdy dysk może ulec awarii, a SSD nie jest wyjątkiem. Nie czekaj na objawy, bo przy awarii część danych może przepaść. Dlatego kopia zapasowa jest ważniejsza niż sama pojemność dysku.