W skrócie
- gpt-oss to modele o otwartych wagach od OpenAI, wydane w 2025 roku w wariantach 20B i 120B.
- Wariant 20B ma sens na mocnym komputerze domowym, choć odpowiedzi będą wolniejsze niż w czatach działających w chmurze.
- Wariant 120B wymaga sprzętu klasy stacji roboczej i na zwykłym laptopie raczej nie ruszy.
- Liczby dotyczące pamięci w tym poradniku są szacunkami; aktualne wymagania sprawdzisz w dokumentacji producenta modelu i programu.
- Przed pobraniem przeczytaj licencję i zasady użycia, a każdą odpowiedź modelu sprawdzaj w oficjalnych źródłach.
Czym jest gpt-oss i co znaczy „otwarte wagi”
Modele gpt-oss to rodzina dużych modeli językowych, które OpenAI udostępniło w 2025 roku jako modele o otwartych wagach. Model językowy to program, który przewiduje kolejne fragmenty tekstu, dzięki czemu potrafi odpowiadać na pytania, streszczać dokumenty czy pisać maile. To, co model „wie”, zapisane jest w ogromnej liczbie wag, czyli liczb, a w przypadku modeli otwartych te liczby można pobrać na swój komputer.
Porównaj to do przepisu. Restauracja, w której jesz w chmurze, trzyma przepis w kuchni i wydaje gotowe danie przez okienko. Otwarte wagi przypominają przepis, który dostajesz do domu i gotujesz na własnej kuchence. Kuchenka to Twój komputer, a rachunek za prąd i sprzęt to koszt, który ponosisz sam.
Otwarte wagi nie oznaczają, że z modelem wolno robić wszystko. Każdy model ma licencję, czyli zestaw zasad użycia, i nie zawsze jest identyczna z tym, co znasz z innych darmowych programów. Zanim użyjesz modelu w pracy albo w sprzedaży, przeczytaj licencję na stronie producenta.
- gpt-oss to modele, które pobierasz i uruchamiasz u siebie, a nie usługa otwierana w przeglądarce
- Otwarte wagi nie znaczą automatycznie, że licencja jest taka sama jak przy innych modelach
- Po pobraniu model działa bez internetu, a rozmowa zostaje na komputerze, o ile program nie ustawia inaczej
Dwa warianty: co oznaczają 20B i 120B
Litera B oznacza miliardy parametrów. Parametry to właśnie wspomniane wcześniej wagi. Wariant 20B ma ich około dwudziestu miliardów, a wariant 120B około stu dwudziestu. Przyjmij prostą zasadę: więcej parametrów zwykle oznacza lepsze radzenie sobie z trudniejszymi zadaniami, ale też większe zapotrzebowanie na pamięć i wolniejszą pracę.
Można to porównać do pojazdów. Wariant 20B przypomina dobry samochód dostawczy, który swobodnie porusza się po mieście. Wariant 120B to ciężarówka, która potrzebuje szerokiej drogi i dużego placu. Obie mogą przewieźć towar, ale nie każda ulica nadaje się do każdego pojazdu.
gpt-oss to modele rozumujące. Oznacza to, że przed właściwą odpowiedzią często tworzą wewnętrzny tok myślenia, więc na tym samym sprzęcie mogą wydawać się wolniejsze niż zwykły model czatowy o podobnej wielkości. Program może pokazywać ten tok albo go ukrywać. Zobaczysz to najszybciej przy pierwszym pytaniu.
- B oznacza miliardy parametrów; większa liczba zwykle oznacza większe zapotrzebowanie na pamięć
- Wariant 20B to ten, który rozważasz na mocnym komputerze domowym
- Wariant 120B to sprzęt stacji roboczej lub serwera, a nie typowy laptop
Który wariant jest realny na domowym sprzęcie
Nie podam dokładnych wymagań sprzętowych, bo zmieniają się wraz z nowymi wersjami programów i sposobem zapisu modelu. Mogę natomiast pokazać sposób myślenia, który pozwala oszacować, czy model się zmieści.
Przybliżona zasada: pamięć potrzebna na same wagi to liczba parametrów pomnożona przez liczbę bajtów na jeden parametr. Dla zapisu o mniej więcej 4 bitach na parametr przyjmij pół bajta. Przykładowo: 20 miliardów razy 0,5 bajta daje około 10 GB samych wag, a 120 miliardów razy 0,5 daje około 60 GB. Do tego dochodzi zapas na kontekst rozmowy i działanie programu. To przeliczenie przykładowe, nie pomiar, a rzeczywisty wynik zależy od formatu, programu i ustawień.
W praktyce wariant 20B bywa realny na dwa sposoby: na komputerze z kartą graficzną o dużej pamięci VRAM albo na komputerze z dużą ilością zwykłej pamięci RAM, co działa, ale jest wolniejsze. Wariant 120B wymaga pamięci rzędu kilkudziesięciu gigabajtów, więc dla większości domowych komputerów jest poza zasięgiem. Jeśli planujesz zakup sprzętu, porównaj oferty kart i komputerów na allee.pl, ale parametry zawsze sprawdzaj w specyfikacji producenta.
- Sprawdź, ile masz pamięci VRAM na karcie graficznej i ile pamięci RAM w komputerze
- Dla 20B wybieraj sprzęt, który mieści model z zapasem, a nie na granicy możliwości
- Dla 120B traktuj to jako sprzęt serwerowy lub stacji roboczej, nie domowy laptop
- Aktualne wymagania sprawdzaj w dokumentacji producenta modelu i programu
Zanim zaczniesz: lista kontrolna
Zanim pobierzesz cokolwiek, przejdź przez kilka prostych sprawdzeń. Oszczędzisz sobie godzin frustracji, zwłaszcza gdy pobieranie przerwie się po połowie, bo zabrakło miejsca na dysku.
- Wolne miejsce na dysku: pliki modeli są duże, więc licz je w dziesiątkach gigabajtów, nie w megabajtach
- Wersja systemu: Windows, macOS czy Linux oraz uprawnienia do instalowania programów na Twoim komputerze
- Stabilne łącze do pobrania, bo model pobierasz raz, a potem może działać offline
- Dokumentacja: otwórz oficjalną informację o gpt-oss i zapisz datę, w której ją czytałeś
Jak uruchomić gpt-oss lokalnie: ogólna ścieżka
Najprostsze wejście to program, który sam zarządza modelami. Do wyboru masz kilka narzędzi, które opisujemy w osobnych poradnikach: Ollama, LM Studio, Jan i GPT4All. Jedne działają w terminalu, inne mają okno czatu przypominające komunikator. Wybierz to, z czym czujesz się swobodnie.
Poniżej ogólna ścieżka, która pasuje do większości programów. Konkretne nazwy przycisków mogą się różnić, więc traktuj ją jako mapę, a szczegóły sprawdzaj w instrukcji wybranego narzędzia.
- Pobierz program z oficjalnej strony jego twórców i zainstaluj go zgodnie z instrukcją na ekranie
- Otwórz wyszukiwarkę modeli w programie i wpisz gpt-oss; nazwa wariantu zawiera 20B albo 120B
- Wybierz wariant zgodnie z pamięcią, którą sprawdziłeś wcześniej, i porównaj rozmiar pliku z wolnym miejscem
- Pobierz model i poczekaj, aż pobieranie się zakończy; nie wyłączaj komputera w trakcie
- Uruchom model w oknie czatu albo wybierz go w ustawieniach programu, a potem zadaj proste pytanie testowe
- Zapisz, który wariant i które ustawienia działają u Ciebie najlepiej
Szybkość: czego się spodziewać i jak ją mierzyć
Szybkość modelu podaje się w tokenach na sekundę. Token to fragment słowa, często krótkie słowo albo część dłuższego. Dla uproszczenia przyjmij, że odpowiedź o długości kilku akapitów to kilkaset tokenów.
Przykład: załóżmy, że model pisze 5 tokenów na sekundę. Odpowiedź o długości 500 tokenów zajmie wtedy około 100 sekund. To liczba przykładowa, a nie wynik testu. Na mocniejszym sprzęcie będzie szybciej, na słabszym wolniej.
Na szybkość wpływają trzy rzeczy: czy model mieści się w pamięci karty graficznej, poziom kompresji zwany kwantyzacją oraz długość rozmowy. Im dłuższy kontekst, tym więcej pamięci i czasu potrzeba. Osobne poradniki o kwantyzacji i tokenach na sekundę wyjaśniają to krok po kroku.
- Mierz szybkość na swoim sprzęcie, zadając to samo pytanie kilka razy
- Jeśli część modelu pracuje w pamięci RAM zamiast w karcie, spodziewaj się wyraźnego spadku szybkości
- Zamknij ciężkie programy w tle, zanim zaczniesz długą rozmowę
Prywatność i praca offline
Największą zaletą lokalnego modelu jest to, że po pobraniu nie musisz mieć połączenia z internetem, a Twoje pytania nie muszą trafiać na zewnętrzny serwer. Tak zwykle bywa, ale zależy to od programu. Niektóre narzędzia oferują dodatkowe funkcje, na przykład wyszukiwanie w sieci albo wysyłanie danych o używaniu aplikacji. Sprawdź ustawienia i zapisz, co włączyłeś.
Prywatność dotyczy tego, dokąd płyną dane, ale nie zastępuje rozwagi. Nie wklejaj do modelu haseł, numerów PESEL, numerów kart płatniczych ani poufnych dokumentów firmy, dopóki nie wiesz, jak program je przechowuje.
Odpowiedzi modelu też trzeba sprawdzać. Model potrafi brzmieć pewnie, a mylić się w datach, przepisach czy liczbach. Traktuj go jak bardzo szybkiego pomocnika, który czasem zgaduje.
- Po pobraniu modelu sprawdź, czy rozmowa działa przy wyłączonym Wi-Fi
- Przejrzyj ustawienia wyszukiwania i wysyłania danych w programie
- Nie wpisuj haseł, PESEL-u, danych kart ani dokumentacji medycznej
- Liczby, daty i przepisy sprawdzaj w oficjalnych źródłach
Typowe błędy początkujących
Najczęściej problemy nie biorą się z samego modelu, tylko z pośpiechu albo z zbyt dużych oczekiwań. Poniżej błędy, które łatwo popełnić, i sposoby ich uniknięcia.
- Pobranie wariantu 120B na laptop bez sprawdzenia pamięci, a potem długie czekanie na jedno zdanie
- Pomylenie wariantów 20B i 120B w katalogu i pobranie niewłaściwej wersji
- Brak miejsca na dysku w połowie pobierania
- Porównywanie modelu lokalnego z czatem w chmurze jak z identycznym produktem, bez uwzględnienia różnic
- Pominięcie licencji i zasad użycia
- Zamknięcie programu w trakcie pierwszego ładowania modelu
Gdzie szukać aktualnych informacji
Ten poradnik opisuje ogólne zasady, bo konkretne nazwy, wersje programów i zalecane ustawienia zmieniają się szybciej niż artykuły. Najpewniejsze źródła to dokumentacja OpenAI dotycząca modeli gpt-oss, strona programu, którego używasz, oraz opis licencji przy samym modelu.
Jeśli dopiero zaczynasz, zajrzyj do innych poradników w Centrum AI allee.pl, gdzie znajdziesz wyjaśnienia pojęć takich jak VRAM, kwantyzacja czy GGUF. Zanim cokolwiek kupisz, porównaj oferty na allee.pl, ale zawsze sprawdź specyfikację u producenta.
- Oficjalna dokumentacja OpenAI dotycząca gpt-oss
- Strona producenta programu, którego używasz
- Licencja i opis modelu w katalogu programu
- Centrum AI allee.pl, czyli poradniki o modelach lokalnych
Najczęstsze pytania
Czy gpt-oss jest darmowy?
Modele o otwartych wagach można pobrać na swój komputer, ale to nie znaczy, że nic nie kosztują. Płacisz za sprzęt, prąd i czas. Sprawdź też licencję, bo określa, do czego wolno Ci model użyć, zwłaszcza w firmie. Aktualne zasady podaje producent.
Czy gpt-oss działa bez internetu?
Tak, po pobraniu modelu i programu rozmowa może działać bez połączenia z siecią. Upewnij się jednak, że program nie łączy się z serwerem przy każdym uruchomieniu. Ustawienia sprawdzisz w jego opcjach.
Czy gpt-oss 120B uruchomię na zwykłym laptopie?
Zwykle nie. Wariant 120B potrzebuje pamięci rzędu kilkudziesięciu gigabajtów przy zapisie 4-bitowym, a większość laptopów takiej nie ma. Do 120B lepiej podchodzić jak do sprzętu stacji roboczej. Na co dzień wybierz wariant 20B, jeśli Twój sprzęt na to pozwala.
Czy gpt-oss to to samo co ChatGPT?
Nie. ChatGPT to usługa działająca na serwerach firmy, z której korzystasz w przeglądarce. gpt-oss to modele, które sam pobierasz i uruchamiasz. Mogą różnić się jakością, szybkością i funkcjami, więc nie porównuj ich jak identycznych produktów.
Który wariant gpt-oss wybrać na start?
Jeśli masz mocny komputer z kartą graficzną o dużej pamięci, zacznij od wariantu 20B. Przy słabszym sprzęcie rozważ mniejszy, inny model zamiast wymuszać 120B. O wyborze decyduje sprawdzona pamięć, a nie ciekawość.
Czy mogę wgrać swoje dokumenty do lokalnego modelu?
Możesz, ale rób to ostrożnie. Lokalnie dane zwykle zostają na Twoim komputerze, jednak zależy to od programu i jego ustawień. Najpierw sprawdź, co program zapisuje w historii i czy wysyła cokolwiek na zewnątrz. Nie wgrywaj dokumentów z danymi wrażliwymi, dopóki tego nie sprawdzisz.