W skrócie
- Lokalny serwer API to usługa działająca na Twoim komputerze, która udostępnia model AI innym programom w umówionym, standardowym formacie.
- Wiele aplikacji rozumie ten sam format zapytań, więc jeden model może obsłużyć czat, edytor i własne narzędzia bez kopiowania tekstów między oknami.
- Domyślnie połączenie działa tylko wewnątrz komputera, pod adresem localhost, a dane nie wychodzą poza urządzenie, dopóki sam nie zmienisz tego ustawienia.
- Wystawienie portu do internetu bez zabezpieczeń pozwala obcym osobom korzystać z Twojego sprzętu, a przy złej konfiguracji także z danych, które przez model przechodzą.
- Konkretne nazwy ustawień, porty i sposób uruchamiania usługi sprawdzaj w aktualnej dokumentacji producenta, bo narzędzia zmieniają się szybko.
API to po prostu umówiony sposób rozmowy między programami
Zanim przejdziemy do konfiguracji, wyjaśnijmy jedno słowo. API, czyli interfejs programowania aplikacji, to zestaw zasad, według których jeden program zadaje pytanie drugiemu i dostaje odpowiedź. Porównaj to do kelnera w restauracji: nie idziesz do kuchni, tylko mówisz, czego chcesz, kelner przekazuje zamówienie i wraca z talerzem. Nie musisz wiedzieć, jak kucharz gotuje.
Model AI uruchomiony w programie takim jak Ollama czy LM Studio też ma swoją kuchnię. Bez API jedynym sposobem, żeby z niego skorzystać, jest okienko czatu w tym samym programie. Z API ten sam model może odbierać zapytania od edytora tekstu, przeglądarki, arkusza kalkulacyjnego albo Twojego własnego skryptu.
Po co to robić? Jeśli piszesz opisy produktów do sklepu, streszczasz maile od klientów albo tłumaczysz dokumenty, wygodniej mieć asystenta wbudowanego w narzędzie, którego już używasz, niż przełączać się między oknami. W małej firmie to też kwestia nawyków całego zespołu.
Lokalny serwer zgodny ze standardem: co dokładnie działa na Twoim komputerze
Ollama po uruchomieniu działa jako lokalny serwer, czyli program w tle, który nasłuchuje na określonym porcie. Port to numer kanału, na którym komputer odbiera zapytania. Domyślnie Ollama używa portu 11434 i przyjmuje połączenia z tego samego komputera. Aplikacja łączy się więc z adresem localhost, czyli oznaczeniem „ten komputer”.
Wiele narzędzi mówi w jednym z popularnych formatów zapytań. Najczęściej spotyka się format zgodny z interfejsem OpenAI, bo wiele programów AI powstało właśnie pod ten standard. Ollama udostępnia taki format obok własnych zapytań. Dzięki temu program, który nie zna Ollamy z nazwy, może traktować ją jak każdą inną usługę tego typu. Wystarczy wskazać adres i nazwę modelu.
Standard nie oznacza, że każdy model działa tak samo. Zgodny jest tylko sposób zadawania pytań. Jakość odpowiedzi zależy od modelu, który wybrałeś, od jego rozmiaru i od sprzętu, na którym działa. Szybkość odpowiedzi też zależy od sprzętu, a nie od samego standardu.
- Serwer: program w tle, który odbiera zapytania i zwraca odpowiedzi.
- Port: numer, pod którym serwer nasłuchuje, np. 11434 w domyślnej konfiguracji.
- Model: pobrany na komputer zestaw danych, który serwer wykorzystuje do generowania tekstu.
- Klient: program, który wysyła zapytania do serwera, np. edytor, przeglądarka lub własny skrypt.
Przykład: podłączenie zewnętrznego programu krok po kroku
Weźmy typowy przypadek. Masz zainstalowaną Ollamę i pobrany model, a chcesz, żeby korzystał z niego program do pisania notatek, który obsługuje własny serwer AI. Procedura jest zwykle podobna, choć nazwy pól w ustawieniach różnią się między programami.
Poniżej kolejność działań. Nie musisz pisać żadnego kodu. Wszystko odbywa się w ustawieniach aplikacji i w prostym oknie terminala, którego używasz do sprawdzenia listy modeli.
- Upewnij się, że Ollama działa. Na Windows i macOS usługa zwykle startuje po instalacji, ale w razie wątpliwości otwórz aplikację. Na Linuksie sprawdź status usługi zgodnie z poradnikiem dla tego systemu.
- Sprawdź dokładną nazwę modelu. W terminalu wpisz polecenie ollama list i przepisz nazwę tak, jak jest zapisana, łącznie z dwukropkiem i oznaczeniem wersji.
- W ustawieniach programu znajdź pole w rodzaju adres API albo base URL i wpisz localhost z portem 11434.
- W polu modelu wpisz nazwę zapisaną w kroku drugim. Literówka w tym miejscu to najczęstszy powód błędu.
- Jeśli program żąda klucza API, wpisz dowolny tekst, na przykład słowo local. Lokalny serwer zwykle go nie sprawdza, ale wiele aplikacji nie zapisze ustawień bez wypełnionego pola.
- Zadaj krótkie pytanie testowe, na przykład poproś o jedno zdanie po polsku. Jeśli odpowiedź przychodzi, połączenie działa.
Zanim zaczniesz: lista kontrolna przed podłączeniem
Większość problemów bierze się z pominiętego kroku, a nie z trudnej konfiguracji. Przejrzyj listę przed każdą próbą. Zajmuje to dwie minuty i oszczędza godzinę szukania przyczyny.
Jeśli dopiero planujesz zakup sprzętu, porównaj oferty na allee.pl, ale najpierw sprawdź wymagania modelu, który chcesz uruchamiać. Ile pamięci potrzebuje model, opisujemy w osobnym poradniku o VRAM, a Ty powinieneś to zweryfikować w dokumentacji i na stronach producentów modeli.
- Model jest pobrany i widoczny na liście modeli.
- Ollama jest uruchomiona i nie zgłasza błędu przy starcie.
- Program, z którego chcesz korzystać, ma opcję własnego adresu API.
- Wiesz, jakie dane zamierzasz wklejać i czy mogą opuścić komputer.
- Masz zapisane ważne ustawienia programu, zanim cokolwiek zmienisz.
Dlaczego nie wystawiać portu do internetu
Domyślnie serwer słucha tylko na Twoim komputerze, więc nikt z zewnątrz się do niego nie dostanie. Ryzyko pojawia się, gdy zmienisz ustawienia tak, by serwer nasłuchiwał na wszystkich interfejsach sieciowych. Służy do tego zmienna środowiskowa OLLAMA_HOST, opisana w dokumentacji producenta. Taka zmiana bywa potrzebna, gdy chcesz użyć modelu z innego urządzenia w domu, ale to decyzja z konsekwencjami.
Wyobraź sobie, że zostawiasz otwarte drzwi do kuchni restauracji z tabliczką „zapraszamy”. Każdy, kto trafi na adres i port, może wysyłać zapytania, zużywać prąd i moc procesora, a przy złym układzie także czytać to, co model zwraca. Typowa konfiguracja lokalnego serwera nie zakłada logowania ani kont użytkowników, więc nie zakładaj, że ktoś zabezpieczy to za Ciebie.
Najprostsza zasada brzmi: nie wystawiaj portu do internetu wprost. Jeśli potrzebujesz dostępu z zewnątrz, rozejrzyj się za prywatną siecią VPN działającą na Twoich urządzeniach albo za innym rozwiązaniem, które dodaje uwierzytelnianie. Konkretny wybór zależy od Twojej sieci, więc zacznij od dokumentacji i porady kogoś, kto zna Twój router.
Bezpieczne ustawienia w domu i w małej firmie
Jeśli prowadzisz sklep albo małe biuro, dostęp do modelu często dzieli kilka osób. Wtedy zasady muszą być spisane, nawet w prostej formie. Poniższe punkty to minimum, które sprawdzi każdy.
Pamiętaj też o odpowiedziach modelu. Lokalny model może się mylić tak samo jak model w chmurze. Przy cenach, terminach, danych podatkowych i prawnych zawsze sprawdź wynik u źródła. AI nie zastępuje lekarza, prawnika ani księgowego.
- Zostaw serwer na localhost, dopóki nie masz konkretnej potrzeby zmiany.
- Jeśli musisz słuchać w sieci lokalnej, ogranicz dostęp do sieci firmowej i zablokuj port w zaporze systemowej dla urządzeń spoza listy.
- Nie ustawiaj przekierowania portu na routerze w stronę internetu.
- Nie wklejaj do modelu danych klientów, numerów PESEL, haseł ani tajemnic handlowych bez ustalonych zasad.
- Sprawdź, czy wtyczki i programy łączące się z modelem nie wysyłają danych do zewnętrznych usług.
- Co jakiś czas przeglądaj, które programy korzystają z serwera, i usuwaj nieużywane połączenia.
Najczęstsze problemy i co sprawdzić po kolei
Gdy program pisze, że nie może połączyć się z serwerem, nie zgaduj. Idź od najprostszych przyczyn do bardziej złożonych. Większość błędów znajdziesz w pierwszych trzech punktach.
Jeśli wszystko wygląda dobrze, zrestartuj Ollamę i program. Wiele problemów znika po zamknięciu i ponownym uruchomieniu obu.
- Czy Ollama działa? Usługa mogła się nie uruchomić po restarcie komputera.
- Czy adres i port zgadzają się z ustawieniami serwera? Literówka w porcie to częsty błąd.
- Czy nazwa modelu jest dokładnie taka jak na liście? Różnica w wersji albo w dwukropku daje błąd.
- Czy zapora systemowa nie blokuje połączenia? Część systemów pyta o zgodę przy pierwszym uruchomieniu.
- Czy model zmieści się w pamięci? Zbyt duży model może ładować się bardzo długo albo działać bardzo wolno. Szczegóły znajdziesz w poradniku o pamięci karty graficznej.
Kiedy to ma sens, a kiedy wystarczy zwykły czat
Lokalny serwer API opłaca się, gdy powtarzasz to samo zadanie wiele razy i chcesz mieć dostęp do modelu w narzędziu, którego już używasz. Przykładem jest streszczanie zgłoszeń, poprawianie opisów produktów albo wyjaśnianie błędów w prostych skryptach.
Do jednorazowego pytania wystarczy okienko czatu w programie takim jak LM Studio, Jan albo GPT4All. Nie musisz niczego konfigurować, a mniej konfiguracji to mniej miejsc, w których coś może się zepsuć.
Pamiętaj, że wpięcie modelu w inny program nie przyspieszy jego pracy. Jeśli model odpowiada wolno w zwykłym czacie, zrobi to samo w każdej aplikacji. Najpierw sprawdź szybkość w czacie, a dopiero potem buduj połączenia.
Gdzie szukać aktualnych informacji
Ten poradnik opisuje ogólne zasady, a szczegóły z czasem się zmieniają: nazwy ustawień, domyślne porty i sposób uruchamiania usługi mogą zostać zaktualizowane. Zawsze zaczynaj od oficjalnej dokumentacji producenta Ollamy oraz strony programu, który chcesz podłączyć.
Jeśli opisy w dokumentacji nie zgadzają się z tym, co widzisz na ekranie, kieruj się dokumentacją, a nie starymi poradami z forów. Sprawdzaj też datę publikacji tekstu i wersję programu, bo to najczęstsza przyczyna nieaktualnych instrukcji.
Więcej o samym programie znajdziesz w poradniku o instalacji Ollamy na Twoim systemie. Dobór modelu i jego wymagania opisujemy w osobnych tekstach Centrum AI.
Najczęstsze pytania
Czy lokalny serwer Ollama działa bez internetu?
Tak, po pobraniu modelu. Samo pobieranie wymaga połączenia, ale zadawanie pytań odbywa się lokalnie, także offline. Program, który podłączasz, też musi działać lokalnie, dlatego sprawdź to w jego ustawieniach.
Czy muszę umieć programować, żeby połączyć program z modelem?
Nie. W wielu aplikacjach wystarczy wpisać adres, port i nazwę modelu w ustawieniach. Programowanie jest potrzebne dopiero wtedy, gdy piszesz własne narzędzie.
Czy mogę korzystać z modelu na telefonie?
Tylko wtedy, gdy telefon jest w tej samej sieci domowej i świadomie zmienisz ustawienia serwera. Nie wystawiaj serwera do internetu. Dostęp z zewnątrz wymaga zabezpieczonego połączenia i najlepiej poradzić się kogoś, kto zna Twoją sieć.
Dlaczego program pisze, że nie może połączyć się z serwerem?
Najczęściej Ollama nie działa, adres lub port się nie zgadza albo nazwa modelu jest inna. Sprawdź te trzy rzeczy po kolei, zanim zaczniesz szukać bardziej złożonych przyczyn.
Czy dane wysyłane do lokalnego modelu trafiają do producenta?
Sam model działający na Twoim komputerze nie wysyła wpisanych tekstów do chmury. Sprawdź jednak program, z którego korzystasz, bo może mieć dodatki łączące się z zewnętrznymi usługami.
Czy klucz API jest potrzebny?
Lokalny serwer zwykle go nie wymaga, ale niektóre programy nie zapiszą ustawień bez wypełnionego pola. Wpisz dowolny tekst, np. słowo local, i pamiętaj, że to nie jest prawdziwe hasło.