AI on-premise czy w chmurze dla fabryki: co wybrać i kiedy

Czas czytania: ok. 7 minut

Krótka odpowiedź: nie ma jednej dobrej odpowiedzi, jest kilka przesłanek, które przeważają szalę. On-premise (AI na waszym sprzęcie) wygrywa, gdy dane są wrażliwe albo objęte umowami, gdy wolumen jest duży i stały, albo gdy zależy wam na pełnej kontroli i pracy offline. Chmura wygrywa na starcie, przy nierównym lub niskim wolumenie i gdy nie macie zespołu, który utrzyma serwer. Poniżej rozkładam to na konkretne pytania, które warto zadać zanim wybierzecie.

Pytanie pierwsze: czy dane mogą wyjść z firmy

To jest przesłanka, która często kończy dyskusję. Jeśli pracujecie na dokumentacji objętej NDA, na własności intelektualnej klientów albo na danych, których polityka bezpieczeństwa nie pozwala wysyłać na zewnątrz, to chmura publiczna staje się problemem niezależnie od kosztów. On-premise oznacza wtedy najprostszą odpowiedź: dane nie opuszczają waszej infrastruktury, więc znika cała klasa pytań o to, gdzie i przez kogo są przetwarzane.

Jeśli natomiast pracujecie na danych mało wrażliwych albo już i tak trzymanych w chmurze, ta przesłanka nie przeważa i decyzja schodzi na poziom kosztów i wygody.

Pytanie drugie: jaki jest wolumen i jak stały

Chmura rozlicza się zwykle za użycie. To świetne na start i przy nieregularnym ruchu, bo płacicie za to, co realnie zużyjecie, i nie zamrażacie kapitału w sprzęcie. Problem pojawia się, gdy wolumen rośnie i stabilizuje się. Wtedy rachunek za użycie rośnie liniowo, a własny sprzęt, raz kupiony, obsługuje ten sam ruch bez rosnącej opłaty.

Zasada praktyczna: im bardziej przewidywalne i wysokie obciążenie w horyzoncie dwóch, trzech lat, tym bardziej on-premise zaczyna się opłacać. Im bardziej pilotażowe, jednorazowe albo skokowe, tym bardziej chmura.

Pytanie trzecie: czy policzyliście pełny koszt on-premise

Tu popełnia się najwięcej błędów, zwykle na korzyść on-premise, bo liczy się tylko cenę karty. Pełny koszt posiadania to znacznie więcej:

• Sprzęt (serwer i karty) jako jednorazowy wydatek.
• Prąd i chłodzenie. Karty centrum danych pobierają dużo energii, a chłodzenie dokłada do rachunku kolejne kilkadziesiąt procent zużycia.
• Ludzie. Ktoś musi to utrzymać, aktualizować i pilnować. W horyzoncie trzech lat koszt tej pracy potrafi przewyższyć koszt samego sprzętu.
• Realne wykorzystanie. Sprzęt kupujecie na szczyt, a używacie średnio w 40 do 65 procent. Płacicie za całość.

Uczciwe porównanie stawia pełny koszt on-premise obok trzyletniego rachunku za chmurę. Dopiero wtedy widać, który wariant jest tańszy dla waszego konkretnego przypadku, a nie w ogólności.

Pytanie czwarte: latencja i praca offline

Są zastosowania, w których liczy się czas odpowiedzi albo niezależność od łącza. Asystent na hali, który musi działać także wtedy, gdy internet padnie, albo proces, w którym opóźnienie sieci jest problemem, przemawiają za lokalnym rozwiązaniem. Dla większości zastosowań biurowych i serwisowych latencja chmury jest w praktyce bez znaczenia, więc ta przesłanka dotyczy raczej wąskich, specyficznych przypadków.

Pytanie piąte: NIS2 i łańcuch dostaw

Jeśli firma jest objęta NIS2, wybór dostawcy AI i lokalizacja przetwarzania danych stają się elementem zarządzania ryzykiem łańcucha dostaw. On-premise nie załatwia zgodności automatycznie, ale upraszcza część pytań: dane nie wychodzą poza perymetr, więc znika temat lokalizacji przetwarzania i podwykonawców. To realna przesłanka dla podmiotów kluczowych, choć samą zgodność i tak trzeba wdrożyć osobno.

Wariant, o którym się zapomina: hybryda

Wybór nie jest zerojedynkowy. W praktyce częsty i sensowny układ to hybryda: dane i procesy najbardziej wrażliwe zostają on-premise, a mniej wrażliwe albo skokowe obciążenia idą do chmury. Dzięki temu nie przepłacacie za sprzęt pod szczyt i jednocześnie trzymacie u siebie to, co musi zostać. To dobry punkt wyjścia, gdy przesłanki się rozjeżdżają.

Tabela decyzyjna w skrócie

Przesłanka	Raczej on-premise	Raczej chmura
Wrażliwość danych	wysoka, NDA, IP, NIS2	niska, dane już w chmurze
Wolumen	duży i stały	niski lub nieregularny
Horyzont	2 do 3 lat i dłużej	pilotaż, krótki termin
Zespół IT	jest kto utrzyma	brak zasobów operacyjnych
Latencja i offline	krytyczne	bez znaczenia

Czego ten post nie pokrywa

Nie wchodzę w szczegóły doboru sprzętu, bo to osobny temat, który omawiam przy wymaganiach sprzętowych lokalnego LLM. Nie rozstrzygam też, czy sprzęt stawiać u siebie, w kolokacji, czy w formie gotowego urządzenia. Tu chodziło o wcześniejszą decyzję: on-premise czy chmura, i o to, które przesłanki naprawdę przeważają szalę.

Powiązane notatki

• Lokalny LLM na serwerze firmowym: jakie wymagania sprzętowe (GPU, VRAM)
• ROI z AI w produkcji: jak liczyć, czego nie wpisywać w business case