Spis treści:
- Kiedy system AI jest systemem wysokiego ryzyka
- Wpływ kwalifikacji na zamówienie
- Szczególne znaczenie rozeznania rynku
- Jak konstruować OPZ na system AI
- Ocena złożonych dokumentów
- Wymagania na dzień oferty i wymagania na czas umowy
- Aktualizacja modelu tylko w ramach umowy
- Nie trzeba czekać do roku 2030
Regulacje AI Act dotyczące „systemów wysokiego ryzyka” należy uwzględnić przy opisie przedmiotu zamówienia i określaniu wymagań dla wykonawców. Mają one również wpływ na konstruowanie kryteriów oceny ofert i projektowanie postanowień przyszłej umowy.
Zmiana terminów [1] stosowania AI Act [2], przyjęta w lipcu 2026 r. na podstawie Digital Omnibus on AI [3], ma bezpośrednie znaczenie dla przygotowania i prowadzenia postępowania o udzielenie zamówienia. Wydłużenie terminu wejścia w życie tej regulacji powoduje, że nie każde wymaganie przewidziane w AI Act powinno być już obecnie przenoszone do dokumentacji zamówienia jako bezwzględny wymóg wobec oferowanego rozwiązania. Konieczne jest każdorazowe ustalenie, jakie przepisy będą miały zastosowanie do danego systemu oraz kiedy wynikające z nich obowiązki staną się prawnie wiążące dla zamawiających stosujących ustawę Prawo zamówień publicznych (dalej: pzp).
Kiedy system AI jest systemem wysokiego ryzyka
W AI Act wprowadzono określenie „system wysokiego ryzyka”, któremu nadano znaczenie prawne. Nie chodzi tu o każdy zaawansowany system ani o rozwiązanie, którego wdrożenie wiąże się z dużą wartością zamówienia lub odpowiedzialnością zamawiającego. AI Act wyróżnia dwie podstawowe grupy takich systemów:
- pierwsza obejmuje sztuczną inteligencję będącą elementem bezpieczeństwa określonych produktów podlegających unijnym regulacjom sektorowym albo samodzielnie stanowiącą taki produkt; w praktyce może to dotyczyć niektórych urządzeń, maszyn lub wyrobów, w których AI pełni funkcję istotną dla bezpieczeństwa;
- druga grupa ma większe znaczenie dla typowych zamówień na rozwiązania informatyczne – rozporządzenie wskazuje zastosowania systemu, w których sztuczna inteligencja może istotnie oddziaływać na sytuację człowieka; dotyczy to m.in. niektórych systemów wykorzystywanych przy rekrutacji, dostępie do edukacji, świadczeń i podstawowych usług, a także w wymiarze sprawiedliwości, migracji czy biometrii.
Nie każde jednak narzędzie używane w drugim z ww. obszarów automatycznie podlega pełnemu reżimowi przewidzianemu dla systemów wysokiego ryzyka. Znaczenie ma funkcja systemu i jego wpływ na wynik procesu. Narzędzie wykonujące wąską czynność przygotowawczą może być oceniane inaczej niż system, którego wynik faktycznie wpływa na decyzję dotyczącą konkretnej osoby. Odmiennie traktowane są także systemy profilujące osoby fizyczne.
Dobrze widać to na przykładzie administracji. System służący pracownikowi urzędu do streszczania dokumentów nie staje się systemem wysokiego ryzyka tylko dlatego, że korzysta z niego podmiot publiczny. Inaczej jest wówczas, gdy system jest narzędziem, które ocenia kandydatów do pracy albo wspiera decyzję dotyczącą dostępu do określonego świadczenia.
Rozróżnienie to ma znaczenie jeszcze przed wszczęciem postępowania. Zamawiający nie powinien najpierw finalizować dostawy technologii, a dopiero później ustalać jej status na gruncie AI Act. O kwalifikacji może bowiem przesądzić właśnie jej przeznaczenie już na etapie opisu dokumentacji zamówienia.
Wpływ kwalifikacji na zamówienie
Systemy wysokiego ryzyka zostały objęte przez AI Act bardziej rygorystycznymi wymaganiami ze względu na potencjalnie istotny wpływ ich działania na prawa, bezpieczeństwo lub sytuację osób fizycznych. Dotyczą one m.in.:
- zarządzania ryzykiem,
- dokumentacji,
- jakości danych,
- prowadzenia rejestrów,
- nadzoru człowieka,
- dokładności i odporności systemu.
Dostawca takich systemów ma również obowiązki związane z wykazaniem zgodności rozwiązania. Z punktu widzenia zamawiającego ważny jest jednak nie sam katalog wymagań, lecz ich wpływ na przygotowanie zakupu. Jeżeli bowiem zamawiający będzie później potrzebował określonych informacji z rejestrów systemu wysokiego ryzyka, to musi zapewnić sobie do nich dostęp. Jeżeli skuteczny nadzór człowieka wymaga określonych funkcji lub informacji, to powinny one zostać przewidziane w opisie przedmiotu zamówienia (dalej: OPZ). Podobnie jest z dokumentacją, której zamawiający będzie potrzebował do wykonywania własnych obowiązków jako podmiot stosujący system.
Dla części podmiotów publicznych korzystających z określonych systemów wysokiego ryzyka dochodzi obowiązek przeprowadzenia – przed rozpoczęciem ich stosowania – oceny ich wpływu na prawa podstawowe. Taka ocena dotyczy rzeczywistego zastosowania systemu i ryzyka dla osób, na które może on oddziaływać. Jej przygotowanie może wymagać informacji, którymi dysponuje dostawca. Nie wystarczy więc sama dostawa systemu spełniającego techniczne parametry. Trzeba również zapewnić zamawiającemu informacje i uprawnienia, bez których zgodne z prawem korzystanie z rozwiązania będzie później utrudnione.
Znaczenie ma także prawidłowe określenie ról stron. W typowym modelu wykonawca oferujący system będzie jego dostawcą, a zamawiający – podmiotem stosującym. Nie zawsze jednak ten podział pozostanie niezmienny. Istotna ingerencja w system albo zmiana jego przeznaczenia może wpłynąć na pozycję regulacyjną zamawiającego. Zawierana umowa może podzielić obowiązki kontraktowe, ale nie może zmienić roli wynikającej z tego, co strony rzeczywiście robią i jakie obowiązki łączy z tym AI Act.
Szczególne znaczenie rozeznania rynku
Od 1 stycznia 2026 r. w związku z wejściem w życie ustawy z dnia 25 lipca 2025 r. nowelizującej pzp rozszerzono zakres obowiązkowej analizy potrzeb i wymagań o ocenę rynku także z perspektywy podniesienia konkurencyjności postępowania. Zamawiający publiczny, przygotowując postępowanie o wartości równej lub przekraczającej progi unijne, ma zatem obowiązek uwzględnić ten aspekt w rozeznaniu rynku, a w przypadku przewidywania jednego z konkurencyjnych trybów z art. 129 ust. 1 pkt 1–5 pzp – również wskazać warunki zamówienia sprzyjające podniesieniu konkurencyjności, których zastosowanie przewiduje.
Przy systemach AI nie powinien to być obowiązek wykonywany tylko formalnie, ponieważ rynek tych usług bardzo dynamicznie się zmienia. Rozeznanie rynku powinno pozwolić też na ustalenie, w jaki sposób wykonawcy potrafią wykazać cechy, których zamawiający potrzebuje. W jednym przypadku odpowiedni będzie raport z testów, w innym dokumentacja techniczna albo demonstracja systemu.
W okresie przejściowym może pojawić się u zamawiających pokusa nadmiarowego obciążania wykonawców obowiązkami z AI Act niestosowanymi jeszcze z uwagi na przyjętą zmianę terminów. Żądanie już dzisiaj dokumentacji związanej z przyszłym reżimem zgodności może być nieproporcjonalne, jeżeli wykonawcy nie mają jeszcze obowiązku jej sporządzania albo na rynku nie funkcjonują instrumenty potrzebne do jej uzyskania.
Jak konstruować OPZ na system AI
Przy opisie przedmiotu zamówienia na system AI nie wystarczy wskazać jego funkcjonalności i deklarowanych cech technologicznych – trzeba również określić (co często jest trudniejsze), w jaki sposób będzie oceniane prawidłowe działanie systemu. Nie wystarczy zatem wymagać, aby rozwiązanie oparte na sztucznej inteligencji było bezpieczne, zorientowane na człowieka albo wyjaśnialne. Opis powinien odpowiadać na bardziej podstawowe pytanie, np. co system ma robić i w jaki sposób zamawiający sprawdzi, czy robi to prawidłowo, np.:
- jeżeli istotna jest trafność wyniku – trzeba określić sposób jej badania;
- jeżeli błędne wskazanie może mieć poważne konsekwencje – należy przewidzieć możliwość jego weryfikacji przez człowieka;
- jeżeli znaczenie ma możliwość późniejszego odtworzenia działania systemu – trzeba wskazać, jakie informacje powinny znajdować się w rejestrach.
Tak samo należy podejść do aktualizacji. System AI może zmienić sposób działania nie tylko wtedy, gdy zamawiający zamówi nową funkcję. W usługach opartych na modelach rozwijanych przez dostawcę zmiana może nastąpić również po jego stronie. Dokumentacja powinna więc określać, kiedy aktualizacja wymaga ponownego badania systemu.
Nie każdy zamawiający potrzebuje przy tym dostępu do kodu źródłowego. Jeżeli właściwość rozwiązania można skutecznie sprawdzić w inny sposób, to żądanie kodu lub szerokiego dostępu do know-how może być nieproporcjonalne.
Ocena złożonych dokumentów
W przypadku zamówień na systemy AI szczególnego znaczenia nabiera prawidłowe rozdzielenie wymagań odnoszących się do samego przedmiotu zamówienia, sposobu wykazania, że system spełnia wymagania, oraz cech rozwiązania podlegających wartościowaniu w ramach kryteriów oceny ofert. Są to odrębne elementy konstrukcji postępowania, mimo że w praktyce mogą odnosić się do tej samej właściwości systemu, np. jego dokładności, odporności, poziomu błędów czy zdolności do wyjaśnienia wyniku. To rozróżnienie ma znaczenie dla oceny, jakie skutki mogą wywołać braki w złożonych przez wykonawców dokumentach. Jeżeli określona cecha stanowi minimalne wymaganie wobec oferowanego rozwiązania, to zamawiający może żądać przedmiotowego środka dowodowego potwierdzającego jej spełnienie. Przedmiotowy środek dowodowy może jednak służyć również potwierdzeniu cechy ocenianej w ramach kryterium oceny ofert. Rozróżnienie to ma istotne znaczenie procesowe.
Co do zasady niezłożony lub niekompletny przedmiotowy środek dowodowy może zostać uzupełniony, jeżeli zamawiający przewidział taką możliwość w dokumentach zamówienia. Mechanizm ten nie znajduje jednak zastosowania, gdy środek dowodowy służy potwierdzeniu cechy lub kryterium określonych w opisie kryteriów oceny ofert. W takim przypadku późniejsze uzupełnienie dokumentu mogłoby prowadzić do niedopuszczalnego kształtowania po terminie składania ofert elementu wpływającego na wynik ich oceny. Dotyczy to również testów i demonstracji. Jeżeli wykonawcy mają otrzymywać punkty za wynik systemu, to metoda badania powinna być znana przed złożeniem ofert. Warunki testu muszą być porównywalne – sposób przeliczenia wyniku na punkty nie może zależeć od decyzji zamawiającego podjętej dopiero podczas oceny.
Warto zauważyć, że zamiast kryterium np. jakości systemu AI lepiej ocenić konkretną właściwość. Może nią być wynik na ustalonym zbiorze testowym, stabilność działania albo inny parametr mający rzeczywiste znaczenie dla przedmiotu zamówienia. Im większa zmienność lub trudność przewidzenia zachowania systemu AI, tym większego znaczenia nabiera precyzyjne określenie nie tylko tego, jaka jego cecha podlega ocenie, lecz również metody weryfikacji tej cechy i porównania między ofertami.
Wymagania na dzień oferty i wymagania na czas umowy
Przesunięcie terminów AI Act jest szczególnie istotne dla zamawiającego przy projektowaniu przyszłej umowy. Nie jest uzasadnione wymaganie w 2026 r. pełnego wykonania obowiązku, który w odniesieniu do danego systemu zacznie być stosowany dopiero pod koniec 2027 r. Nie znaczy to jednak, że obowiązek można pominąć, jeżeli umowa będzie wówczas nadal wykonywana. Część wymagań powinna zostać przesunięta z etapu składania ofert na etap realizacji kontraktu.
W przypadku zamówień publicznych, z uwagi na obowiązki związane z ich planowaniem i czasem zawarcia umowy, okres związania umową jest możliwy do przewidzenia. Jednocześnie w tego typu zamówieniach jest ograniczona możliwość późniejszej zmiany zawartej umowy. Jeżeli więc już na etapie przygotowania postępowania można przewidzieć, że w okresie realizacji kontraktu zaczną obowiązywać kolejne wymagania AI Act, to okoliczność ta powinna zostać uwzględniona w dokumentacji zamówienia i projekcie umowy. W niektórych przypadkach uzasadnione, a nawet konieczne będzie zatem przesunięcie części wymagań z etapu składania ofert na etap realizacji kontraktu – zamiast wymagania pełnej zgodności rozwiązania z regulacjami, które w chwili składania ofert nie mają jeszcze zastosowania. W tym względzie trzeba jednak jednoznacznie określić, czy koszty prac związanych z dostosowaniem systemu zostały uwzględnione w cenie oferty, tak by wykonawca mógł prawidłowo skalkulować swoje zobowiązanie.
Samo postanowienie, że wykonawca ma zapewniać zgodność z aktualnie obowiązującym prawem przez cały okres realizacji, może być niewystarczające przy kilkuletnim kontrakcie na system AI. Nieograniczony obowiązek dostosowywania systemu do każdej przyszłej regulacji, bez określenia zakresu wymaganych zmian i ich wpływu na wynagrodzenie, może budzić zastrzeżenia w kontekście obowiązku jednoznacznego i wyczerpującego opisania przedmiotu zamówienia oraz umożliwienia wykonawcom prawidłowej kalkulacji ofert. Treść art. 99 ust. 1 pzp wymaga bowiem uwzględnienia w OPZ wymagań i okoliczności mogących mieć wpływ na sporządzenie oferty.
W odniesieniu do zmian regulacyjnych, których zakresu lub skutków nie można precyzyjnie określić na etapie postępowania, właściwszym rozwiązaniem może być przewidzenie odpowiedniej klauzuli zmiany umowy. Powinna ona – zgodnie z art. 455 ust. 1 pkt 1 pzp – w sposób jasny, precyzyjny i jednoznaczny określać rodzaj i zakres dopuszczalnych zmian, warunki ich wprowadzenia oraz, w razie potrzeby, zasady odpowiedniej zmiany wynagrodzenia.
Aktualizacja modelu tylko w ramach umowy
Umowa powinna regulować nie tylko skutki zmian przepisów prawa wpływających na wykonywanie umowy, lecz także zasady wprowadzania zmian w samym systemie. Aktualizacja modelu może bowiem poprawić jego wyniki ogólne, a jednocześnie pogorszyć działanie w konkretnym zastosowaniu u zamawiającego. Dostawca może także zmienić sposób generowania odpowiedzi albo wycofać funkcję, na której opierał się proces zamawiającego. Prawo dostawcy do rozwijania modelu nie powinno więc oznaczać automatycznej akceptacji każdej zmiany. Przy istotnej aktualizacji zamawiający powinien mieć możliwość ponownego sprawdzenia parametrów systemu. Umowa powinna również określać skutki sytuacji, w której po aktualizacji rozwiązanie przestaje spełniać uzgodnione wymagania.
Zmiana systemu może mieć także konsekwencje regulacyjne. W szczególności istotna modyfikacja systemu „korzystającego” z przepisów przejściowych może skutkować koniecznością spełnienia pełnego zakresu wymogów, które mają zastosowanie do systemów wprowadzanych do obrotu lub oddawanych do użytku po rozpoczęciu obowiązywania tych wymogów, w tym – w przypadku systemów wysokiego ryzyka – ponownego przeprowadzenia wymaganej oceny zgodności.
Podział ryzyka powinien przy tym odpowiadać rzeczywistemu zakresowi kontroli stron. Wykonawca może odpowiadać za model, aktualizacje i przekazywane informacje techniczne. Zamawiający natomiast odpowiada za własny sposób używania systemu i czynności swoich pracowników.
W praktyce przedmiotem zamówienia nie zawsze będzie jednak dostawa jednego, niezmiennego systemu. Coraz częściej może nim być usługa polegająca na zapewnieniu i rozwijaniu określonej funkcjonalności w całym okresie obowiązywania umowy. W takim modelu zamawiający nabywa nie tyle konkretną, zamkniętą wersję rozwiązania, ile dostęp do usługi obejmującej utrzymanie systemu, jego integrację z infrastrukturą zamawiającego, aktualizacje, wsparcie techniczne oraz rozwój funkcjonalności. Takie ukształtowanie zamówienia wymaga jednak szczególnej precyzji. Dokumentacja powinna określać, które parametry i funkcje stanowią niezmienny rezultat wymagany przez zamawiającego, a które elementy mogą podlegać rozwojowi w toku wykonywania umowy. Dotyczy to również modelu licencyjnego.
Nie trzeba czekać do roku 2030
AI Act przewiduje rozwiązanie przejściowe odnoszące się do określonych systemów wysokiego ryzyka, które wprowadzono do obrotu lub oddano do użytku przed właściwą dla nich datą rozpoczęcia stosowania wymogów dotyczących systemów wysokiego ryzyka. W przypadku systemów przeznaczonych do używania przez organy publiczne dostawcy i podmioty stosujące mają czas na podjęcie niezbędnych działań dostosowawczych do 2 sierpnia 2030 r. Nie oznacza to jednak, że administracja może do 2030 r. zamawiać nowe systemy wysokiego ryzyka bez uwzględniania wymagań, które zaczną być stosowane wcześniej, tj. od grudnia 2027 r. lub sierpnia 2028 r. (zob. przypis 1). Dla nowych rozwiązań nadal znaczenie mają właściwe terminy rozpoczęcia stosowania reżimu systemów wysokiego ryzyka. Termin 2030 r. jest istotny przede wszystkim dla systemów funkcjonujących w okresie przejściowym – w praktyce zamówień publicznych może mieć znaczenie przy utrzymaniu albo dalszym rozwoju istniejącego rozwiązania. Inaczej należy więc projektować zakup nowego systemu, a inaczej kilkuletnią usługę dotyczącą systemu już wykorzystywanego.
Przesunięcie części terminów AI Act dało zamawiającym więcej czasu, nie zlikwidowało jednak potrzeby odpowiedniego przygotowania postępowań dotyczących systemów AI. Już wcześniej warto uwzględniać przyszłe wymogi regulacyjne przy określaniu przedmiotu zamówienia, wymagań wobec wykonawcy oraz zasad utrzymania i rozwoju systemu.
Przypisy
- Zasadnicze wymagania dotyczące systemów wysokiego ryzyka, których zastosowania wskazano w załączniku III AI Act, będą stosowane od 2 grudnia 2027 r. W przypadku systemów związanych z produktami regulowanymi terminem jest 2 sierpnia 2028 r.
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie stanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji.
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2026/1744 z dnia 8 lipca 2026 r. zmieniające m.in. rozporządzenie (UE) 2024/1689.
Autor
Marta Daćków
radca prawny, właściciel Kancelarii Radców Prawnych Daćków i Chwastyk