Rozwój sztucznej inteligencji nie jest już wyłącznie kwestią przyszłości, a codziennego funkcjonowania nas wszystkich. Systemy AI są wdrażane w administracji, ochronie zdrowia, edukacji, rekrutacji, usługach publicznych, bezpieczeństwie i wielu innych elementach infrastruktury krytycznej. Wraz z tym rozwojem pojawia się podstawowe pytanie: gdzie kończy się użyteczne narzędzie, a zaczyna system, któremu powierzamy podejmowanie decyzji dotyczących życia ludzi?

Nasza inicjatywa powstała z potrzeby odpowiedzi na to pytanie. – Nie sprzeciwiamy się istnieniu AI, ani jego wykorzystaniu w codziennych zadaniach. – Sprzeciwiamy się natomiast sytuacji, w której sztuczna inteligencja staje się faktycznym decydentem, a człowiek zostaje zdegradowany do formalnego elementu procedur.

Chcemy rozpocząć debatę o tym, jakie decyzje nigdy nie powinny być pozostawione systemom AI, kto ma ponosić odpowiedzialność za ich działanie oraz jakie zabezpieczenia muszą istnieć, zanim takie systemy zostaną wdrożone na dużą skalę.

Samo istnienie człowieka w procesie decyzyjnym nie oznacza jeszcze realnego nadzoru. Osoba odpowiedzialna za decyzję musi posiadać wystarczającą wiedzę o działaniu systemu, mieć możliwość zakwestionowania jego wyniku oraz dysponować rzeczywistą możliwością odstąpienia od rekomendacji AI.

Podobny problem został wskazany w niedawnym raporcie brytyjskiego Joint Committee on Human Rights[red. PL: Komitet Wspólny ds. Praw Człowieka]. Komitet zwrócił uwagę, że samo „human in the loop” nie gwarantuje znaczącego udziału człowieka w podejmowaniu decyzji i postulował wzmocnienie ochrony przed szkodliwym wykorzystaniem zautomatyzowanego podejmowania decyzji.

Chcemy, aby podobna zasada była stosowana w Polsce:
AI może wspierać decyzję – jednak nie może zastępować odpowiedzialnego za nią człowieka – zwłaszcza tam, gdzie decyzja wpływa na prawa, bezpieczeństwo lub dostęp człowieka do podstawowych usług.

Znaczenie dla państwa i infrastruktury krytycznej

Największej ostrożności wymagają systemy wykorzystywane przez państwo oraz podmioty odpowiedzialne za infrastrukturę krytyczną.
Unijny AI Act już uznaje za zastosowania wysokiego ryzyka m.in. określone systemy wykorzystywane w infrastrukturze krytycznej, zatrudnieniu, edukacji, dostępie do usług publicznych, organach ścigania, migracji i kontroli granic, wymiarze sprawiedliwości oraz procesach demokratycznych. Wymaga w tych obszarach m.in. zarządzania ryzykiem, dokumentowania działania systemów, rejestrowania ich aktywności i odpowiedniego nadzoru człowieka.

Uważamy jednak, że sama klasyfikacja systemu jako „wysokiego ryzyka” nie powinna oznaczać automatycznej zgody na jego wdrożenie.
W szczególności postulujemy o:
• obowiązkową ocenę wpływu systemu AI na prawa człowieka przed jego wdrożeniem w sektorze publicznym i infrastrukturze krytycznej;
• obowiązek dokumentowania celu, sposobu działania, źródeł danych i ograniczeń wykorzystywanego systemu;
• obowiązek informowania osób, których dotyczą decyzje wspomagane przez AI;
• możliwość skutecznego zakwestionowania decyzji oraz uzyskania ludzkiej ponownej oceny;
• jasne wskazanie osoby lub instytucji ponoszącej odpowiedzialność za ostateczną decyzję;
• zakaz powierzania systemom AI autonomicznego podejmowania decyzji o fundamentalnych konsekwencjach dla praw i bezpieczeństwa ludzi;
• regularne, niezależne audyty systemów wykorzystywanych przez państwo i podmioty infrastruktury krytycznej.

Przejrzystość zamiast deus ex machina

Jeżeli państwo, pracodawca, uczelnia, bank, szpital czy inna instytucja wykorzystuje AI w procesie, który może wpłynąć na człowieka, osoba zainteresowana powinna mieć prawo wiedzieć, że taki system został wykorzystany – informacja, że „decyzję podjęto zgodnie z procedurą” to zdecydowanie za mało.

Potrzebne są mechanizmy pozwalające ustalić:

  • Czy w procesie decyzyjnym zostało wykorzystane AI
  • Jakie dane zostały do niego wprowadzone
  • Jaki wynik zwrócił model
  • Kto podjął ostateczną decyzję/kto weryfikował odpowiedź modelu.

Postulujemy również publiczny rejestr istotnych zastosowań AI w sektorze publicznym oraz rejestr poważnych incydentów związanych z działaniem takich systemów.

Odpowiedzialność na każdym etapie

Odpowiedzialność nie może kończyć się na podmiocie, który jako ostatni kliknął „zatwierdź”.
System AI jest częścią całego łańcucha: od twórców modelu i dostawców danych, przez integratorów i dostawców infrastruktury, po instytucję, która ostatecznie wdraża system.

Postulujemy o obowiązek należytej staranności na każdym etapie tego łańcucha, proporcjonalny do roli danego podmiotu i poziomu ryzyka.
Podmioty wdrażające AI powinny oceniać nie tylko jego dokładność, ale również możliwość wystąpienia dyskryminacji, naruszeń prywatności, błędów systemowych oraz innych szkód dla osób i grup społecznych.

Potrzebujemy realnego nadzoru

Polska posiada już ustawę o systemach sztucznej inteligencji, która weszła w życie w 2026 roku i ustanowiła krajowy system nadzoru nad AI, w tym Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. (ELI)
Naszym zdaniem dalszy rozwój tego systemu powinien zmierzać w stronę rzeczywistej niezależności, przejrzystości i możliwości skutecznej kontroli.

Organ nadzoru powinien mieć możliwość:
• prowadzenia postępowań dotyczących szkodliwego wykorzystania AI;
• przeprowadzania lub zlecania niezależnych testów systemów;
• żądania dokumentacji technicznej i informacji o sposobie działania systemów;
• nakazywania wstrzymania lub wycofania systemów stwarzających niedopuszczalne ryzyko;
• nakładania skutecznych sankcji za naruszenia;
• prowadzenia publicznego rejestru poważnych incydentów;
• współpracy z organami odpowiedzialnymi za ochronę danych osobowych, prawa pracownicze, cyberbezpieczeństwo, prawa konsumentów i bezpieczeństwo infrastruktury.

Granice zastosowania AI muszą być jasne
Już dziś europejskie prawo zakazuje części zastosowań AI uznanych za niedopuszczalne ryzyko. Obejmuje to m.in. określone formy manipulacji, scoringu społecznego, niektóre zastosowania biometrii oraz określone przypadki zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej.
Jednocześnie granica między tym, co zakazane, a tym, co dopuszczalne pod określonymi warunkami, pozostaje przedmiotem intensywnego rozwoju technologicznego i regulacyjnego.
Przykładem są technologie związane z kontrolą granic. Frontex prowadzi prace nad wykorzystaniem narzędzi AI w kierunku bardziej zautomatyzowanej kontroli granicznej. Pokazuje to, że rozwój technologiczny może postępować bardzo szybko również w obszarach, w których zastosowanie AI bezpośrednio dotyka praw człowieka i swobody przemieszczania się.
Dlatego uważamy, że możliwość technicznego wykonania danej rzeczy nie może sama w sobie być argumentem za jej wdrożeniem.

Nie chcemy wojny z technologią

Nie chodzi nam o zakaz używania modeli językowych, generatorów grafiki czy innych narzędzi AI w życiu codziennym.
Problem zaczyna się wtedy, gdy narzędzie staje się infrastrukturą władzy.
Inaczej należy traktować AI pomagające napisać tekst, uporządkować dokumenty czy stworzyć grafikę, a inaczej system, który decyduje, komu przyznać świadczenie, kogo zatrudnić, kogo skierować do kontroli, czyje dane uznać za podejrzane albo jak zarządzać elementami infrastruktury, od której zależy bezpieczeństwo tysięcy ludzi.


Nie każda technologia wymaga zakazu. Każda technologia wymagająca zaufania społecznego wymaga jednak odpowiedzialności.
AI nie może przejąć infrastruktury, której nie możemy po prostu wyłączyć.
W ostatnim czasie w przestrzeni medialnej poruszany jest rozwój koncepcji AI-native networks, w tym prac AI-RAN Alliance nad integracją sztucznej inteligencji bezpośrednio z infrastrukturą telekomunikacyjną i rozwojem architektur dla przyszłych sieci 5G i 6G. Organizacja rozwija m.in. koncepcje AI-for-RAN, AI-and-RAN, AI-on-RAN oraz agentic AI wykorzystywanej do autonomicznego zarządzania operacjami sieciowymi. (AI-RAN Alliance)
To kierunek rozwoju, który wymaga publicznej debaty zanim rozwiązania tego typu staną się elementem infrastruktury, od której zależne będzie codzienne funkcjonowanie społeczeństwa. Im bardziej autonomiczny staje się system, tym ważniejsze jest pytanie: kto może go zatrzymać, kto może zakwestionować jego decyzję i kto odpowiada, kiedy system się pomyli?


Nie chcemy czekać na odpowiedź na te pytania do momentu pierwszej poważnej awarii.
Dlatego rozpoczynamy działania
Nasza inicjatywa będzie działać na rzecz publicznej debaty o granicach stosowania sztucznej inteligencji w Polsce. Planujemy działania informacyjne, działania uliczne oraz protesty towarzyszące wydarzeniom i konferencjom poświęconym AI w różnych częściach kraju.
Chcemy rozmawiać zarówno z osobami zajmującymi się technologią, jak i z pracownikami, organizacjami społecznymi, prawnikami, badaczami, osobami zajmującymi się cyberbezpieczeństwem oraz wszystkimi, których decyzje podejmowane z wykorzystaniem AI mogą bezpośrednio dotyczyć.
Naszym celem nie jest zatrzymanie rozwoju technologii.
Chcemy, żeby rozwój technologii nie oznaczał rezygnacji z ludzkiej kontroli.
AI może być narzędziem. Nie powinno stawać się instancją, przed którą człowiek nie ma możliwości odwołania.
Dlatego domagamy się regulacji, które jasno określą granice wykorzystania AI, szczególnie przez państwo i podmioty odpowiedzialne za infrastrukturę krytyczną, zagwarantują rzeczywisty a nie wyłącznie formalny nadzór człowieka oraz zapewnią obywatelom prawo do wiedzy, sprzeciwu i odwołania od decyzji podejmowanych z wykorzystaniem sztucznej inteligencji.

Technologia ma służyć ludziom. Odpowiedzialność za jej użycie również musi pozostać po ludzkiej stronie.

Materiały źródłowe: