• Zobacz: M. Łabuz, Przed waszą erą. Człowiek w syntetycznym świecie deepfake’ów, ChataGPT i sztucznej inteligencji.

Łukasz Śliz: Jak wygląda świat „Przed waszą erą”, nawiązując do tytułu Pana książki? Czy to oznacza koniec jakiejś epoki, czy może bardziej jest to przestroga, by zapobiec końcowi naszej ery? 

Mateusz Łabuz: Tytuł mojej książki to jednocześnie diagnoza i ostrzeżenie. Piszę wprost, że jeszcze żyjemy w erze człowieka, ale nie powinniśmy zapominać, że stoimy u progu końca naszej absolutnej dominacji. 30 listopada 2022 roku, gdy zadebiutował ChatGPT, wyznaczyliśmy nową cezurę, otworzyliśmy nowy etap algorytmizacji naszego życia. Choć maszyny wpuściliśmy do naszej rzeczywistości znacznie wcześniej, inaczej niż w przypadku szachowej rozgrywki Kasparowa z Deep Blue w 1997 roku, tym razem przełom dotyczył samego rdzenia komunikacji i poznawania świata. W ciągu niecałych trzech lat ChatGPT stał się swego rodzaju nawykiem komunikacyjnym, nowym punktem odniesienia dla wielu z nas. Jakimś wszechmocnym bytem, do którego coraz częściej udajemy się po informacje, po radę, a nierzadko po emocje. Cóż z tego, że wygenerowane i udawane, skoro tak silnie rezonujące w nas samych. Tytuł to zatem zaproszenie do refleksji: jeśli teraz nie zdefiniujemy granic naszej podmiotowości, za niedługo nie będzie czego wyznaczać. 

ŁŚ: Czy pojęcie „rzeczywistość” ma dziś inne znaczenie, gdy weźmiemy pod uwagę aktywność AI? 

MŁ: Zdecydowanie tak, i to na kilku poziomach. Straciliśmy jedną z podstawowych heurystyk poznawczych, która towarzyszyła nam od wieków. Chodzi o niemal całkowite zaufanie do tego, co widzimy. Przez ponad sto lat nagrania wideo były przecież wiarygodnym dowodem tego, jak wyglądała rzeczywistość. Także na sali sądowej. W dobie generatywnej sztucznej inteligencji, gdy właściwie każda treść może być zmanipulowana lub wprost wygenerowana, a my nie jesteśmy w stanie odróżnić takich materiałów od prawdziwych, musimy redefiniować nasze podejście do autentyczności i możliwości jej weryfikacji. To rodzi ogromne wyzwania. Wyobraźmy sobie zalew deepfake’ów przedstawianych jako dowody w postępowaniu karnym. Czy jesteśmy na to gotowi? Rzeczywistość oczywiście wciąż istnieje, nie zniknęła. Stawiam jednak tezę, że dzisiaj można ją łatwo duplikować, reżyserować i przetwarzać. Zdolność weryfikacji z kolei staje się nowym rodzajem kompetencji, której większość z nas po prostu nie posiada, a którą szybko musimy nabyć – zarówno w wymiarze indywidualnym, społecznym, jak i instytucjonalnym, choćby po to, żeby system sądownictwa nie padł nam pod naporem syntetycznego świata.

ŁŚ: Prawo karne reaguje na rzeczywiste przestępstwa. W swojej książce zwraca Pan uwagę, że w niektórych przypadkach nie jest istotna rzeczywistość, ale to, czy coś jawi się jako rzeczywiste. Jakie to sytuacje? 

MŁ: Tutaj pewnie musielibyśmy wdać się w rozważania filozoficzne na temat tego, co właściwie jest rzeczywiste. To, że jakaś scena została wygenerowana oznacza tyle, że nie miała miejsca w realnym świecie. Ale istnieje w cyfrowym. I tam musimy traktować ją z równą powagą, co prawdziwe nagranie czy zdjęcie. Najbardziej oczywisty przykład to syntetyczna pornografia dziecięca, czyli CSAM wytwarzane przy użyciu sztucznej inteligencji.

Syntetyczny charakter materiałów nie znosi ani ich szkodliwości, ani odpowiedzialności sprawcy.

Takie treści wzmacniają popyt, normalizują wyobrażenia o wykorzystywaniu nieletnich i eskalują zachowania przestępcze. To samo dotyczy niekonsensualnych treści o charakterze intymnym z dorosłymi osobami, głównie kobietami. Dla wielu z nich kontakt z wygenerowanymi fotografiami to ekstremalne przeżycie, czasem porównywane wręcz do gwałtu. Przeżywane w sposób realny. Prawo powinno reagować nie tylko na to, co wydarzyło się w świecie fizycznym, ale na to, co jawi się jako rzeczywiste w świadomości ofiary i społeczeństwa, bo skutki tej pozornej rzeczywistości są jak najbardziej prawdziwe.

ŁŚ: Co powinno zmienić się w prawie w przypadku pornografii i jej produkcji z użyciem deepfakes? 

MŁ:

Przede wszystkim trzeba uczciwie powiedzieć: przespaliśmy osiem lat.

Pierwsze deepfake’owe treści intymne pojawiły się w 2017 roku. Deep porn stanowi wciąż znaczną część wszystkich deepfake’ów w sieci, a w zdecydowanej większości przypadków ofiarami są kobiety. Co powinno się zmienić? Jednoznaczna kryminalizacja tworzenia i dystrybucji niekonsensualnych syntetycznych treści o charakterze intymnym. Unia Europejska zrobiła krok w dobrym kierunku, mamy dyrektywę antyprzemocową, niedawno zadeklarowano zbanowanie aplikacji pozwalających na tzw. „rozbieranie zdjęć” („nudifying apps”). Kluczowe są jednak działania na poziomie krajowym. Tutaj mamy wiele do zrobienia, także w Polsce, gdzie obecny art. 191a k.k. jest kontestowany i nie gwarantuje adekwatnej ochrony ofiarom. Prace nad jego rozszerzeniem trwają. Konieczne jest też twarde egzekwowanie odpowiedzialności platform cyfrowych, ponieważ tworzą ekosystem sprzyjający przemocy. To musi się zmienić – kompleksowo i możliwie szybko.

ŁŚ: Pisze Pan o cyfrowych śmieciach. Czy zaśmiecanie Internetu powinno być karalne, tak jak zaśmiecanie ulicy czy parku? 

MŁ: To niezwykle ciekawa obserwacja. Intuicja jest na pewno celna, ale totalny zakaz byłby w tym momencie krokiem idącym za daleko i w praktyce trudnym do egzekwowania. Internet nie jest przestrzenią publiczną w tym samym sensie co ulica, ale na pewno warto rozważyć, czy nie powinien być w podobny sposób traktowany. Prof. Małecki zgłaszał tego typu uwagi podczas prac sejmowej komisji zajmującej się patostreamingiem. Moim zdaniem, zdecydowanie warto pochylić się nad taką interpretacją. Problem w tym, że cyfrowe śmieci są tworzone globalnie, masowo, przez tysiące podmiotów jednocześnie, a czasem ich wartość jest trudna do uchwycenia. Coś, co jednej osobie wydaje się tzw. AI slopem, dla innych może być źródłem doskonałej rozrywki lub wręcz sztuką. To zresztą klasyczny problem dyskusji na temat penalizowania dezinformacji, gdzie mielibyśmy do czynienia z niezwykłą uznaniowością i licznymi kontrowersjami w kwalifikowaniu potencjalnie szkodliwych treści. Na pewno konieczne są zabezpieczenia na poziomie kognitywnym, chociażby obowiązkowe oznaczanie treści generowanych przy użyciu sztucznej inteligencji. Zdecydowanie więcej miejsca należy też poświęcić przeciwdziałaniu skoordynowanym sieciom nieautentycznych kont. Tutaj widzę silny punkt zaczepienia i obszar do zagospodarowania przez prawo karne. I nie chodzi o to, że coś będziemy kwalifikować jako „śmieć”, ale o zachowania, które powodują istotne szkody społeczne i są oparte na oszustwie.

ŁŚ: A może zakazać korzystania z AI w jakichś konkretnych sytuacjach? Np. czy wyobraża Pan sobie przepisy, które zakazują tworzenia spotów wyborczych przy użyciu AI i w ogóle używania go w kampanii wyborczej? 

MŁ: Całkowity zakaz byłby technicznie niemożliwy do wyegzekwowania. Trudno bowiem wyznaczyć sztywną granicę używania sztucznej inteligencji, skoro część delikatnych modyfikacji może być oparta o zautomatyzowane filtry, które są aktualnie standardem.  Na pewno jednak narodowe komisje wyborcze powinny opracować wytyczne dotyczące reklamy politycznej i dopuszczalności głębokości ingerencji w nagrania przedstawiające osoby kandydujące. Za niedługo możemy mieć spory problem, gdy w sieci zaczną nam hasać awatary polityków napędzane potęgą generatywnej sztucznej inteligencji i będziemy bombardowani przez wideo delikatnie zmieniające cechy przedstawianych postaci. Z czasem wręcz targetowane pod konkretnych odbiorców.  To, co powinno być bezwzględnie wymagane, to zakaz deepfake’ów przedstawiających polityków bez ich zgody, szczególnie w kontekście wyborczym oraz szybkie mechanizmy usuwania takich treści przez platformy. I przede wszystkim edukacja.

Jeśli na poważnie myślimy o ochronie demokracji, musimy zdawać sobie sprawę z konsekwencji upowszechnienia się syntetycznych treści.

 Deepfake’i nie muszą „odwrócić wyniku wyborów”, by szkodzić demokracji. Wystarczy, że pogłębiają polaryzację i zniechęcają obywateli do partycypacji i deliberacji. A mamy już sporo przykładów tego typu działań. Podczas prawyborów w Partii Demokratycznej w USA syntetyczny głos Joe Bidena był wykorzystywany w automatycznych połączeniach telefonicznych z mieszkańcami New Hampshire i namawiał ich do pozostania w domach. 

ŁŚ: Czy tytuł Pana książki będzie aktualny za 50 lat, czy może będzie wówczas trzeba przygotować nowe wydanie: „W waszej erze”? A może nie musimy się tego obawiać? 

MŁ: Nie mam pojęcia, ale jako autor, naukowiec i po prostu człowiek życzyłbym sobie, by tytuł był aktualny jak najdłużej. To by oznaczało, że wciąż nie znajdujemy się w jakiejś fazie „Po Naszej Erze”.  W zakończeniu książki piszę, że „nie odzyskamy już pełnej kontroli nad technologią”. To, niestety, realistyczne podejście. Algorytmy na trwałe wpisały się w historię ludzkości. Za 50 lat tytuł będzie aktualny o tyle, o ile sami zdecydujemy, że chcemy zachować to, co przez wieki sprawiało, że czuliśmy się częścią wspólnoty, że byliśmy wyjątkowi, że mogliśmy z dumą mówić, że to nasza era. Jeśli miałbym mówić o „Waszej erze” – wolę, żeby była erą przyszłych pokoleń, które będą nieco mądrzejsze od nas, a nie erą, w której po prostu daliśmy się zastąpić.

Rozmawiał: Łukasz Śliz – student prawa na Wydziale Prawa i Administracji Uniwersytetu Jagiellońskiego

Zdjęcie: Moldova Security Forum

Projekt dofinansowany ze środków budżetu państwa, przyznanych przez Ministra Nauki w ramach Programu Społeczna odpowiedzialność nauki II.

Artykuł Dr Mateusz Łabuz dla Karne24.com: Jeśli teraz nie zdefiniujemy granic naszej podmiotowości, niedługo nie będzie czego wyznaczać pochodzi z serwisu Karne24.com.

• Zobacz: Mateusz Łabuz, Mikołaj Małecki, Katarzyna Mika-Łabuz, Dziecięca pornografia w formie deep fakes: problemy wykładni na gruncie polskiego prawa karnego i propozycje legislacyjne, Prawo w Działaniu 2025, tom 61.

Maciej Wójcik: Przeglądając tak zwane rolki czy shorty w mediach społecznościowych widzimy coraz więcej obrazów czy filmików wygenerowanych przez sztuczną inteligencję. Potencjał deep fakes wykorzystywany jest obecnie do szerzenia dezinformacji, dyskredytacji, propagowania mowy nienawiści czy wpływania na procesy wyborcze. W jakim stopniu deep fakes stosuje się do tworzenia treści pornograficznych – szczególnie z udziałem małoletnich? Dane, o których Państwo wspominają w artykule są wręcz przerażające.

Mateusz Łabuz: Zagrożenia związane z deep fake’ami przez wiele lat były postrzegane głównie przez pryzmat dezinformacji o charakterze politycznym. Sądziliśmy, że staną się idealnym narzędziem do manipulacji okołowyborczych. Mimo że pojawiają się właściwie w każdej kampanii, nie były dotąd game changerem, nie wywróciły wyników żadnego głosowania do góry nogami. Prawdziwym game changerem okazały się w obszarze pornografii, także tej dotyczącej osób małoletnich.

Dziś stworzenie nieodróżnialnego od rzeczywistego zdjęcia czy wideo jest możliwe z wykorzystaniem darmowego i łatwego w obsłudze oprogramowania.

Mieliśmy niedawno dwie głośne sprawy. Najpierw, jesienią 2025 roku, polskiej nastolatki – rówieśnicy z podstawówki cyfrowo rozebrali jej zdjęcia i wrzucili do mediów społecznościowych. Policja i prokuratura nie dostrzegły w tym szkody osobistej, co samo w sobie było kuriozalne. Potem sprawa Groka i rozbierania fotek dziesiątek tysięcy internautek – to kobiety są głównym celem tego typu ataków.

Na to wszystko nakłada się łatwość, z jaką tworzone są syntetyczne treści pedofilskie. Biegli sądowi już mają pełne ręce pracy z analizą materiałów dowodowych i odróżnianiem tego, co prawdziwe od tego, co wygenerowane przy pomocy sztucznej inteligencji. To kolosalne problemy, a prawo w wielu krajach, w tym w Polsce, zwyczajnie nie nadąża za rozwojem technologii.

Mikołaj Małecki: Te przykłady jasno pokazują, że sposób prawniczego myślenia o pornografii musi ulec zmianie. Na czym polega pokrzywdzenie w przypadku deepfake’a? To nie tylko krzywda osobista, ale też zagrożenie dla przestrzeni publicznej jako takiej.

MW: Właściwie już od dawna występuje proces przenoszenia się przestępczości ze świata rzeczywistego do, ogólnie rzecz ujmując, przestrzeni internetowej. Jednak wydaje się, że sztuczna inteligencja generuje niespotykane wcześniej narzędzia dla rozwoju przestępczości.

MM: Odróżnijmy dwie kwestie. Rozwój AI i Internetu ułatwił popełnianie klasycznych przestępstw, np. oszustw czy kradzieży. Takie przestępstwa da się ścigać używając przepisów, które już istnieją. Ale powstały też zupełnie nowe zjawiska, nieznane wcześniej prawu karnemu. Dobrym przykładem jest patostreaming, ale też wszystko, co wiąże się z deepfake’ami.

MŁ: Deep fake’i to w wielu wypadkach narzędzie do wyniesienia znanych przestępstw na nowy poziom zaawansowania technologicznego. Znaczną część “nowych” przestępstw moglibyśmy typizować, dostosowując “stare” przepisy.

Przestępcy zawsze byli niezwykle kreatywni w wykorzystywaniu postępów technologicznych, prawnicy powinni szukać odpowiedzi, a nie wymówek.

MW: W jaki sposób polskie prawo karne odnosi się obecnie do zjawiska deep fakes z udziałem małoletnich? Czy przepisy obowiązujące już dziś pozwalają na adekwatną prawnokarną reakcję na te zachowania?

MM: Art. 202 § 4b k.k. mówi o przetworzonych lub wytworzonych wizerunkach małoletniego. Przepis został wprowadzony jakiś czas temu do kodeksu karnego właśnie z powodu rozwoju nowych technologii. Jednak postęp technologiczny jest tak szybki, że dzisiaj ten przepis zaczyna chwytać nieporównywalne sytuacje, np. prymitywny kolaż wykonany w programie Paint i doskonały deepfake wygenerowany przez AI.

MŁ: W teorii wspomniany artykuł można podciągnąć pod dziecięcą pornografię w formie deep fake’ów. Nie ma przeszkód interpretacyjnych. Problem w tym, że rozjeżdżają nam się wówczas społeczna szkodliwość i kodeksowe sankcje. Czym różni się prawdziwa pornografia dziecięca od syntetycznej z perspektywy jej konsumenta, który nie jest w stanie odróżnić jednej od drugiej?

MW: Zwracają Państwo uwagę na ciekawy kazus sprawcy, który chce obejrzeć materiał z udziałem prawdziwego dziecka, a nieświadomie trafia na doskonały deep fake. Na pierwszy rzut oka jego zachowanie przypomina znaną nam konstrukcję usiłowania nieudolnego. Czy to poprawna kwalifikacja?

MM: Klasycznie byłoby to usiłowanie nieudolne posiadania treści z udziałem małoletniego do lat 15. Skoro to deepfake, nie jest możliwe dokonanie przestępstwa polegającego na posiadaniu filmu z rzeczywistym dzieckiem. Ale sprawca sądzi, że obcuje z treścią przedstawiającą rzeczywiste dziecko.

Sądzimy, że taki prawniczy opis tej sytuacji – klasycznie poprawny – nie jest już adekwatny. Argumentujemy, że nieodróżnialna, perfekcyjna podróbka wygenerowana przez AI powinna być uznana za treść z udziałem dziecka. Liczy się charakter treści, którą ktoś ogląda, a nie to, czy pokazuje ona rzeczywiste zdarzenie.

Przepis mówi o treści z udziałem małoletniego, a nie zdarzeniu z udziałem małoletniego, które jest zarejestrowane.

MŁ: Kluczowa będzie w tym wypadku analiza społecznej szkodliwości. Ustawodawca postanowił przecież napiętnować sam fakt posiadania określonych materiałów.

MW: Widząc te ogromne zagrożenia na myśl przychodzi wręcz od razu pytanie- czy AI powinniśmy kodyfikować? Tworzyć nowe typy czynów zabronionych? A może powinniśmy w pewnych przypadkach zakazywać korzystania ze sztucznej inteligencji? Czy w przyszłości możemy wyobrazić sobie np. środek karny w postaci zakazu korzystania z AI?

MŁ: To bardzo ciekawa koncepcja, choć zapewne byłaby trudna do egzekwowania w praktyce. AI absolutnie należy kodyfikować, i to szybciej niż później. W niektórych wypadkach wystarczą kosmetyczne zmiany lub dopisanie przepisów rozszerzających zakres tych już obowiązujących.

Nie dajmy sobie wmówić, że technologii o innowacyjnym potencjale nie da się regulować, zwłaszcza w przestrzeni karnej.

Taką narrację chętnie suflują zwolennicy niczym nieskrępowanego rozwoju, który nie bierze pod uwagę konsekwencji społecznych. Tymczasem w centrum zmian należy postawić człowieka i społeczeństwo. Brak adekwatnych przepisów lub problemy z wykładnią, jak choćby w przypadku art. 191a k.k. sprawiają, że ofiary niekonsensualnych syntetycznych treści o charakterze intymnym nie mają dziś zagwarantowanej adekwatnej ochrony, a sprawcy mają poczucie bezkarności.

MM: Wyobrażam sobie, że konkretny sprawca mógłby mieć orzeczony zakaz korzystania z AI, to znaczy używania programów, by generować określone treści. Pojawi się problem egzekucji, o którym wspomniał Mateusz.

Z pewnością pierwszym krokiem powinna być prawna regulacja wymuszająca oznaczanie treści stworzonych przez AI, które mogą wprowadzać w błąd. Tak by nie było dla nikogo wątpliwości, czy to, co oglądamy, przedstawia rzeczywiste sytuacje i ludzi, czy jedynie sztuczne podróbki. Nie ukrywajmy: filmy generowane przez AI i publikowane bez oznaczenia to dezinformacja. Takie treści realnie wprowadzają w błąd wielu ludzi, a to jest społecznie szkodliwe.

Rozmawiał: Maciej Wójcik- student prawa na Wydziale Prawa i Administracji Uniwersytetu Jagiellońskiego

Zdjęcie: Mateusz Łabuz i Mikołaj Małecki

Projekt dofinansowany ze środków budżetu państwa, przyznanych przez Ministra Nauki w ramach Programu Społeczna odpowiedzialność nauki II.

Artykuł Łabuz i Małecki dla Karne24.com: Deepfakes stały się game changerem w obszarze pornografii. AI trzeba uregulować pochodzi z serwisu Karne24.com.