• Zobacz: Mateusz Łabuz, Mikołaj Małecki, Katarzyna Mika-Łabuz, Dziecięca pornografia w formie deep fakes: problemy wykładni na gruncie polskiego prawa karnego i propozycje legislacyjne, Prawo w Działaniu 2025, tom 61.

Maciej Wójcik: Przeglądając tak zwane rolki czy shorty w mediach społecznościowych widzimy coraz więcej obrazów czy filmików wygenerowanych przez sztuczną inteligencję. Potencjał deep fakes wykorzystywany jest obecnie do szerzenia dezinformacji, dyskredytacji, propagowania mowy nienawiści czy wpływania na procesy wyborcze. W jakim stopniu deep fakes stosuje się do tworzenia treści pornograficznych – szczególnie z udziałem małoletnich? Dane, o których Państwo wspominają w artykule są wręcz przerażające.

Mateusz Łabuz: Zagrożenia związane z deep fake’ami przez wiele lat były postrzegane głównie przez pryzmat dezinformacji o charakterze politycznym. Sądziliśmy, że staną się idealnym narzędziem do manipulacji okołowyborczych. Mimo że pojawiają się właściwie w każdej kampanii, nie były dotąd game changerem, nie wywróciły wyników żadnego głosowania do góry nogami. Prawdziwym game changerem okazały się w obszarze pornografii, także tej dotyczącej osób małoletnich.

Dziś stworzenie nieodróżnialnego od rzeczywistego zdjęcia czy wideo jest możliwe z wykorzystaniem darmowego i łatwego w obsłudze oprogramowania.

Mieliśmy niedawno dwie głośne sprawy. Najpierw, jesienią 2025 roku, polskiej nastolatki – rówieśnicy z podstawówki cyfrowo rozebrali jej zdjęcia i wrzucili do mediów społecznościowych. Policja i prokuratura nie dostrzegły w tym szkody osobistej, co samo w sobie było kuriozalne. Potem sprawa Groka i rozbierania fotek dziesiątek tysięcy internautek – to kobiety są głównym celem tego typu ataków.

Na to wszystko nakłada się łatwość, z jaką tworzone są syntetyczne treści pedofilskie. Biegli sądowi już mają pełne ręce pracy z analizą materiałów dowodowych i odróżnianiem tego, co prawdziwe od tego, co wygenerowane przy pomocy sztucznej inteligencji. To kolosalne problemy, a prawo w wielu krajach, w tym w Polsce, zwyczajnie nie nadąża za rozwojem technologii.

Mikołaj Małecki: Te przykłady jasno pokazują, że sposób prawniczego myślenia o pornografii musi ulec zmianie. Na czym polega pokrzywdzenie w przypadku deepfake’a? To nie tylko krzywda osobista, ale też zagrożenie dla przestrzeni publicznej jako takiej.

MW: Właściwie już od dawna występuje proces przenoszenia się przestępczości ze świata rzeczywistego do, ogólnie rzecz ujmując, przestrzeni internetowej. Jednak wydaje się, że sztuczna inteligencja generuje niespotykane wcześniej narzędzia dla rozwoju przestępczości.

MM: Odróżnijmy dwie kwestie. Rozwój AI i Internetu ułatwił popełnianie klasycznych przestępstw, np. oszustw czy kradzieży. Takie przestępstwa da się ścigać używając przepisów, które już istnieją. Ale powstały też zupełnie nowe zjawiska, nieznane wcześniej prawu karnemu. Dobrym przykładem jest patostreaming, ale też wszystko, co wiąże się z deepfake’ami.

MŁ: Deep fake’i to w wielu wypadkach narzędzie do wyniesienia znanych przestępstw na nowy poziom zaawansowania technologicznego. Znaczną część “nowych” przestępstw moglibyśmy typizować, dostosowując “stare” przepisy.

Przestępcy zawsze byli niezwykle kreatywni w wykorzystywaniu postępów technologicznych, prawnicy powinni szukać odpowiedzi, a nie wymówek.

MW: W jaki sposób polskie prawo karne odnosi się obecnie do zjawiska deep fakes z udziałem małoletnich? Czy przepisy obowiązujące już dziś pozwalają na adekwatną prawnokarną reakcję na te zachowania?

MM: Art. 202 § 4b k.k. mówi o przetworzonych lub wytworzonych wizerunkach małoletniego. Przepis został wprowadzony jakiś czas temu do kodeksu karnego właśnie z powodu rozwoju nowych technologii. Jednak postęp technologiczny jest tak szybki, że dzisiaj ten przepis zaczyna chwytać nieporównywalne sytuacje, np. prymitywny kolaż wykonany w programie Paint i doskonały deepfake wygenerowany przez AI.

MŁ: W teorii wspomniany artykuł można podciągnąć pod dziecięcą pornografię w formie deep fake’ów. Nie ma przeszkód interpretacyjnych. Problem w tym, że rozjeżdżają nam się wówczas społeczna szkodliwość i kodeksowe sankcje. Czym różni się prawdziwa pornografia dziecięca od syntetycznej z perspektywy jej konsumenta, który nie jest w stanie odróżnić jednej od drugiej?

MW: Zwracają Państwo uwagę na ciekawy kazus sprawcy, który chce obejrzeć materiał z udziałem prawdziwego dziecka, a nieświadomie trafia na doskonały deep fake. Na pierwszy rzut oka jego zachowanie przypomina znaną nam konstrukcję usiłowania nieudolnego. Czy to poprawna kwalifikacja?

MM: Klasycznie byłoby to usiłowanie nieudolne posiadania treści z udziałem małoletniego do lat 15. Skoro to deepfake, nie jest możliwe dokonanie przestępstwa polegającego na posiadaniu filmu z rzeczywistym dzieckiem. Ale sprawca sądzi, że obcuje z treścią przedstawiającą rzeczywiste dziecko.

Sądzimy, że taki prawniczy opis tej sytuacji – klasycznie poprawny – nie jest już adekwatny. Argumentujemy, że nieodróżnialna, perfekcyjna podróbka wygenerowana przez AI powinna być uznana za treść z udziałem dziecka. Liczy się charakter treści, którą ktoś ogląda, a nie to, czy pokazuje ona rzeczywiste zdarzenie.

Przepis mówi o treści z udziałem małoletniego, a nie zdarzeniu z udziałem małoletniego, które jest zarejestrowane.

MŁ: Kluczowa będzie w tym wypadku analiza społecznej szkodliwości. Ustawodawca postanowił przecież napiętnować sam fakt posiadania określonych materiałów.

MW: Widząc te ogromne zagrożenia na myśl przychodzi wręcz od razu pytanie- czy AI powinniśmy kodyfikować? Tworzyć nowe typy czynów zabronionych? A może powinniśmy w pewnych przypadkach zakazywać korzystania ze sztucznej inteligencji? Czy w przyszłości możemy wyobrazić sobie np. środek karny w postaci zakazu korzystania z AI?

MŁ: To bardzo ciekawa koncepcja, choć zapewne byłaby trudna do egzekwowania w praktyce. AI absolutnie należy kodyfikować, i to szybciej niż później. W niektórych wypadkach wystarczą kosmetyczne zmiany lub dopisanie przepisów rozszerzających zakres tych już obowiązujących.

Nie dajmy sobie wmówić, że technologii o innowacyjnym potencjale nie da się regulować, zwłaszcza w przestrzeni karnej.

Taką narrację chętnie suflują zwolennicy niczym nieskrępowanego rozwoju, który nie bierze pod uwagę konsekwencji społecznych. Tymczasem w centrum zmian należy postawić człowieka i społeczeństwo. Brak adekwatnych przepisów lub problemy z wykładnią, jak choćby w przypadku art. 191a k.k. sprawiają, że ofiary niekonsensualnych syntetycznych treści o charakterze intymnym nie mają dziś zagwarantowanej adekwatnej ochrony, a sprawcy mają poczucie bezkarności.

MM: Wyobrażam sobie, że konkretny sprawca mógłby mieć orzeczony zakaz korzystania z AI, to znaczy używania programów, by generować określone treści. Pojawi się problem egzekucji, o którym wspomniał Mateusz.

Z pewnością pierwszym krokiem powinna być prawna regulacja wymuszająca oznaczanie treści stworzonych przez AI, które mogą wprowadzać w błąd. Tak by nie było dla nikogo wątpliwości, czy to, co oglądamy, przedstawia rzeczywiste sytuacje i ludzi, czy jedynie sztuczne podróbki. Nie ukrywajmy: filmy generowane przez AI i publikowane bez oznaczenia to dezinformacja. Takie treści realnie wprowadzają w błąd wielu ludzi, a to jest społecznie szkodliwe.

Rozmawiał: Maciej Wójcik- student prawa na Wydziale Prawa i Administracji Uniwersytetu Jagiellońskiego

Zdjęcie: Mateusz Łabuz i Mikołaj Małecki

Projekt dofinansowany ze środków budżetu państwa, przyznanych przez Ministra Nauki w ramach Programu Społeczna odpowiedzialność nauki II.

Artykuł Łabuz i Małecki dla Karne24.com: Deepfakes stały się game changerem w obszarze pornografii. AI trzeba uregulować pochodzi z serwisu Karne24.com.

Gościem programu 4 listopada 2024 r. był dr hab. Wojciech Ciszewski – adiunkt w Katedrze Teorii Prawa Uniwersytetu Jagiellońskiego, filozof.

Kodeks karny przewiduje szereg typów czynów zabronionych, które wiążą się z pornografią i prostytucją. W zakresie pornografii ustawodawca zdecydował się skryminalizować różne zachowania, uzależniając odpowiedzialność karną m.in. od tego, co przedstawia dana treść pornograficzna (np. pornografia dziecięca), a także od tego, w jaki sposób jest wykorzystywana (np. narzucenie odbioru pornografii). Natomiast z uwagi na to, że samo prostytuowanie się nie stanowi czynu zabronionego, kryminalizowane są zachowania wokół prostytucji, takie jak zmuszanie do prostytucji, stręczycielstwo, sutenerstwo czy kuplerstwo. Zagrożenia płynące z pornografii, prostytucji oraz w ogólności pracy seksualnej, czyli seksworkingu otwierają dyskusję dotyczącą zakresu kryminalizacji wiążących się z nimi zachowań.

Intencja, treść i rezultat

Znamiona „treści pornograficzne” nie są zdefiniowane w Kodeksie karnym. To wiąże się z problemem oddzielenia treści pornograficznych od treści erotycznych. Wojciech Ciszewski tłumaczył, że pierwsza intuicja związana z pojęciem „pornografia” dotyczy elementu treści, stanowiącego pierwsze kryterium pomocnicze, czyli tego, co jest prezentowane przykładowo na obrazku czy filmie. Takie zawężenie jest jednak niewystarczające, ponieważ chociażby podręcznik do anatomii może spełniać ten warunek. Drugim kryterium pomocniczym jest element intencji twórcy, czyli chęć wywołania pobudzenia seksualnego lub podniecenia u odbiorcy. Trzecim kryterium pomocniczym jest element rezultatu, a więc tego, czy dana treść, bez względu na intencję twórcy, rzeczywiście wywołuje pobudzenie seksualne lub podniecenie u odbiorcy.

Zdaniem Wojciecha Ciszewskiego definicja pornografii powinna obejmować trzy elementy – element intencji, element treści i element rezultatu.

Sąd Najwyższy Stanów Zjednoczonych w orzeczeniu z lat 70. ubiegłego wieku wskazał, że głównymi elementami definicji pornografii są: odwołanie się do niskich pobudek, tj. wywołania pobudzenia seksualnego lub podniecenia, biorąc pod uwagę standardy społeczne, a także niewykazywanie innego rodzaju wartości, tj. wartości artystycznych, politycznych, naukowych itp. Chodzi o zachowania o charakterze seksualnym podejmowane w szczególnie wulgarny sposób. Nie są to zatem wyłącznie akty seksualne. Wojciech Ciszewski tłumaczył, że mogą być takie materiały, które spełniają tylko jeden z trzech wskazanych elementów, ale do stwierdzenia, iż dana rzecz jest pornografią konieczne jest uwzględnienie wszystkich trzech elementów. W opinii Wojciecha Ciszewskiego nagranie audio (obejmujące wyłącznie dźwięk) może być treścią pornograficzną.

Prowadzący program dr hab. Mikołaj Małecki wskazał, że w orzecznictwie Sądu Najwyższego pojawiła się interpretacja, zgodnie z którą treścią pornograficzną jest również zdarzenie obserwowane na żywo. Taki pogląd generuje inny problem, ponieważ zgodnie z art. 202 § 4a k.k.: „Kto przechowuje, posiada lub uzyskuje dostęp do treści pornograficznych z udziałem małoletniego, podlega karze pozbawienia wolności od 3 miesięcy do lat 5”. Jeżeli uzyskanie dostępu do treści pornograficznych z udziałem małoletniego jest karalne, to dotyczy to wszystkich osób do 18. roku życia. Natomiast granica przyzwolenia na aktywność seksualną to 15. rok życia, ponieważ przestępstwo pedofilskie z art. 200 § 1 k.k. dotyczy osób poniżej lat 15. Z tego względu osoby między 15. a 18. rokiem życia mogą legalnie podejmować aktywność seksualną, ale gdyby przyjąć, że treścią pornograficzną jest również zdarzenie obserwowane na żywo, to takie osoby uzyskują w ten sposób dostęp do treści pornograficznych i popełniają przestępstwo z art. 202 § 4a k.k. Według Mikołaja Małeckiego treścią pornograficzną jest zdarzenie utrwalone, udokumentowane na jakimś nośniku, a nie obserwowane na żywo – jest to treść sensu stricto. Wojciech Ciszewski uważa, że w przywołanej interpretacji jest pewien sens, ponieważ jeżeli aktywność seksualna jest elementem spektaklu teatralnego, to wydaje się, iż poziom naganności jest podobny do oglądania filmu pornograficznego.

W art. 202 § 3 k.k. ustawodawca skryminalizował różne zachowania dotyczące treści pornograficznych związanych z prezentowaniem przemocy. Przedstawiciele doktryny zasadniczo uznają, że chodzi o prezentowanie rzeczywistej przemocy, czyli np. bicie bez zgody. Zastanawiające jest, czy również przemoc udawana, odgrywana na potrzeby pornografii nie realizuje znamienia „przemocy”.

W opinii Wojciecha Ciszewskiego dobór słów opisujących znamiona typu czynu zabronionego z art. 202 § 3 k.k. otwiera na wykładnię, która obejmuje również przemoc udawaną, odgrywaną – „przemoc za zgodą”.

Racje celowościowe przemawiają za tym, że oswajanie, uatrakcyjnianie przemocy w kontekście aktywności seksualnych jest szkodliwe. Wojciech Ciszewski podkreślił, że pornografia jest bardzo specyficzna, dlatego należy mieć to na uwadze przy kształtowaniu przepisów prawa.

Argument wolności czy szkód?

Wojciech Ciszewski tłumaczył, że zgodnie z feministycznym rozumieniem pornografii, wypromowanym przez Catharinę MacKinnon i Andreę Dworkin, które walczyły z głównym nurtem rozumienia pornografii, uznając go za krzywdzący i dyskryminujący dla kobiet, pornografia to każda sytuacja, w której kobieta, w trakcie aktu seksualnego, jest podporządkowana mężczyźnie. Przypadki, w których odgrywana jest scena zgwałcenia, przemocy fizycznej itd., to pornografia, która według autorek jest absolutnie niedopuszczalna w sensie moralnym, dlatego powinna być ścigana prawnie. Od pornografii Catharina MacKinnon i Andrea Dworkin odróżniają dopuszczalną erotykę, która przedstawia równościowy akt seksualny.

Jak zauważył Wojciech Ciszewski, rozumienie pornografii na gruncie prawnym to w dużym stopniu kwestia zajęcia stanowiska w sporze o metodologię interpretacji prawniczej.

Główny nacisk może być położony na interpretację językową, interpretację celowościową lub interpretację systemową. Wnioski, w zależności od przyjętego rodzaju interpretacji, mogą się różnić.

Wojciech Ciszewski tłumaczył, że w kontekście pornografii możliwe są różne rozwiązania. Możliwe jest dopuszczenie pornografii w pełnym zakresie, mniejsze (np. emisja wyłącznie po północy) lub większe (np. system licencji) ograniczenie jej dostępności, ograniczenie jej treści (np. z udziałem małoletniego, z prezentowaniem przemocy lub posługiwaniem się zwierzęciem – takie ograniczenie wprowadza art. 202 § 3 k.k.) lub całkowite zakazanie pornografii. Przekonywał, że jest to klasyczny problem z punktu widzenia filozofii społecznej. Z jednej strony argumentem jest wolność seksualna – człowiek ma prawo kształtować swoje życie seksualne, w tym ma prawo dostępu do antykoncepcji, ale także pornografii. Z drugiej strony argumentem są szkody, do których doprowadza pornografia – dostępność pornografii może prowadzić do pokrzywdzenia osób biorących udział w produkowaniu pornografii, szczególnie tych znajdujących się w trudnej sytuacji materialnej, a także do uzależnienia osób korzystających z pornografii. Podaje się również argument feministyczny, że pornografia erotyzuje hierarchie społeczne, których społeczeństwo chciałoby uniknąć, ponieważ najczęściej przedstawia przewagę mężczyzn nad kobietami ukazując ją jako w pewnym sensie atrakcyjną.

W przekonaniu Wojciecha Ciszewskiego pornografia powinna być w jakimś zakresie dozwolona.

Z pornografią wiążą się trzy główne etapy – produkowanie, udział i korzystanie. Mikołaj Małecki wskazał, że być może rozwiązaniem byłoby zakazanie produkowania pornografii w celach rynkowych. Wojciech Ciszewski skomentował, że argumenty za zakazem pornografii mają najczęściej charakter moralistyczny. Catharina MacKinnon i Andrea Dworkin twierdzą, że argument z wolności seksualnej przeważa argument z moralizmu, obyczajności. Natomiast podany wcześniej argument ze szkód w wielu przypadkach przeważa argument z wolności seksualnej.

Prostytucja jako seksworking

Znamię „prostytucja” nie jest zdefiniowane w Kodeksie karnym. Specyfika typów czynów zabronionych z Kodeksu karnego wymaga wyznaczenia granicy między produkowaniem i udziałem w produkowaniu pornografii a prostytucją. Kodeks karny zakazuje bowiem czerpania korzyści majątkowej z uprawiania prostytucji przez inną osobę. Kwestia ta sprowadza się do pytania, czy prostytuowanie się wymaga kontaktu fizycznego z drugą osobą, czy możliwe jest prostytuowanie się online. Jak wskazał Wojciech Ciszewski, zgodnie z najbardziej popularną definicją prostytucja to świadczenie usług seksualnych za wynagrodzeniem – precyzuje się przy tym, że usługi te są świadczone w sensie fizycznym.

Wojciech Ciszewski tłumaczył, że prostytucja to bardzo szczególny rodzaj seksworkingu.

Nie są to pojęcia zamienne. Podnosi się argument adekwatności, zgodnie z którym tradycyjnie rozumiana prostytucja jest czymś innym niż przypadek sekstelefonu czy striptizu. Pojęcie „seksworking” jest szersze zakresowo i obejmuje wszystkie te praktyki, włącznie z udziałem w produkowaniu pornografii. Twierdzi się bowiem, że pojęcie „seksworking” dąży do normalizacji pracy seksualnej, dlatego postuluje się, aby zachować odrębność definicyjną i zakresową pojęcia „prostytucja”, ponieważ jest ona bardziej groźna oraz wiąże się z potencjalnie większymi szkodami.

W ramach szeroko rozumianego seksworkingu problematyczna jest kwestia spełnienia wymogów dobrowolności i świadomości zgody na udział w produkowaniu pornografii w celach rynkowych. Podpisanie umowy obliguje do udziału w produkowaniu pornografii, co wywołuje pytanie, czy to nie stwarza sytuacji działania pod przymusem. Uznanie, że zawarcie umowy narusza warunki zgody, odnoszone standardowo do aktywności seksualnych, oznacza, iż udział w produkowaniu pornografii może wiązać się z przestępstwem zgwałcenia z art. 197 § 1 k.k. Chęć odstąpienia od wykonywania umowy może być przykładowo stłumiona koniecznością zapłaty odszkodowania albo naruszeniem samej umowy w razie odmowy wykonania polecenia przez przełożonego. Wojciech Ciszewski tłumaczył, że w kontekście umów cywilnoprawnych można podać dwa argumenty. Pierwszym argumentem jest to, że zleceniobiorca ma możliwość wycofania się z jej realizacji w konkretnej sytuacji i choć wiąże się to z różnymi ciężarami, jak np. koniecznością zapłaty odszkodowania czy niewypłaceniem wynagrodzenia, to nie jest to przymus. Drugim argumentem mogłoby być posłużenie się konstrukcją, choć ryzykowną, zgody domniemanej, która obowiązywałaby w przypadku seksworkingu, ale to wymagałoby znalezienia odpowiedniego powodu, aby uznać taką pracę za coś szczególnego.

Według Wojciecha Ciszewskiego podejścia prawne do prostytucji można pogrupować na cztery modele. Spośród nich dwa modele kierują się w stronę legalizacji prostytucji, a dwa modele – w stronę kryminalizacji prostytucji. Pierwszy model (pełnej legalizacji) zakłada, że państwo nie powinno wprowadzać żadnych regulacji dotyczących prostytucji, która powinna stanowić swego rodzaju wolną działalność gospodarczą. Drugi model (regulacji) zakłada, że państwo powinno dopuszczać prostytucję, ale ponieważ pod istotnymi względami różni się ona od innych działalności człowieka konieczne jest wprowadzenie szczególnych regulacji dotyczących prostytucji, w tym m.in. zakazu udziału małoletnich, przepisów BHP. Trzeci model (pełnej kryminalizacji) zakłada, że państwo powinno kryminalizować prostytucję, w równym stopniu obie strony, które uczestniczą w takim zachowaniu. Czwarty model (częściowej kryminalizacji) zakłada, że państwo powinno częściowo kryminalizować prostytucję, tj. stronę korzystającą z usług prostytucyjnych, a także zachowania innych osób, które czerpią korzyści z prostytucji, czy nakłaniają lub ułatwiają prostytuowanie się. Wskazane modele mogą w pewnych zakresach funkcjonować jednocześnie.

Państwo może w różny sposób ukształtować swoją reakcję na zachowania związane z pornografią oraz prostytucją czy szerzej – seksworkingiem. Wybór uzależniony jest przede wszystkim od ustosunkowania się do argumentów leżących na dwóch biegunach – wolności seksualnej i szkód, które mogą wyniknąć z tego rodzaju zachowań. Analiza przepisów prawa polskiego prowadzi do wniosku, że ustawodawca bierze pod uwagę oba te argumenty i choć dopuszcza pornografię i prostytucję, dając prymat wolności seksualnej, to kryminalizuje niektóre ich formy, uwzględniając szkody, których niebezpieczeństwo wystąpienia jest wysokie.

#ŁĄCZYNASKARNE

P***grafia P***tytucja S***working. Co wolno, a czego nie? – 4 listopada 2024 r., gość: dr hab. Wojciech Ciszewski

Program popularnonaukowy ŁĄCZY NAS KARNE jest emitowany na żywo na YouTube, w sezonie 2024 w poniedziałki w godz. 20:00-21:00, oraz dostępny jako podcast na platformach streamingowych.

Kliknij i przeczytaj więcej o programie ŁĄCZY NAS KARNE.

Publikacja dofinansowana ze środków budżetu państwa, w ramach programu Ministra Edukacji i Nauki pod nazwą Społeczna odpowiedzialność nauki II.

Autor: Mateusz Wiktorek – Szkoła Doktorska Nauk Społecznych, Katedra Prawa Karnego, Wydział Prawa i Administracji Uniwersytetu Jagiellońskiego

Artykuł P***grafia P***tytucja S***working. Co wolno, a czego nie? – ŁĄCZY NAS KARNE z dr. hab. Wojciechem Ciszewskim pochodzi z serwisu Karne24.com.