Deep fakes to treści audio lub wizualne wyprodukowane przy użyciu sztucznej inteligencji, które naśladują treści autentyczne lub prawdziwe. Są przejawem podróbki, czegoś fałszywego, choć jednocześnie imitującego rzeczywistość. Współcześnie w wielu przypadkach są one niemal nieodróżnialne od treści prawdziwych. Dla przykładu, eksperymenty wykazały, że ludzie nie są w stanie odróżnić prawdziwych od wygenerowanych przez sztuczną inteligencję twarzy, uznając nawet te drugie za bardziej godne zaufania.

Kodeks karny wymaga dostosowania do gwałtownego rozwoju nowoczesnych technologii, aby możliwe było bardziej adekwatne kwalifikowanie tworzenia i udostępniania dziecięcej pornografii w formie deep fakes. Autorzy artykułu proponują oparcie oceny społecznej szkodliwości na epistemicznej wartości mediów syntentycznych i praktycznych konsekwencjach multiplikacji deep fakes.

Zróżnicowana społeczna szkodliwość

W art. 202 § 4b k.k. ustawodawca skryminalizował produkowanie, rozpowszechnianie, prezentowanie, przechowywanie i posiadanie treści pornograficznych przedstawiających wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej. Pozwala on na ściganie przestępstw popełnionych z wykorzystaniem technologii deep fake. Z uwagi jednak na to, że przepis ten został uchwalony przed wykształceniem i upowszechnieniem technologii deep fake, to nie jest już w stanie w pełni odpowiadać na zróżnicowane wyzwania prawne związane z rozwojem sztucznej inteligencji.

Autorzy artykułu zauważają, że rozwój technologii deep fake doprowadził do rozdźwięku między stopniem społecznej szkodliwości poszczególnych zachowań związanych z syntetycznymi treściami o charakterze pedofilskim a ustawowym zagrożeniem karą. Według nich konieczne jest zweryfikowanie zasadności różnicowania kryminalizacji różnego rodzaju zachowań dotyczących prawdziwych treści pornograficznych z udziałem małoletnich oraz tych wytworzonych w formie deep fakes. Tym bardziej, że według przywołanych szacunków z 2023 r., nawet 98% wszystkich deep fakes w formie wideo stanowiły treści pornograficzne.

Jak przekonują autorzy, z biegiem czasu art. 202 § 4b k.k. zaczął pochłaniać zbyt szerokie i zróżnicowane spektrum zachowań sprawczych.

Wynika z tego, że: „Zachowania obejmujące wytworzony lub przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej są penalizowane niezależnie od poziomu doskonałości i wiarygodności materiału pornograficznego. W omawianym przepisie mieszczą się zarówno treści w postaci CSAM [materiałów przedstawiających wykorzystywanie seksualne dzieci – M.W.] w formie deep fakes osiągające pułap nieodróżnialności od treści prezentujących rzeczywiste dzieci, jak również przeróbki rozpoznawalne na pierwszy rzut oka jako przedstawiające osoby lub sytuacje, które nie zdarzyły się naprawdę, a także odzwierciedlenia graficzne w postaci rysunków, szkiców, animacji czy obrazów wykonanych techniką malarską”.

Wszystko to oznacza, że art. 202 § 4b k.k. gromadzi w sobie sytuacje w gruncie rzeczy współcześnie nieporównywalne, co wydaje się wymagać interwencji ustawodawcy i lepszego odzwierciedlenia specyfiki deep fakes w Kodeksie karnym.

Kryterium rozpoznawalności, a nie rzeczywistości

Zasadniczym postulatem autorów artykułu jest podniesienie do rangi tego samego typu czynu zabronionego obcowania z treściami, które ze wszech miar jawią się jako pornografia z udziałem rzeczywistego dziecka, choć stanowią jedynie nieodróżnialne deep fakes. Kodeks karny nie dostrzega różnicy między przetworzonymi lub wytworzonymi wizerunkami małoletnich w przypadku deep fakes, które są nieodróżnialne, od pornografii z udziałem rzeczywistego dziecka. Ustawodawca oparł bowiem typizację na kryterium „rzeczywistości” (pornografia z udziałem dzieci vs. pornografia pozorująca udział dzieci).

Według autorów adekwatniejszym byłoby przyjęcie kryterium rozpoznawalności danego typu treści jako pornografii dziecięcej, a dokładniej – kryterium odróżnialności albo nieodróżnialności.

Autorzy artykułu argumentują przy tym, że kryterium rozpoznawalności możliwe jest do wdrożenia w praktyce stosowania prawa bez konieczności nowelizacji Kodeksu karnego. Podkreślają, że nie ma interpretacyjnych podstaw, aby de lege lata odrzucać możliwość traktowania nieodróżnialnych, doskonałych deep fakes na równi z pornografią z udziałem rzeczywistego dziecka. Chodzi bowiem o „treści z udziałem małoletniego”, a nie o „zdarzenie z udziałem małoletniego”. Ponadto kryterium nieodróżnialności deep fakes nawiązuje do poglądów wyrażanych przez Sąd Najwyższy dotyczących rozpoznawalności danej sytuacji faktycznej jako dającej podstawy do stosowania obrony koniecznej w rozumieniu art. 25 § 1 k.k., zatem nie jest obce prawu karnemu.

Zdolność adaptacji Kodeksu karnego pokazuje, że nie każda zmiana w rzeczywistości – tak jak w przypadku technologii deep fake – wymaga interwencji ustawodawcy. Warto jednak pamiętać, że wykładnia adaptacyjna ma swoje granice, które wyznacza m.in. zasada określoności prawa. W przeciwnym razie „adaptacja” mogłaby stać się „legislacją”, a to godziłoby w fundamenty demokratycznego państwa prawnego.

Artykuł: M. Łabuz, M. Małecki, K. Mika-Łabuz, Dziecięca pornografia w formie deep fakes – problemy wykładni na gruncie polskiego prawa karnego i propozycje legislacyjne, „Prawo w Działaniu” 2025, t. 61, s. 54–84, https://doi.org/10.32041/pwd.6103.

Autor: Mateusz Wiktorek – Szkoła Doktorska Nauk Społecznych, Katedra Prawa Karnego, Wydział Prawa i Administracji Uniwersytetu Jagiellońskiego

Grafika: Gemini

Projekt dofinansowany ze środków budżetu państwa, przyznanych przez Ministra Nauki w ramach programu Społeczna odpowiedzialność nauki II.

Artykuł Łabuz, Małecki i Mika-Łabuz: nie każde pornograficzne deep fakes należy traktować tak samo pochodzi z serwisu Karne24.com.