Dr Mateusz Łabuz – naukowiec w Instytucie Badań nad Pokojem i Polityką Bezpieczeństwa przy Uniwersytecie w Hamburgu (IFSH) – jest autorem książki ,,Przed waszą erą”, w której poddaje analizie miejsce człowieka w świecie coraz bardziej zdominowanym przez sztuczną inteligencję. W wywiadzie dla Karne24.com odpowiada na fundamentalne pytania o to, jak prawo karne może odnaleźć się w rzeczywistości, w której nie mamy pewności co jest prawdziwe, a przestępstwa przybierają nowe, zaskakujące odmiany.
Łukasz Śliz: Jak wygląda świat „Przed waszą erą”, nawiązując do tytułu Pana książki? Czy to oznacza koniec jakiejś epoki, czy może bardziej jest to przestroga, by zapobiec końcowi naszej ery?
Mateusz Łabuz: Tytuł mojej książki to jednocześnie diagnoza i ostrzeżenie. Piszę wprost, że jeszcze żyjemy w erze człowieka, ale nie powinniśmy zapominać, że stoimy u progu końca naszej absolutnej dominacji. 30 listopada 2022 roku, gdy zadebiutował ChatGPT, wyznaczyliśmy nową cezurę, otworzyliśmy nowy etap algorytmizacji naszego życia. Choć maszyny wpuściliśmy do naszej rzeczywistości znacznie wcześniej, inaczej niż w przypadku szachowej rozgrywki Kasparowa z Deep Blue w 1997 roku, tym razem przełom dotyczył samego rdzenia komunikacji i poznawania świata. W ciągu niecałych trzech lat ChatGPT stał się swego rodzaju nawykiem komunikacyjnym, nowym punktem odniesienia dla wielu z nas. Jakimś wszechmocnym bytem, do którego coraz częściej udajemy się po informacje, po radę, a nierzadko po emocje. Cóż z tego, że wygenerowane i udawane, skoro tak silnie rezonujące w nas samych. Tytuł to zatem zaproszenie do refleksji: jeśli teraz nie zdefiniujemy granic naszej podmiotowości, za niedługo nie będzie czego wyznaczać.
ŁŚ: Czy pojęcie „rzeczywistość” ma dziś inne znaczenie, gdy weźmiemy pod uwagę aktywność AI?
MŁ: Zdecydowanie tak, i to na kilku poziomach. Straciliśmy jedną z podstawowych heurystyk poznawczych, która towarzyszyła nam od wieków. Chodzi o niemal całkowite zaufanie do tego, co widzimy. Przez ponad sto lat nagrania wideo były przecież wiarygodnym dowodem tego, jak wyglądała rzeczywistość. Także na sali sądowej. W dobie generatywnej sztucznej inteligencji, gdy właściwie każda treść może być zmanipulowana lub wprost wygenerowana, a my nie jesteśmy w stanie odróżnić takich materiałów od prawdziwych, musimy redefiniować nasze podejście do autentyczności i możliwości jej weryfikacji. To rodzi ogromne wyzwania. Wyobraźmy sobie zalew deepfake’ów przedstawianych jako dowody w postępowaniu karnym. Czy jesteśmy na to gotowi? Rzeczywistość oczywiście wciąż istnieje, nie zniknęła. Stawiam jednak tezę, że dzisiaj można ją łatwo duplikować, reżyserować i przetwarzać. Zdolność weryfikacji z kolei staje się nowym rodzajem kompetencji, której większość z nas po prostu nie posiada, a którą szybko musimy nabyć – zarówno w wymiarze indywidualnym, społecznym, jak i instytucjonalnym, choćby po to, żeby system sądownictwa nie padł nam pod naporem syntetycznego świata.
ŁŚ: Prawo karne reaguje na rzeczywiste przestępstwa. W swojej książce zwraca Pan uwagę, że w niektórych przypadkach nie jest istotna rzeczywistość, ale to, czy coś jawi się jako rzeczywiste. Jakie to sytuacje?
MŁ: Tutaj pewnie musielibyśmy wdać się w rozważania filozoficzne na temat tego, co właściwie jest rzeczywiste. To, że jakaś scena została wygenerowana oznacza tyle, że nie miała miejsca w realnym świecie. Ale istnieje w cyfrowym. I tam musimy traktować ją z równą powagą, co prawdziwe nagranie czy zdjęcie. Najbardziej oczywisty przykład to syntetyczna pornografia dziecięca, czyli CSAM wytwarzane przy użyciu sztucznej inteligencji.
Syntetyczny charakter materiałów nie znosi ani ich szkodliwości, ani odpowiedzialności sprawcy.
Takie treści wzmacniają popyt, normalizują wyobrażenia o wykorzystywaniu nieletnich i eskalują zachowania przestępcze. To samo dotyczy niekonsensualnych treści o charakterze intymnym z dorosłymi osobami, głównie kobietami. Dla wielu z nich kontakt z wygenerowanymi fotografiami to ekstremalne przeżycie, czasem porównywane wręcz do gwałtu. Przeżywane w sposób realny. Prawo powinno reagować nie tylko na to, co wydarzyło się w świecie fizycznym, ale na to, co jawi się jako rzeczywiste w świadomości ofiary i społeczeństwa, bo skutki tej pozornej rzeczywistości są jak najbardziej prawdziwe.
ŁŚ: Co powinno zmienić się w prawie w przypadku pornografii i jej produkcji z użyciem deepfakes?
MŁ:
Przede wszystkim trzeba uczciwie powiedzieć: przespaliśmy osiem lat.
Pierwsze deepfake’owe treści intymne pojawiły się w 2017 roku. Deep porn stanowi wciąż znaczną część wszystkich deepfake’ów w sieci, a w zdecydowanej większości przypadków ofiarami są kobiety. Co powinno się zmienić? Jednoznaczna kryminalizacja tworzenia i dystrybucji niekonsensualnych syntetycznych treści o charakterze intymnym. Unia Europejska zrobiła krok w dobrym kierunku, mamy dyrektywę antyprzemocową, niedawno zadeklarowano zbanowanie aplikacji pozwalających na tzw. „rozbieranie zdjęć” („nudifying apps”). Kluczowe są jednak działania na poziomie krajowym. Tutaj mamy wiele do zrobienia, także w Polsce, gdzie obecny art. 191a k.k. jest kontestowany i nie gwarantuje adekwatnej ochrony ofiarom. Prace nad jego rozszerzeniem trwają. Konieczne jest też twarde egzekwowanie odpowiedzialności platform cyfrowych, ponieważ tworzą ekosystem sprzyjający przemocy. To musi się zmienić – kompleksowo i możliwie szybko.
ŁŚ: Pisze Pan o cyfrowych śmieciach. Czy zaśmiecanie Internetu powinno być karalne, tak jak zaśmiecanie ulicy czy parku?
MŁ: To niezwykle ciekawa obserwacja. Intuicja jest na pewno celna, ale totalny zakaz byłby w tym momencie krokiem idącym za daleko i w praktyce trudnym do egzekwowania. Internet nie jest przestrzenią publiczną w tym samym sensie co ulica, ale na pewno warto rozważyć, czy nie powinien być w podobny sposób traktowany. Prof. Małecki zgłaszał tego typu uwagi podczas prac sejmowej komisji zajmującej się patostreamingiem. Moim zdaniem, zdecydowanie warto pochylić się nad taką interpretacją. Problem w tym, że cyfrowe śmieci są tworzone globalnie, masowo, przez tysiące podmiotów jednocześnie, a czasem ich wartość jest trudna do uchwycenia. Coś, co jednej osobie wydaje się tzw. AI slopem, dla innych może być źródłem doskonałej rozrywki lub wręcz sztuką. To zresztą klasyczny problem dyskusji na temat penalizowania dezinformacji, gdzie mielibyśmy do czynienia z niezwykłą uznaniowością i licznymi kontrowersjami w kwalifikowaniu potencjalnie szkodliwych treści. Na pewno konieczne są zabezpieczenia na poziomie kognitywnym, chociażby obowiązkowe oznaczanie treści generowanych przy użyciu sztucznej inteligencji. Zdecydowanie więcej miejsca należy też poświęcić przeciwdziałaniu skoordynowanym sieciom nieautentycznych kont. Tutaj widzę silny punkt zaczepienia i obszar do zagospodarowania przez prawo karne. I nie chodzi o to, że coś będziemy kwalifikować jako „śmieć”, ale o zachowania, które powodują istotne szkody społeczne i są oparte na oszustwie.
ŁŚ: A może zakazać korzystania z AI w jakichś konkretnych sytuacjach? Np. czy wyobraża Pan sobie przepisy, które zakazują tworzenia spotów wyborczych przy użyciu AI i w ogóle używania go w kampanii wyborczej?
MŁ: Całkowity zakaz byłby technicznie niemożliwy do wyegzekwowania. Trudno bowiem wyznaczyć sztywną granicę używania sztucznej inteligencji, skoro część delikatnych modyfikacji może być oparta o zautomatyzowane filtry, które są aktualnie standardem. Na pewno jednak narodowe komisje wyborcze powinny opracować wytyczne dotyczące reklamy politycznej i dopuszczalności głębokości ingerencji w nagrania przedstawiające osoby kandydujące. Za niedługo możemy mieć spory problem, gdy w sieci zaczną nam hasać awatary polityków napędzane potęgą generatywnej sztucznej inteligencji i będziemy bombardowani przez wideo delikatnie zmieniające cechy przedstawianych postaci. Z czasem wręcz targetowane pod konkretnych odbiorców. To, co powinno być bezwzględnie wymagane, to zakaz deepfake’ów przedstawiających polityków bez ich zgody, szczególnie w kontekście wyborczym oraz szybkie mechanizmy usuwania takich treści przez platformy. I przede wszystkim edukacja.
Jeśli na poważnie myślimy o ochronie demokracji, musimy zdawać sobie sprawę z konsekwencji upowszechnienia się syntetycznych treści.
Deepfake’i nie muszą „odwrócić wyniku wyborów”, by szkodzić demokracji. Wystarczy, że pogłębiają polaryzację i zniechęcają obywateli do partycypacji i deliberacji. A mamy już sporo przykładów tego typu działań. Podczas prawyborów w Partii Demokratycznej w USA syntetyczny głos Joe Bidena był wykorzystywany w automatycznych połączeniach telefonicznych z mieszkańcami New Hampshire i namawiał ich do pozostania w domach.
ŁŚ: Czy tytuł Pana książki będzie aktualny za 50 lat, czy może będzie wówczas trzeba przygotować nowe wydanie: „W waszej erze”? A może nie musimy się tego obawiać?
MŁ: Nie mam pojęcia, ale jako autor, naukowiec i po prostu człowiek życzyłbym sobie, by tytuł był aktualny jak najdłużej. To by oznaczało, że wciąż nie znajdujemy się w jakiejś fazie „Po Naszej Erze”. W zakończeniu książki piszę, że „nie odzyskamy już pełnej kontroli nad technologią”. To, niestety, realistyczne podejście. Algorytmy na trwałe wpisały się w historię ludzkości. Za 50 lat tytuł będzie aktualny o tyle, o ile sami zdecydujemy, że chcemy zachować to, co przez wieki sprawiało, że czuliśmy się częścią wspólnoty, że byliśmy wyjątkowi, że mogliśmy z dumą mówić, że to nasza era. Jeśli miałbym mówić o „Waszej erze” – wolę, żeby była erą przyszłych pokoleń, które będą nieco mądrzejsze od nas, a nie erą, w której po prostu daliśmy się zastąpić.
Rozmawiał: Łukasz Śliz – student prawa na Wydziale Prawa i Administracji Uniwersytetu Jagiellońskiego
Zdjęcie: Moldova Security Forum
Projekt dofinansowany ze środków budżetu państwa, przyznanych przez Ministra Nauki w ramach Programu Społeczna odpowiedzialność nauki II.
