Wrzucasz zdjęcie, AI je „rozbiera”. Sejm chce karać za seksualne deepfake'i

Projekt zmian w Kodeksie karnym ma trafić do Sejmu w ciągu kilkunastu dni – zapowiedziała, jak podaje Radio Zet, Monika Rosa, przewodnicząca sejmowej Komisji ds. Dzieci i Młodzieży. Nowe przepisy mają pozwolić na karanie za przerabianie i rozpowszechnianie wygenerowanych przez sztuczną inteligencję zdjęć o charakterze seksualnym, czyli tzw. deepfake'ów.

Problem jest coraz poważniejszy, bo do stworzenia takiego materiału nie potrzeba prawdziwego nagiego zdjęcia. Wystarczy zwykła fotografia pobrana choćby z mediów społecznościowych. Narzędzia wykorzystujące AI potrafią na jej podstawie wygenerować realistyczny obraz przedstawiający daną osobę nago albo w sytuacji seksualnej.

Prawo nie nadążyło za sztuczną inteligencją

I właśnie tutaj pojawia się problem z obecnymi przepisami.

Art. 191a Kodeksu karnego przewiduje odpowiedzialność m.in. za rozpowszechnianie bez zgody wizerunku nagiej osoby lub osoby podczas czynności seksualnej. Przepis powstawał jednak w rzeczywistości, w której chodziło przede wszystkim o prawdziwe zdjęcia i nagrania.

W przypadku deepfake'u taki obraz nigdy nie istniał. AI może stworzyć nagie ciało i połączyć je z twarzą konkretnej osoby. Podczas prac sejmowych wskazywano, że rodzi to poważne wątpliwości, czy art. 191a obejmuje również taki przypadek. Przedstawiciel Biura RPO mówił wprost o luce w kryminalizacji.

Nowelizacja ma tę lukę zamknąć i wprost objąć przepisami seksualne treści wygenerowane lub przetworzone cyfrowo.

Takie przypadki już się zdarzają

Nie jest to problem wyłącznie teoretyczny. W marcu prezes Urzędu Ochrony Danych Osobowych zawiadomił prokuraturę po tym, jak w mediach społecznościowych pojawiło się przerobione przy użyciu AI zdjęcie nauczycielki. Kobieta na zmanipulowanej fotografii została przedstawiona nago.

PRZECZYTAJ TEŻ: AI „rozebrało” nauczycielkę. "Czuję się skrzywdzona"

UODO zajmował się także sprawą nieletniej, której zdjęcie zostało przekształcone przy użyciu sztucznej inteligencji w materiał mogący być postrzegany jako pornograficzny. Prezes urzędu zwracał wówczas uwagę, że przerabianie wizerunku konkretnej osoby oznacza również przetwarzanie jej danych osobowych.

Deepfake już teraz może oznaczać kłopoty

Nie oznacza to jednak, że seksualne deepfake'i są obecnie całkowicie bezkarne.

W zależności od konkretnej sytuacji zastosowanie mogą mieć przepisy dotyczące m.in. kradzieży tożsamości, zmuszania, rozpowszechniania nagiego wizerunku bez zgody, pornografii, zniesławienia, znieważenia czy nielegalnego przetwarzania danych osobowych. UODO podkreśla jednak, że obecne regulacje dają jedynie wybiórczą ochronę i nie odpowiadają w pełni na możliwości współczesnych narzędzi AI.

CZYTAJ: Zamość: Emeryt rozebrał się w sądzie do bokserek. Takiego numeru nie pamiętają najstarsi pracownicy…

Co ciekawe, Kodeks karny już dziś posługuje się pojęciem wizerunku „wytworzonego albo przetworzonego” w przepisach dotyczących treści pornograficznych z udziałem małoletnich. Takiego doprecyzowania nie ma jednak w art. 191a.

Zmiany i tak wymusza Unia

Polska będzie musiała zmierzyć się z problemem także w związku z prawem unijnym. Dyrektywa dotycząca zwalczania przemocy wobec kobiet przewiduje rozwiązania odnoszące się do cyfrowo wygenerowanych intymnych materiałów. Państwa członkowskie mają czas na jej wdrożenie do 27 czerwca 2027 roku.

Zapowiadany projekt może więc sprawić, że polskie przepisy zostaną zmienione wcześniej.

Na razie nie znamy jednak ostatecznego brzmienia projektu ani dokładnych sankcji, jakie miałyby grozić za seksualne deepfake'i. Kluczowa będzie treść nowelizacji po jej złożeniu w Sejmie.