Prawo w Działaniu > 61/3

Mateusz Łabuz, Mikołaj Małecki, Katarzyna Mika-Łabuz

 

Dziecięca pornografia w formie deep fakes – problemy wykładni na gruncie polskiego prawa karnego i propozycje legislacyjne

Child pornography in the form of deep fakes – potential problems under Polish criminal law and proposals for changes


Prawo w Działaniu 2025, tom 61

https://doi.org/10.32041/pwd.6103

Streszczenie

 

Przedmiotem opracowania jest problematyka kwalifikowania tworzenia i udostępniania dziecięcej pornografii w formie deep fakes na gruncie polskiego prawa karnego, a także propozycje nowelizacji wybranych artykułów Kodeksu karnego dotyczących tej kwestii. Generowane lub modyfikowane przez sztuczną inteligencję treści audio lub wizualne, ze względu na jakość syntezy, są współcześnie niemal nieodróżnialne od treści prawdziwych. Upowszechnienie technologii doprowadziło do istotnego zwiększenia liczby mediów syntetycznych cyrkulujących w przestrzeni informacyjnej, co obejmuje także materiały pornograficzne przedstawiające wizerunek małoletnich w formie deep fakes. Zagadnienie to nie było dotychczas przedmiotem poszerzonej analizy w polskiej doktrynie. Rzadko pojawia się w globalnym dyskursie na temat szkodliwości deep fakes. Niniejsze opracowanie ma na celu zaproponowanie zmian ustawodawczych, które umożliwią dostosowanie przepisów do gwałtownego rozwoju nowoczesnych technologii, a przez to bardziej adekwatne kwalifikowanie tworzenia i udostępniania dziecięcej pornografii w formie deep fakes. Autorzy proponują oparcie oceny szkodliwości społecznej na epistemicznej wartości syntetycznych mediów i praktycznych konsekwencjach multiplikacji deep fakes.

 

Abstract

 

The subject of the paper is qualifying the creation and sharing of child pornography in the form of deep fakes under Polish criminal law, including proposals for amending selected articles of the Penal Code. Due to the quality of synthesis, audio or visual content generated or modified by artificial intelligence is now almost indistinguishable from real content. The dissemination of technology has led to a significant increase in the number of synthetic media circulating in the information space, which also includes pornographic materials depicting minors in the form of deep fakes. This issue has not yet been the subject of an extensive analysis in the Polish doctrine. The topic rarely appears in the global discourse on the harmfulness of deep fakes. The aim of this study is to propose legislative changes that will enable the regulations to be adapted to the rapid development of modern technologies, and thus to more adequately qualify the creation and sharing of child pornography in the form of deep fakes. The authors propose an assessment of social harm based on the epistemic value of synthetic media and the practical consequences of the multiplication of deep fakes.



Bibliografia (References)

 

  1. 2023 State of Deepfakes, https://www.homesecurityheroes.com/state-of-deepfakes.
  2. Adamski A., Karnoprawna ochrona dziecka w sieci Internet, Prokuratura i Prawo 2003, nr 9.
  3. Adamski A., Opinia do projektu ustawy z druku nr 458 Rządowy projekt ustawy o zmianie ustawy – Kodeks karny oraz niektórych innych ustaw, Toruń 2008.
  4. Appel M., Prietzel F., The detection of political deepfakes, Journal of Computer-Mediated Communication 2022, nr 27(4), https://doi.org/10.1093/jcmc/zmac008.
  5. Bae G., Young J., South Korea has jailed a man for using AI to create sexual images of children in a first for country’s courts, https://edition.cnn.com/2023/09/27/asia/south-korea-child-abuse-ai-sentenced-intl-hnk/index.html.
  6. Basaj K., Czym jest deepfake?, Biuletyn Akademickiego Centrum Komunikacji Strategicznej 2021, nr 2.
  7. Bennett Moses L., Recurring Dilemmas: The Law’s Race to Keep Up With Technological Change, UNSW Law Research Paper 2007, nr 21, https://doi.org/10.2139/ssrn.979861.
  8. Bielski M., 202, [w:] Kodeks karny. Część szczególna, t. 2, cz. 1, Komentarz do art. 117–211a, red. W. Wróbel, A. Zoll, Warszawa 2017.
  9. Błachut J., Pozorowana pornografia dziecięca, Państwo i Prawo 2005, nr 4.
  10. Boté-Vericad J.-J., Vállez M., Image and video manipulation: The generation of deepfakes, [w:] Visualisations and narratives in digital media. Methods and current trends, red. P. Freixa, L. Codina, M. Pérez-Montoro, J. Guallar, Barcelona 2022, https://doi.org/10.3145/indocs.2022.8.
  11. Boutadijne A., Harrag F., Shaalan K., Karboua S., A comprehensive study on multimedia DeepFakes, International Conference on Advances in Electronics, Control and Communication Systems (ICAECCS) 2023, https://doi.org/10.1109/icaeccs56710.2023.10104814.
  12. Budyn-Kulik M., Kulik M., [w:] Kodeks karny. Część szczególna, t. 1, red. M. Królikowski, R. Zawłocki, Warszawa 2017.
  13. Chesney B., Citron D., Deep fakes: A Looming Challenge for Privacy, Democracy, and National Security, California Law Review 2019, nr 107(18).
  14. Claburn T., Child psychiatrist jailed after making pornographic AI deep-fakes of kids, https://theregister.com/2023/11/10/child_psychiatrist_sentenced_ai.
  15. Crawford A., Smith T., Illegal trade in AI child sex abuse images exposed, https://www.bbc.com/news/uk-65932372.
  16. de Ruiter A., The Distinct Wrong of Deepfakes, Philosophy & Technology 2021, nr 34(4), https://doi.org/10.1007/s13347-021-00459-2.
  17. Director General Graeme Biggar launches National Strategic Assessment, https://www.nationalcrimeagency.gov.uk/news/director-general-graeme-biggar-launches-national-strategic-assessment.
  18. Eelmaa S., Sexualisation of children in deepfakes and hentai, Trames. Journal of the Humanities and Social Sciences 2022, nr 26(76/71), https://doi.org/10.3176/tr.2022.2.07.
  19. Europol, Facing reality? Law enforcement and the challenge of deepfakes, an observatory report from the Europol Innovation Lab, Luxembourg 2022.
  20. Fallis D., The Epistemic Threat of Deepfakes, Philosophy & Technology 2021, nr 34(4), https://doi.org/10.1007/s13347-020-00419-2.
  21. Farid H., Schindler H.-J., Deep fakes. On the Threat of Deep Fakes to Democracy and Society, Berlin 2020.
  22. Farid H., Yes, we should regulate AI-generated political ads — but don’t stop there, https://thehill.com/opinion/campaign/4151633-yes-we-should-regulate-ai-generated-political-ads-but-dont-stop-there.
  23. Geddes K.G., Ocularcentrism and Deepfakes: Should Seeing Be Believing?, Fordham Intellectual Property, Media and Entertainment Law Journal 2021, nr 31(4).
  24. Gienas K., Zjawisko rozpowszechniania pornografii dziecięcej za pośrednictwem internetu, Palestra 2004, nr 3–4.
  25. Głuchowski M., Karalność tworzenia i rozpowszechniania fałszywych treści pornograficznych deepfake, Czasopismo Prawa Karnego i Nauk Penalnych 2023, z. 4.
  26. Groh M., Sankaranarayanan A., Singh N., Kim D.Y., Lippman A., Picard R., Human detection of political deepfakes across transcripts, audio, and video, https://arxiv.org/abs/2202.12883.
  27. Harwell D., AI-generated child sex images spawn new nightmare for the web, https://www.washingtonpost.com/technology/2023/06/19/artificial-intelligence-child-sex-abuse-images.
  28. How real is deepfake threat?, https://www.kaspersky.com/blog/deepfake-darknet-market/48112.
  29. Huijstee van M., van Boheemen P., Das D., Nierling L., Jahnel J., Karaboga M., Fatun M., Kool L., Gerritsen J., Tackling deepfakes in European policy, Brussel 2021.
  30. Hypś S., [w:] Kodeks karny. Komentarz, red. A. Grześkowiak, K. Wiak, Warszawa 2024.
  31. INHOPE, Global CSAM Legislative Overview, Amsterdam 2024.
  32. Internet Watch Foundation, How AI is being abused to create child sexual abuse imagery, Cambridge 2023.
  33. Kerner C., Risse M., Beyond Porn and Discreditation: Epistemic Promises and Perils of Deepfake Technology in Digital Lifeworlds, Moral Philosophy and Politics 2021, nr 8(1), https://doi.org/10.1515/mopp-2020-0024.
  34. Kłączyńska N., 202, [w:] Kodeks karny. Część szczególna. Komentarz, red. J. Giezek, Warszawa 2014.
  35. Konarska-Wrzosek V., 202, [w:] Kodeks karny. Komentarz, red. A. Lach, J. Lachowski, T. Oczkowski, I. Zgoliński, A. Ziółkowska, Warszawa 2023.
  36. Krueger N., Vananmala M., Dave R., Recent Advancements In The Field Of Deepfake Detection, https://arxiv.org/abs/2308.05563.
  37. Lipiński K., 202, [w:] Kodeks karny. Część szczególna. Komentarz, red. J. Giezek, Warszawa 2021.
  38. Łabuz M., Deep fakes and the Artificial Intelligence Act—An important signal or a missed opportunity?, Internet & Policy 2024, nr 16(4), https://doi.org/10.1002/poi3.406.
  39. Łabuz M., Nehring C., On the way to deep fake democracy? Deep fakes in election campaigns in 2023, European Political Science 2024, nr 23, https://doi.org/10.1057/s41304-024-00482-9.
  40. Łabuz M., Regulating Deep Fakes in the Artificial Intelligence Act, Applied Cybersecurity & Internet Governance 2023, nr 2(1), https://doi.org/10.60097/ACIG/162856.
  41. Maddocks S., ‘A Deepfake Porn Plot Intended to Silence Me’: exploring continuities between pornographic and ‘political’ deep fakes, Porn Studies 2020, nr 7(4), https://doi.org/10.1080/23268743.2020.1757499.
  42. Maham P., Küspert S., Governing General Purpose AI, Berlin 2023.
  43. Mariusz Trynkiewicz skazany na 5,5 roku. Doklejał twarze dzieci do zdjęć aktów seksualnych, https://www.gazetaprawna.pl/wiadomosci/artykuly/886149,mariusz-trynkiewicz-skazany-na-55-roku-doklejal-twarze-dzieci-do-zdjec-aktow-seksualnych.html.
  44. Messaoudi M.S., A fake video with one photo, https://medium.com/analytics-vidhya/a-fake-video-with-one-photo-2ea2650db3c2.
  45. Mitchell K.J., Gewirtz-Meydan A., Finkelhor D., O'Brien J.E., Jones L.M., The mental health of officials who regularly examine child sexual abuse material: strategies for harm mitigation, BMC Psychiatry 2023, https://doi.org/10.1186/s12888-023-05445-w.
  46. Mozgawa M., 202, [w:] Kodeks karny. Komentarz aktualizowany, red. M. Budyn-Kulik, P. Kozłowska-Kalisz, M. Kulik, M. Mozgawa, LEX/el. 2024.
  47. Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy, Raport 2022, Warszawa 2022.
  48. Nguyen T.T., Nguyen Q.V.H., Nguyen D.T., Nguyen D.T., Huynh-The T., Nahavandi S., Nguyen T.T., Pham Q.-V., Nguyen C.M., Deep Learning for Deepfakes Creation and Detection: A Survey, SSRN Electronic Journal 2022, https://doi.org/10.2139/ssrn.4030341.
  49. Nightingale S.J., Farid H., AI-synthesized faces are indistinguishable from real faces and more trustworthy, PNAS 2022, nr 119(8), https://doi.org/10.1073/pnas.2120481119.
  50. Öhman C., Introducing the pervert’s dilemma: a contribution to the critique of Deepfake Pornography, Ethics and Information Technology 2020, nr 22, https://doi.org/10.1007/s10676-019-09522-1.
  51. Okolie C., Artificial Intelligence-Altered Videos (Deepfakes), Image-Based Sexual Abuse, and Data Privacy Concerns, Journal of International Women’s Studies 2023, nr 25(2).
  52. Olson A., The Double-Side of Deepfakes: Obstacles and Assets in the Fight Against Child Pornography, Georgia Law Review 2022, nr 56(2).
  53. Piórkowska-Flieger J., 202, [w:] Kodeks karny. Komentarz, red. T. Bojarski, Warszawa 2016.
  54. Police and child protection agency say parents need to know about sexually explicit AI deepfakes, https://protectchildren.ca/en/press-and-media/news-releases/2024/AI-deepfakes.
  55. Rigotti C., McGlynn C., Towards an EU criminal law on violence against women: The ambitions and limitations of the Commission’s proposal to criminalise image-based sexual abuse, New Journal of European Criminal Law 2022, nr 13(4), https://doi.org/10.1177/20322844221140713.
  56. Rini R., Deepfakes and the Epistemic Backstop, Philosophers’ Imprint 2020, nr 20(24).
  57. Schick N., Deep fakes and the Infocalypse, Ottawa 2020.
  58. Siemkowicz P., Przestępstwa o charakterze pedofilskim i przeciwko wolności seksualnej popełniane przez internet w ujęciu polskiego kodeksu karnego, Czasopismo Prawa Karnego i Nauk Penalnych 2011, nr 1.
  59. Staciwa K., Wykorzystywanie seksualne dzieci w cyberprzestrzeni, Warszawa 2023.
  60. Theimer K., Hansen D.J., Child sexual abuse: Stigmatization of victims and suggestions for clinicians, Behavior Therapist 2018, nr 41.
  61. Thiel D., Identifying and Eliminating CSAM in Generative ML Training Data and Models, Stanford 2023.
  62. Twomey J., Ching D., Aylett M.P., Quayle M., Linehan C., Murphy G., Do deepfake videos undermine our epistemic trust? A thematic analysis of tweets that discuss deepfakes in the Russian invasion of Ukraine, PLoS ONE 2023, nr 18(10), https://doi.org/10.1371/journal.pone.0291668.
  63. Vaccari C., Chadwick A., Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News, „Social Media + Society” 2020, nr 6(1), https://doi.org/10.1177/2056305120903408.
  64. Viejo M., In Spain, dozens of girls are reporting AI-generated nude photos of them being circulated at school: ‘My heart skipped a beat’, https://english.elpais.com/international/2023-09-18/in-spain-dozens-of-girls-are-reporting-ai-generated-nude-photos-of-them-being-circulated-at-school-my-heart-skipped-a-beat.html.
  65. Walczyna T., Piotrowski Z., Quick Overview of Face Swap Deep fakes, Applied Sciences 2023, nr 13, https://doi.org/10.3390/app13116711.
  66. Warylewski J., Nazar K., 202, [w:] Kodeks karny. Komentarz, red. R.A. Stefański, Warszawa 2023.
  67. Warylewski J., Przestępstwa przeciwko wolności seksualnej i obyczajności, [w:] System Prawa Karnego, t. 10, Przestępstwa przeciwko dobrom indywidualnym, red. J. Warylewski, Warszawa 2016.
  68. Wasiuta O., Wasiuta S., Deepfake jako skomplikowana i głęboko fałszywa rzeczywistość, Annales Universitatis Paedagogicae Cracoviensis. Studia de Securitate 2019, nr 9(3), https://doi.org/10.24917/26578549.9.3.2.
  69. Wieczorek S., Kubiak M., Ryzyka i szanse wynikające z rozwoju nowych technologii w branży mediowej na przykładzie zjawiska deep fake – analiza prawna, Monitor Prawniczy 2019, nr 21.
  70. Ziobroń A., Deepfake a prawo karne. Uwagi „de lege lata” i „de lege ferenda” dotyczące fałszywej pornografii, Studenckie Prace Prawnicze, Administratywistyczne i Ekonomiczne 2021, nr 37, https://doi.org/10.19195/1733-5779.37.15.
Artykuł PDF

Jak cytować (How to cite this)

 

 

M. Łabuz, M. Małecki, K. Mika-Łabuz, Dziecięca pornografia w formie deep fakes – problemy wykładni na gruncie polskiego prawa karnego i propozycje legislacyjne, Prawo w Działaniu 2025, t. 61, https://doi.org/10.32041/pwd.6103

 


 


 

 

 

Loading