‚Na té fotce mi je 14.‘ Mladé ženy čelí falešným nahým fotografiím, české zákony ale ‚deepfakes‘ neřeší
Všechny dostaly zprávu, že po internetu koluje jejich nahá fotografie, ani jedna z nich ji však nevyfotila. Server iROZHLAS.cz přináší výpovědi tří mladých žen, jejichž fotky byly zneužity k výrobě pornografického obsahu za použití umělé inteligence. K produkci tzv. „deepfakes“ pachatelé využívají i nezletilé dívky. „Současná právní úprava v Česku rozhodně neposkytuje rychlé a efektivní řešení situace,“ upozorňuje právnička Veronika Barešová.
„Pamatuji si to živě. Hrála jsem večer hru, když mi přišla od neznámého profilu zpráva o tom, že po internetu koluje moje nahá fotografie,“ popisuje dvaadvacetiletá Simona (redakce její identitu zná, ale respektuje její přání zůstat v anonymitě).
„Vybavuji si, jak jsem četla tu notifikaci a úplně mě polilo horko a panika, co, kde, a jaká fotka se kam mohla dostat, protože jsem nikomu nic neposílala,“ vzpomíná.
‚Každá žena bude mít falešné nahé fotky.‘ Do výroby porna vstupuje AI, problém s dětskou nahotou zůstává
Číst článek
Napadlo ji, že by mohlo jít o mstu (tzv. revenge porn) z strany bývalého přítele, se kterým měla špatné zkušenosti. Nakonec ale tuto možnost vyloučila. Šlo totiž o fotku, kterou nikdy vědomě nepořídila. Někdo totiž z její oblečené fotografie vytvořil tzv. „deepfake“, falešnou nahou fotografii vygenerovanou umělou inteligencí.
„Chtěla jsem to nechat smazat, ale nemohla jsem s tím nic dělat. Ten večer jsem nemohla usnout,“ popisuje Simona. Její falešná nahá fotografie se šířila primárně skrz sociální síť telegram. „Zkoušela jsem to dohledat, ale bohužel jsem zjistila, že jde o skupinu, do které je třeba pozvánka.“
Obtížné stíhání
Podobnou zkušenost jako Simona má i jednadvacetiletá influencerka Sophie Šarláková. Právě ta svůj zážitek před týdnem veřejně sdílela na X (dříve twitteru) a upozornila tak na problém, který nekonsenzuální deepfake nahé fotografie pro mladé dívky představují.
„Přišla mi žádost o zprávu na instagram od chlapce, který mi nejdřív napsal ‚máš malé kozy‘ a později vyhrožoval vytvořením nahých fotek pomocí umělé inteligence, to jsem však ignorovala. Když mi ale začaly chodit zprávy, že na telegramu je vygenerovaná moje nahá fotka a lidé mi to začali posílat, začala jsem být znepokojená,“ popisuje Sophie pro iROZHLAS.cz.
Sex od 15 let, sexting legálně až od 18, varuje policie. Posílání intimních fotek je mezi dospívajícími běžné
Číst článek
„Byl to šok, nečekala jsem, že to vážně udělá. Naštěstí ta moje fotka není úplně uvěřitelná, ale myslela jsem na spoustu holek, kterým to může vážně ublížit,“ upozorňuje.
Obrátila se na policii, která případ vyhodnotila jako přestupek. „Stíhání pachatelů je s ohledem na specifika kybernetického prostoru často obtížné a zdlouhavé, a to zejména s poukázáním na bezhraniční povahu internetu a anonymitu, kterou nabízí,“ vysvětluje právnička Veronika Barešová, která nedávno vystoupila na téma genderově podmíněného násilí v kyberprostoru na konferenci mladých právních vědců COFOLA.
Barešová v těchto případech doporučuje shromažďovat důkazy, jako například snímky obrazovky, a následně provést kroky ke stažení závadného obsahu s konkrétní platformou.
‚Bylo mi čtrnáct‘
Influencerka Šarláková má na Instagramu a X (dříve twitteru) v součtu přes 140 tisíc sledujících. Nahé fotografie vytvořené za použití umělé inteligence však v současnosti ohrožují i dívky, které nejsou veřejně aktivní, což dokazuje zkušenost dnes dvaadvacetileté Kláry (i její pravou identitu redakce zná, ale na její přání nezveřejňuje).
„Před nějakou dobou mi na instagram začaly chodit otravné zprávy, že někdo dal mou nahou fotku na telegram,“ uvádí. Fotografii však tentokrát doprovodily i její osobní údaje, včetně odkazu na její instagramový účet.
Umělá inteligence je schopná generovat dětskou pornografii, komplikuje pátrání po reálných obětech
Číst článek
„Spousta mužů mě následně začala žádat o sledování a nějaké nejspíš falešné profily holek mi poslaly přímo tu fotku. Z toho jsem zjistila, že jde o fotografii, kterou jsem zveřejnila, když mi bylo čtrnáct,“ popisuje.
„Cítila jsem hlavně naštvání, že to někdo dělá. Napadlo mě, že by se to mohlo někdy objevit třeba u pohovoru,“ vysvětluje s obavou, že by fotografii, ačkoliv není skutečná, mohl někdo zneužít. „Naštěstí mi tam není vidět do obličeje, takže to není tak hrozné,“ dodává však. Případ potom raději „hodila za hlavu“, protože nevěděla, jestli by vůbec bylo možné situaci nějak řešit.
„V takovém případě je situace jiná,“ poukazuje právnička Barešová. „Pokud se jedná o osobu mladší 18 let, lze takové jednání kvalifikovat jako trestný čin výroby a jiného nakládání s dětskou pornografií dle paragrafu 192 trestního zákoníku.“
„V případě dětských obětí je trestná jak výroba, tak i přechovávání, nabídnutí nebo učinění takového materiálu veřejně přístupným,“ vysvětluje. Na druhou stranu Barešová dodává, že u dospělých obětí samotné vytvoření pornografického deepfake snímku trestné většinou nebude.
Zájem o deepfakes roste
„Falešné nahé fotky má dnes na internetu už i kdejaká obyčejná slečna. Většina z nich o tom navíc ani neví, přitom jejich fotky mohou kolovat po skupinách už nějakou dobu,“ tvrdí čtyřiadvacetiletá Zuzana. Pod přezdívkou Zuki se sama aktivně pohybuje v erotickém průmyslu, své explicitní fotografie vědomě sdílí předplatitelům na platformě OnlyFans. Díky tomu má prý tak vhled do skupiny lidí, kteří falešné nahé fotky vytvářejí.
OnlyFans mění svět porna. Platit za něj je zase trendy, bezpečnost ale drhne
Číst článek
Dříve podle ní šlo o problém, který se týkal primárně celebrit a influencerek. „Lidé je chtěli vidět nahé, přišlo jim to sexy,“ popisuje.
„Takové fotky se vytvářejí už nějakou dobu, alespoň dva až tři roky. Teď se ale rozšířily,“ upozorňuje Zuki, která tvrdí, že nejčastěji se jedná o uzavřené komunity na platformách telegram a reddit.
To potvrzují například i data o trendech ve vyhledávání výrazů, jako je „deepfake“ či „deepfake porn“. Podle údajů společnosti Google se zájem od roku 2020 více než zdvojnásobil.
V září pak Španělskem otřásl případ skupiny chlapců, kteří na internetu šířili deepfake fotografie více než dvaceti nezletilých dívek mezi jedenácti a sedmnácti lety z okolí města Almendralejo.
Podle letošního průzkumu zveřejněného magazínem Wired se pornografický obsah vytvořený za použití umělé inteligence vymyká kontrole. Jen v roce 2023 ho zřejmě bude vyprodukováno víc, než ve všech předchozích letech dohromady.
Balkan Insight: Srbské ženy popisují zničující dopady porna z pomsty
Číst článek
Roste také počet nástrojů, které deepfake pornografii vytvářejí. Ať už jde o aplikace na výměnu obličeje ve videích, nebo nástroje, které „svléknou“ oblečenou ženu na fotografii a vytvoří tak falešnou nahou fotku – Wired predikuje, že pomocí těchto systémů vznikají miliony falešných fotografií. A ve velké míře bez souhlasu vyobrazené osoby.
Role Istanbulské úmluvy
Oběti deepfake fotografií, které někdo vytvořil bez jejich vědomí, však v současném českém právním systému stojí v obtížné pozici. Vzhledem k tomu, že jde stále o poměrně nový fenomén, státní orgány často neví, jak k nim přistupovat – a legislativa je výslovně nijak neřeší.
„Většina odborníků se shoduje na tom, že šíření zmanipulovaného materiálu je možné kvalifikovat jako trestný čin poškození cizích práv,“ míní právnička Barešová. „Ten je často splněn samotnou podstatou deepfake, která spočívá v tom, že se tvůrce snažil vyvolat dojem, že jde o skutečný materiál.“
„V úvahu také připadá trestný čin pomluvy, případně je možné využít i civilní žaloby. Současná právní úprava ale rozhodně neposkytuje rychlé a efektivní řešení situace,“ potvrzuje.
Situaci by podle Barešové mohla významně pomoct vyřešit ratifikace Istanbulské úmluvy. „Přestože samotný text kybernetické násilí explicitně neobsahuje, první obecné doporučení expertní skupiny pro potírání násilí vůči ženám a domácího násilí obsahuje výklad Istanbulské úmluvy pro užití v online sféře,“ uvádí. Podle tohoto doporučení by se nemělo rozlišovat mezi „offline“ a online násilím.
‚Nadbytečný ideologický dokument‘. Senátní výbory nepodpořily ratifikaci takzvané Istanbulské úmluvy
Číst článek
Čeští zákonodárci se však zatím k Istanbulské úmluvě staví rezervovaně. Letos v létě ji senátní výbory označily za „nadbytečný ideologický dokument“, finální stanovisko by měla horní komora zaujmout zřejmě do konce roku.
„V legislativním procesu je také aktuálně návrh směrnice Evropského parlamentu, který obsahuje mimo jiné i požadavek kriminalizace závažných forem kybernetického násilí,“ doplňuje Barešová. Jeden z bodů této směrnice konkrétně reaguje na manipulování s videem a fotografií bez souhlasu vyobrazené osoby.
Řada států přitom již reagovala na nebezpečí, které falešné nahé fotografie a nekonsenzuální deepfake pornografie přestavují. Svou legislativu upravily země jako Belgie, Irsko nebo Španělsko. V Anglii a Walesu dokonce vznikly nové trestné činy, které postihují deepfake a další formy kybernetického násilí, jako třeba revenge porn.
Experti se také shodují, že kybernetické násilí, včetně šíření falešných nahých fotografií, může mít výrazné dopady na duševní zdraví obětí. Přestože fotografie není skutečná, nedobrovolná sexualizace, která ji provází, vyvolává následné pocity studu i zneužití.
