Deepfake pornografija je oblika digitalne manipulacije, kjer se z uporabo umetne inteligence ustvari ponarejene videoposnetke ali slike, ki združujejo obraz resnične osebe s telesom v spolno eksplicitnem kontekstu. Ta tehnologija temelji na algoritmih globokega učenja, ki analizirajo in rekonstruirajo obrazne značilnosti, kar omogoča ustvarjanje realističnih, a lažnih vsebin. Deepfake pornografija je problematična, ker krši zasebnost posameznikov in povzroča resno psihološko škodo, hkrati pa je pravno težko ukrepati proti storilcem zaradi narave digitalnih ponaredkov in šifriranih platform, kjer se širijo.

Anonimne grožnje in širjenje lažnih slik

Prejšnjo soboto je študentka Heejin (ime je spremenjeno) prejela sporočilo na aplikaciji Telegram od anonimnega pošiljatelja: "Vaše slike in osebni podatki so bili razkriti. Pogovoriva se." Ko je odprla klepetalnico, je zagledala svojo staro fotografijo iz časa, ko je bila še v šoli. Kmalu je sledila druga slika, kjer je bil njen obraz pritrjen na telo v spolno eksplicitnem kontekstu. Fotografija je bila lažna, vendar je bila videti zelo realistična.

Prestrašena Heejin ni odgovorila na sporočila, vendar so lažne slike še naprej prihajale. Na vseh je bil njen obraz pritrjen na telo, ki je sodelovalo v spolnih dejanjih, kar je bilo ustvarjeno z uporabo napredne deepfake tehnologije. "Bila sem prestrašena in počutila sem se zelo samo," je povedala za BBC.

Novinarka razkrinka problematiko

Le dva dni pred Heejinino izkušnjo je južnokorejska novinarka Ko Narin objavila članek, ki je razkril obsežno mrežo deepfake pornografije. Preiskava je pokazala, da policija preiskuje deepfake pornografske mreže na dveh večjih univerzah v državi. Ko je novinarka začela raziskovati družbena omrežja, je odkrila na desetine klepetalnic na aplikaciji Telegram, kjer so uporabniki delili fotografije žensk, ki so jih poznali, in uporabljali programsko opremo AI za hitro ustvarjanje lažnih pornografskih slik.

"Vsako minuto so ljudje nalagali fotografije deklet, ki so jih poznali, in prosili, da jih spremenijo v deepfake slike," je povedala gospa Ko. Ugotovila je, da te skupine niso ciljale le študentk, ampak tudi srednješolke in celo osnovnošolke. Obstajale so sobe, posvečene določenim šolam, in če je bilo ustvarjenih veliko vsebin s slikami določenega dekleta, je lahko celo dobila svojo sobo.

Policijska preiskava in pozivi k ukrepanju

Po objavi njenega članka v časopisu Hankyoreh je Južna Koreja ostala v šoku. V ponedeljek je policija napovedala, da razmišlja o preiskavi aplikacije Telegram zaradi njene vloge pri širjenju lažnih pornografskih slik. Sledijo zgledu francoskih oblasti, ki so nedavno obtožile ustanovitelja Telegrama za omogočanje deljenja otroške pornografije. Vlada je obljubila strožje kazni za vse vpletene in predsednik je pozval k boljši izobrazbi mladih moških o spoštovanju žensk.

Telegram je v izjavi za BBC dejal, da se " aktivno bori proti škodljivi vsebini na svoji platformi, vključno z nezakonito pornografijo." Vendar pa so aktivisti za pravice žensk oblasti v Južni Koreji obtožili, da so predolgo dopuščale spolno zlorabo na Telegramu. Leta 2019 je že prišlo do podobnega škandala, ko je bila razkrita spolna mreža, ki je izsiljevala ženske in otroke za ustvarjanje spolno eksplicitnih slik.

Naraščajoča zaskrbljenost in pozivi k strožjim ukrepom

V zadnjem tednu je Južnokorejski center za žrtve spletne spolne zlorabe (ACOSAV) zabeležil znatno povečanje števila mladoletnih žrtev deepfake pornografije. Leta 2023 so svetovali 86 najstniškim žrtvam, v prvih osmih mesecih tega leta pa se je ta številka povečala na 238. V zadnjem tednu se je prijavilo še 64 novih najstniških žrtev. Poleg svetovanja žrtvam center sodeluje z spletnimi platformami za odstranjevanje škodljivih vsebin. Medtem ko nova AI tehnologija omogoča hitrejše in lažje ustvarjanje teh vsebin, pa aktivisti trdijo, da je potreben večji nadzor in regulacija platform za zaščito državljanov.

Strukturni seksizem in potreba po spremembah

Organizacije za pravice žensk opozarjajo, da je pravi vzrok za to krizo strukturni seksizem in da je potrebna večja enakopravnost spolov. Prejšnje izkušnje s tem kažejo, da je ta problematika globoko zakoreninjena in da zahteva takojšnje ukrepanje ter dolgoročne rešitve za zaščito žrtev in kaznovanje storilcev. Krizna situacija s deepfake pornografijo v Južni Koreji kaže na nujnost strožjih ukrepov za zaščito mladih in žrtev ter povečanje odgovornosti tehnoloških podjetij pri preprečevanju zlorab na spletu.