Malo je slučajeva u povijesti čovječanstva za kojih je sva sila znanstvenika bila toliko uzbuđena kao što je to bio slučaj kada su njemački fizičar Otto Hahn i njegov asistent Fritz Strassmann 1938. otkrili nuklearnu fisiju. Novootkrivenu energiju kojoj su neke od prvih primjena bile uporaba nuklearnih reaktora za proizvodnju električne energije, liječenje raka i sterilizaciju medicinske opreme te konzerviranje hrane, svijet je dočekao s oduševljenjem, raširenih ruku, ni ne sluteći da će ta ista energija biti zaslužna za stravična razaranja s kakvima se civilizacija nikada prije u svojoj povijesti nije susrela i sijanje straha od nuklearnog oružja i desetljećima nakon njezinog otkrića.
Lažna pornografija
Ništa manje svijet nije uzbuđen ni danas, na pomolu metaverzuma i u vremenu sve prisutnije umjetne inteligencije koja svakodnevno pomiče granice zamislivoga, i više nego jasno utječući na sve sfere naših života, sviđalo se to nama ili ne. I dok jedni napeto sjede u prvom redu jedva čekajući sve što nam tek slijedi, ima i nas, zluradih proroka, koji sve promatramo s velikim oprezom i strahopoštovanjem, znajući da je društvo oduvijek bilo vjerno Murphyjevom zakonu iliti onoj da će, sve što može krenuti po zlu, doista i krenuti. A prije no što nas se netko usudi prozvati pesimistima, reći ćemo samo da je sve što je iza nas poprilično samoobjašnjavajuće u ovom kontekstu.
Puno se ovih dana priča o umjetnoj inteligenciji, deepfakeu, ChatGPT-u, metaverzumu i svim ostalim čudima moderne tehnologije koja su sa sobom donijela čitav niz pojmova za čije nam savladavanje treba puno radno vrijeme, no malo se priča o tome kako će AI utjecati na neke grane i industrije koje su nam, kada je AI u pitanju, vjerojatno posljednje na pameti. Jedna od njih je i pornografija odnosno lažna pornografija, a koja je nešto što uzima sve više maha, tjerajući nas da se zapitamo bi li svatko od nas trebao biti s razlogom zabrinut.
Lažnjaci koji izgledaju prilično uvjerljivo
Studija u časopisu ‘Cyberpsychology, Behavior, and Social Networking’ deepfake slike definira kao sintetizirani materijal u kojem je lice osobe postavljeno na drugo tijelo, navodeći kako je većina deepfakeova pronađenih na internetu pornografska, dok ljudi prikazani u njima iznimno rijetko pristaju na stvaranje i objavljivanje ovakvih sadržaja. Deepfake tehnologija nije nova pojava. Štoviše, ljudi već nekoliko desetljeća režu i lijepe glavu jedne osobe na tijelo druge i objavljuju rezultate na internetu, no donedavno, ovakvi nas sadržaji baš i nisu uspijevali zavarati i lažnjaci su bili i više no očiti. Danas, to više nije slučaj.
Vrhunska lažna odnosno umjetno stvorena slika koja je još jučer bila rezervirana za holivudske majstore specijalnih efekata, danas je postala besplatna i jednostavna za korištenje uz tehnologije kao što su Dall-E i Lensa, a što znači da gotovo svatko može proizvesti seksualno eksplicitan sadržaj bez pristanka ili znanja osoba koje on uključuje. A ako vas ovo slučajno ne plaši, znajte da bi trebalo i da nismo paranoici koji pušu na hladno. Jer je scenarij otvaranja maila i pronalaska vaše pornografske slike koju nikada niste snimili niti na nju pristali itekako moguć, pa čak i ako vam nikada do sada nije pao na pamet ni u najgoroj noćnoj mori. I jer je isto tako itekako moguće da ta ista slika ili video bude poslana vašem partneru, obitelji ili poslodavcu ili jednostavno objavljena na porno stranicama diljem svijeta.
Narušavanje privatnosti, gubitak posla, psihičke traume
Deepfake pornografija može biti veliki problem za žrtve jer ona ne samo da uništava seksualnu privatnost žrtava, već njezina postojanost na internetu sprječava njihovu sposobnost da se osjećaju sigurno i pronađu ili zadrže posao. Kristen Zaleski, direktorica forenzičkog mentalnog zdravlja na Klinici za ljudska prava Keck u USC-u, nedavno je rekla za ‘Washington Post’ da je radila s učiteljicom koja je izgubila posao upravo nakon što su roditelji i njezini kolege doznali za lažnu pornografiju koja je koristila njen lik.
Nije poznato je li slike stvorio i objavio ljutiti bivši dečko, nezadovoljni učenik ili čak potpuni stranac koji je vidio njezino lice na društvenim mrežama i odlučio ga pričvrstiti na tuđe golo tijelo, no u ovoj je priči to najmanje bitno. Ono što je bitno je da je nedužna učiteljica seksualizirana na vrlo javan način, bez pristanka, s ozbiljnim posljedicama za nju i bez posljedica za nepoznatog počinitelja.
Donošenje zakona o deepfakeu
A ako postoji nešto tragičnije od ovoga što se njoj, ali i brojnim drugim žrtvama dogodilo, onda je to poražavajuća činjenica da je svaka žrtva ujedno i žrtva pravosuđa jer deepfake pornografija još uvijek nije nezakonita, a što znači da žrtve jednostavno mogu sjesti i plakati. Da, Sjedinjene Države donijele su Nacionalnu inicijativu za umjetnu inteligenciju još prije dvije godine, ali to je tek inicijativa, a ne dio kaznenog zakona.
Ništa bolja situacija nije ni u zemljama Europske unije, iako EU radi na donošenju nekih zakona o deepfakeu. Dok oni koji stvaraju deepfake uvijek iznova pronalaze načine da djeluju anonimno, pritom zaobilazeći sve zapreke koje im stoje na putu, zakonodavstvo kasni, ostavljajući žrtve prepuštene svoj nemilosti društva u kojem žive.
Ucjenjivanje umjetno generiranim slikama
Ne moramo pritom ni reći da su žrtve gotovo pa redovito žene. Jedna nedavna studija izvijestila je da je 96% žrtava deepfakea seksualizirano, a gotovo sve su žene, iako su i muškarci, a osobito političari, pa čak i djeca, također bili zlostavljani na ovaj način. Isto istraživanje otkrilo je da su mnoge žrtve uznemiravane ili ucjenjivane umjetno generiranim slikama. No, koji god motiv nastanka lažne pornografije bio u pitanju, veliki problem je i to što, kada se jednom pojavi na internetu, gotovo zauvijek ostaju tu. Čak i ako kreator osjeća grižnju savjesti i ukloni početne objave, gotovo je sigurno da će ih netko drugi preuzeti i ponovno objaviti.
Sve ono što je još jučer bilo samo scenarij kakvog horor SF filma, danas je opasnost koja prijeti poigravanjem ljudskim životima i emocijama na najbolnije načine, a tehnologija koja je sve to omogućila bacila je novo svjetlo na sve odnose koje živimo: loš prekid odjednom može poprimiti sasvim novu dimenziju; nasumični stranac može počiniti seksualno zlostavljanje s tisuću kilometara udaljenosti… Nažalost, svatko je u opasnosti. Pa čak i vi.
Naslovna fotografija: Shutterstock
