50 diáklány fotóival éltek vissza a deepfake technológia segítségével

Ausztráliában pár hete letartóztattak egy tinédzsert, miután egy Melbourne-től északnyugatra fekvő iskola 50, 14 és 18 év körüli diáklányáról a deep fake technológia segítségével készült explicit képsorozatot terjesztett az interneten. Az iskola igazgatója elmondta, hogy a diáklányok arcképeit közösségimédia-oldalakról szedte le a fiatal, és a mesterséges intelligenciával manipulálta őket, hogy obszcén képeket készítsen. Érthető módon óriási felháborodást keltett az eset, az érintett lányokat pedig pedig erősen traumatizálták a történések.

Az egyik diáklány anyukája maga is látta a képeket és "hihetetlenül élethűnek" nevezte őket. Elmondta, hogy a lánya nagyon feldúlt volt, rosszul is lett a képeket látva. Amikor megosztunk egy-egy fotót, nem szabad elfelejtenünk, hogy az AI technológia fejlődésével nő a visszaélések lehetősége, ami még inkább rávilágít a digitális biztonsággal kapcsolatos oktatás és tudatosság szükségességére.

Mint ahogy Kirra Pendergast a Safe on Social és az Online Safety Academy vezetője mondja „a GenAi 2022 novemberében való robbanásszerű terjedése óta azt tanácsolom a diákoknak, szülőknek és tanároknak, hogy változtassanak azon, mit és hol osztanak meg magukról. Hiszen egyetlen képernyőfotó elég ahhoz, hogy egy kép mindenhová eljusson.” Az iskoláknak is egyértelműen többet kellene foglalkozni a kiberbiztonsággal, de a szülők felelőssége is, hogy mit csinálnak a gyerekeik a neten. Előszeretettel posztolgatnak a szülők a gyerekekről a közösségi médiában a születésüktől kezdve, családi összejövetelekről, játszóterezésekről, kirándulásokon át, balett órákról a ballagásig. Azonban meg kell értenünk, hogy onnantól kezdve, hogy feltöltöttünk egy fotót az internetre, nincs rendelkezésünk felette. Bárki megoszthatja, letöltheti, módosíthatja és felhasználhatja, úgy ahogy kedve tartja. A szülők felelőssége, hogy ezt megtanítsák a gyerekeiknek is.

Sandra Cortesi, a Harvard Egyetem Berkman Klein Center for Internet & Society igazgatója úgy nyilatkozott: „Ha a szülők úgy döntenek, hogy nem osztanak meg fotókat a gyermekeikről, és azt is elmagyarázzák nekik, hogy miért nem, az segíthet a gyerekeknek abban, hogy később ők is jobb döntéseket hozzanak e tekintetben”. Cortesi azt javasolta, ha lehetséges, a szülők vonják be a gyerekeket ezekbe a beszélgetésekbe. Ha azt látják a gyerekeink, hogy megbeszéljük velük ezeket a dolgokat, hogy megkérdezzük, lefotózhatjuk-e őket, hogy elküldhetjük -e a nagyszülőknek a fotókat, hogy megoszthatjuk-e a nagyobb közönség előtt a közösségi médiában a róluk készült képeket, akkor sokkal nagyobb eséllyel fogják ők is feltenni maguknak ugyanezeket a kérdéseket. Maguk is meggondolják majd, hogy posztoljanak, küldjenek-e fotót magukról, vagy ami ugyanannyira fontos, hogy épp ők kérjenek-e valakitől, vagy manipuláljanak valakiről fotókat.