Az Egyesült Királyság szabályozója tiltani akarja azokat az alkalmazásokat, amelyek mélyfajta képeket készíthetnek a gyermekekről
Egy új jelentés szerint az Egyesült Királyság gyermekbiztosa tiltja az AI Deepfake alkalmazások tilalmát, amelyek meztelen vagy szexuális képeket készítenek a gyermekekről. Azt állítja, hogy ilyen "lyukasztás" Az alkalmazások annyira elterjedtek, hogy sok lány abbahagyta a fényképek közzétételét a közösségi médiában. És bár a CSAM -képek létrehozása vagy feltöltése illegális, a Deepfake meztelen képek létrehozásához használt alkalmazások továbbra is törvényesek.
"A gyerekek azt mondták nekem, hogy megijeszti őket az a gondolat, hogy ez a technológia még rendelkezésre áll, nem is beszélve. Attól tart, hogy bárki – idegen, osztálytárs vagy akár barát – használhat okostelefonot a manipulálás egyik módjaként, ha meztelen képet hoz létre ezen testreszabott alkalmazások segítségével." – mondta Dame Rachel de Souza gyermekbiztos. "Nincs pozitív ok ezeknek a (alkalmazások) létezésének."
De Souza rámutatott, hogy a nudifikációs AI alkalmazások széles körben elérhetők a mainstream platformokon, ideértve a legnagyobb keresőmotorokat és az alkalmazásüzleteket. Ugyanakkor ők "Aránytalanul megcélozza a lányokat és a fiatal nőket, és úgy tűnik, hogy sok eszköz csak női testeken dolgozik." Hozzátette, hogy a fiatalok cselekednek az ilyen eszközök visszaélése ellen.
Ebből a célból De Souza felszólítja a kormányt, hogy vezessen be teljes tilalmat azoknak az alkalmazásoknak, amelyek mesterséges intelligenciát használnak a szexuálisan kifejezett mélytermékek előállításához. Azt is akarja, hogy a kormány jogi felelősségeket hozzon létre a Genai App fejlesztői számára, hogy azonosítsák a gyermekek számára jelentett termékeik kockázatait, hatékony rendszereket hozzanak létre a CSAM eltávolítására az internetről, és elismerik a Deepfake szexuális zaklatást a nők és lányok elleni erőszak formájaként.
Az Egyesült Királyság már megtett lépéseket az ilyen technológiák betiltására azáltal, hogy új bűncselekményeket vezet be a szexuálisan explicit mélytermékek előállítására vagy megosztására. Azt is bejelentette, hogy bűncselekménygé teszi azt, hogy bűncselekménygé tegye, ha egy személy hozzájárulás nélkül készít intim fényképeket vagy videókat. A gyermekbiztos azonban konkrétabban az ilyen technológiák által a fiatalok számára okozott károkra összpontosít, megjegyezve, hogy van kapcsolat a mélytermék -visszaélés és az öngyilkossági gondolatok és a PTSD között, amint a Guardian rámutatott.
"Még mielőtt bármilyen vita megjelent volna, már meg tudtam mondani, hogy mire fogják használni, és ez nem lesz jó dolgok. Már elmondhattam, hogy technológiai csoda lesz, amelyet bántalmazni fognak," -mondta egy 16 éves lány, akit a biztos megkérdezett.
Az Egyesült Államokban a nemzeti öngyilkosság-megelőzés mentővonala 1-800-273-8255, vagy egyszerűen tárcsázhatja a 988-at. A válság szövegvonala elérheti a 741741 (USA), 686868 (Kanada) vagy 85258 (Egyesült Királyság) számára. A Wikipedia fenntartja a válságvonalak listáját az ezen országokon kívüli emberek számára.
Ez a cikk eredetileg az Engadget-en jelent meg a https://www.enggadget.com/cybersecurity/uk-regulator-wants-to-banps-that-that-make-deepfake-nude-nude-images-of-children-110924095.html?src=rsss
