James Bulger anyja az AI törvényt arra törekszik, hogy megfékezze a gyilkosság áldozatainak klipeit
Joshua nevetett
Politikai riporter
PA média
A meggyilkolt kisgyermek anyja, James Bulger sürgette a kormányt, hogy fogadjon el egy új törvényt a gyermekgyilkosság áldozatainak AI által generált videóira.
Denise Fergus szerint a Tiktok nem válaszolt a kétéves fia digitális klónjainak digitális klónjainak digitális klónjainak felvételére vonatkozó kérelmekre.
A kormány szerint az ilyen videókat egy meglévő törvény, az online biztonsági törvény értelmében illegálisnak tekintik, és azokat a platformok el kell távolítaniuk.
Tiktok szerint a BBC által kiemelt AI videókat eltávolították a szabályok megsértése érdekében.
A Tiktok szóvivője elmondta: “Nem engedjük meg a káros AI által generált tartalmat a platformon, és proaktívan találjuk meg a tartalom 96% -át, amely megsérti ezeket a szabályokat, mielőtt azt számunkra beszámolnánk.”
A BBC hasonló videókat talált a YouTube -on és az Instagram -on, és ezek a platformok szerint a tartalmat a szabályok megsértése érdekében vették le.
Fergus asszony elmondta a BBC -nek, hogy a meglévő törvények nem mennek elég messzire ahhoz, hogy a platformokat arra kényszerítsék, hogy távolítsák el a káros tartalmat és megakadályozzák az AI -t ilyen célokra.
“Jelenleg csak szavak” – mondta Fergus. “Nekik rajta kell cselekedniük.”
Fergus asszony szerint a fiát ábrázoló AI videók “teljesen undorító”, és azok, akik a közösségi médiába küldték őket, “nem értik, mennyire bántják az embereket”.
Azt mondta: “Ez a fejedben játszik. Ez valami, amit nem tudsz megszabadulni. Amikor látja ezt a képet, akkor veled marad.”
Fergus asszony elmondta, hogy csütörtökön találkozott Shabana Mahmood igazságszolgáltatási titkárral, és szándékában áll felvetni a kérdést.
James Bulger az anyjával egy Merseyside bevásárlóközpontban volt, amikor két tízéves fiú, Jon Venables és Robert Thompson elrabolták őt 1993-ban.
Venables és Thompson vezette a kisgyermek két és fél mérföldnyire egy vasúti pályára, ahol megkínozták és halálra verték.
James holttestét két nappal később találták meg a vasútvonalon.
Thompsonot és Venables -t bűnösnek találták James meggyilkolásában, így a modern brit történelem legfiatalabb elítélt gyilkosává váltak.
Illegális tartalom
A közösségi médiában szereplő AI videók animált gyermek avatárokat mutatnak be, amelyek az első személyben elmondják James gyilkosságának történetét.
A BBC több hasonló videót talált, amelyeket olyan fiókok osztottak meg, amelyek tartalmat tesznek közzé a bűnözésről és a gyilkosságokról, nyilvánvalóan a kattintások és a bevételszerzés céljából.
Néhány beszámoló minden videóban ugyanazt a formátumot követi, az AI avatarok felhasználásával, hogy utánozzák a világ minden tájáról származó gyilkosság áldozatait.
A YouTube szóvivője szerint a platform irányelvei “tiltják a tartalmat, amely reálisan szimulálja az elhunyt személyeket, akik leírják halálukat”.
A szóvivő szerint a rejtett történeteknek nevezett csatornát “ennek a politikának a súlyos megsértése miatt” szüntették meg.
Fergus asszony azt mondta: “Megyünk a közösségi médiába, és az a személy, aki már nincs velünk, ott van, beszélünk velünk. Mennyire beteg?
“Ez csak korrupt. Csak furcsa, és nem szabad megtenni.”
Egy kormányforrás szerint az ezeket a videókat közzétevő felhasználókat a kommunikációs törvény értelmében obszcén vagy bruttó anyaggal kapcsolatos közrendi bűncselekmények miatt lehet büntetőeljárás alá vonni.
A kormány szóvivője elmondta: “A technológia használata e zavaró célokra rossz.
“Ez a kormány erőteljes intézkedéseket tesz az online biztonsági törvény végrehajtása révén, amely szerint az ilyen videókat illegális tartalomnak tekintik, ahol bűncselekményt követnek el, és a platformok gyorsan el kell távolítaniuk.
“Mint a szülők szerte az országban, várhatóan látjuk, hogy ezek a törvények segítenek egy biztonságosabb online világ létrehozásában.
“De nem habozzon továbbmenni a gyermekeink védelme érdekében; ezek az alapok, nem pedig a korlátozás, amikor a gyermekek biztonságát az online biztonságról.”
Getty Images
Denise Fergus szerint a fiát ábrázoló AI videók “teljesen undorítóak” voltak
2023 -ban a korábbi konzervatív kormány elfogadta az online biztonsági törvényt, amelynek célja, hogy a szociális média cégek és a keresőmotorok megvédjék az Egyesült Királyságban a gyermekeket és felnőtteket az illegális, káros anyagoktól.
Az Ofcom az a szabályozó, amely érvényesíti a törvényt, és útmutatást tesz közzé arról, hogy a platformok hogyan teljesíthetik az emberek online védelme érdekében tett feladataikat.
A szabályozónak hatalma van arra, hogy intézkedéseket hozzon a vállalatokkal szemben, amelyek nem követik a feladataikat, de nem kényszeríthetik a platformokat az egyes tartalmak levonására.
Kym Morris, a James Bulger Memorial Trust elnöke elmondta, hogy a kormány módosíthatja az online biztonsági törvényt, hogy magában foglalja a káros AI által generált tartalom elleni konkrét védelmet.
Azt is mondta, hogy a kormánynak új jogszabályokat kell elfogadnia, amelyek a szintetikus médiát és az AI visszaélését fedik le.
“Világos meghatározásoknak, elszámoltathatósági intézkedéseknek és jogi következményeknek kell lenniük azok számára, akik ezt a technológiát kizsákmányolják, hogy károkat okozhassanak – különösen akkor, ha ez valódi áldozatokat és családjukat jelent” – mondta Morris.
“Ez nem a cenzúráról szól, hanem a méltóság, az igazság és a szörnyű bűncselekmények által közvetlenül érintett érzelmi jólét védelméről.”
Szűk AI -számla
Tervezték, hogy olyan intézkedéseket vonjanak be, amelyek arra kényszerítik a szociális média társaságokat, hogy távolítsák el az online biztonsági törvény néhány “, de káros” tartalmát, mielőtt a törvényré vált.
A javaslatokat azonban a cenzúra -aggályokról selejtezték.
Az online biztonsági kampányok azzal érvelnek, hogy a káros tartalom eltávolítására irányuló szabályokat szorgalmazni kell a törvényben lévő kiskapocsok szorításához.
Ez év januárjában Peter Kyle technológiai titkár azt mondta a BBC -nek, hogy “nem kielégítő jogalkotási megállapodást örökölt az online biztonsági törvényben.
“Nagyon nyitott vagyok, és nyilvánosan mondtam, azt hiszem, újra kell törvényhozni a jövőbe”-mondta Kyle.
A BBC azonban megérti, hogy a kormánynak jelenleg nem tervezi, hogy új törvényt fogadjon el, amely az AI online tartalomra összpontosít.
Egy kormányforrás szerint a miniszterek arra törekedtek, hogy egy szűk AI törvényjavaslatot vezessenek be, amely az élvonalbeli AI modellek szabályozására korlátozódott.
Jemimah Steinfeld, a cenzúra indexének vezérigazgatója elmondta, hogy a gyermekgyilkosság áldozatainak AI -videói úgy tűnik, hogy megsértik a meglévő törvényeket.
Azt mondta, hogy az online biztonsági törvény módosítása az AI -tartalom korlátozására “fennáll annak a kockázata, hogy a legitim videókat beleragadják”.
“Ha ez már illegális, itt nincs szükségünk szabályozásra” – mondta.
Steinfeld asszony elmondta, hogy míg “el kell kerülnünk egy térd-jerk reakciót, amely mindent elhelyez ebbe a szörnyű dobozba”, együttérzés volt James Bulger anyja iránt.
“Annak érdekében, hogy újra és újra át kell élnem, amit a tech javul, nem tudom elképzelni, milyen érzés” – mondta.
Az OFCOM szóvivője elmondta, hogy amikor a tartalmat egy platformon jelentik, akkor “el kell döntenie, hogy megsérti -e az Egyesült Királyság törvényeit, és ha igen, akkor megfelelő módon foglalkozzon”.
“Jelenleg értékeljük a platformok ezen új feladatok betartását, és azok, akik nem vezetnek be megfelelő intézkedéseket az Egyesült Királyság felhasználóinak illegális tartalomtól való védelme érdekében, elvárhatják a végrehajtási intézkedéseket” – mondta a szóvivő.
