Egy három évvel ezelőtti sajnálatos incidens továbbra is sürgető aggodalomra ad okot, és kemény fényt vet a közösségi média sötétebb oldalára. Stephanie Mistre, a dél-franciaországi Cassis lakója 2021 szeptemberében élettelenül találta 15 éves lányát, Marie-t a hálószobájában. Marie öngyilkos lett, maga mögött hagyva a lerombolt családot és a szereppel kapcsolatos kérdések sorát. halálában a TikTok algoritmusát.
A tragédia után a lánya telefonjába mélyedve Mistre elszörnyedt, amikor egy sor videót talált, amelyek öngyilkossági módszereket hirdettek, oktatóanyagokat és megjegyzéseket, amelyek arra ösztönözték a felhasználókat, hogy lépjenek túl a „puszta öngyilkossági kísérleteken”. Mistre szerint a TikTok algoritmusa többször is a lányának juttatta el ezt a káros tartalmat, ezzel normalizálva az önsértést, és veszélyes összetartozás érzését keltve a depresszió körül.
Jogi eljárás a TikTok ellen
„Agymosás volt” – mondta Mistre. „Normalizálták a kétségbeesést és az önsértést, és a sebezhető gyerekek torz közösségévé tették.” Most ő és hat másik családja jogi lépéseket tett a TikTok France ellen, azzal vádolva a platformot, hogy nem mérsékelte megfelelően a káros tartalmakat, és a fiatal felhasználókat életveszélyes anyagoknak tette ki. A hét családból kettő öngyilkosság miatt veszített gyermeket.
A TikTok válasza
A TikTok, a ByteDance kínai cég által birtokolt népszerű alkalmazás tagadta a felelősségét, és kijelentette, hogy irányelvei tiltják az öngyilkosságot vagy az önsértést népszerűsítő tartalmakat. A vállalat azt állítja, hogy világszerte 40 000 bizalmi és biztonsági szakembert foglalkoztat, köztük több száz franciául beszélő moderátort, és az öngyilkossággal kapcsolatos tartalmat kereső felhasználókat mentálhigiénés szolgáltatásokhoz irányítja. E biztosítékok ellenére a kritikusok azzal érvelnek, hogy a platform moderálási erőfeszítései nem elegendőek.
Marie halála több tényezőhöz köthető, beleértve az iskolai zaklatást és az online zaklatást. Anyja azonban nagyrészt a TikTokra hárítja a felelősséget, mivel az alkalmazás algoritmusát egy empatikus és érzékeny tinédzserek ketyegő időzített bombájához hasonlítja. Azt is megjegyezte, hogy halála előtt Marie videókat készített, amelyekben elmagyarázta döntését, személyes nehézségekre hivatkozott, és a TikTokon népszerű Suicideboys emo rapcsoport szövegeit idézte.
Az algoritmus szerepe elmagyarázva
A TikTok elleni jogi csata a platform algoritmusára összpontosít, amely a családok ügyvédje, Laure Boutron-Marmion állítása szerint csapdába ejti a sebezhető felhasználókat a haszonszerzés miatti kétségbeesés ciklusaiban. A kereset azt állítja, hogy a TikTok algoritmusát arra tervezték, hogy kihasználja a gyermekek sebezhetőségét, „jövedelmező újraeljegyzési termékekké” alakítva őket.
„A stratégiájuk alattomos” – mondta Mistre. „Depressziós tartalmakba ejtik a gyerekeket, hogy elkötelezzék őket.” A családok esetét széles körű bizonyítékok támasztják alá Boutron-Marmion szerint, aki azt állítja, hogy a TikTok már nem tudja kibújni a felelősséget azzal, hogy azt állítja, hogy nem a globális és helyi konszern hozza létre a tartalmat.
Globális aggodalmak
A közösségi médiaplatformok, köztük a TikTok kritikusai kiemelték az „algospeak” jelenségét – egy olyan módszert, amelyet a felhasználók a moderálás megkerülésére alkalmaznak kódolt nyelv vagy emojik használatával. Egyes felhasználók például zebra emojit használnak az önsértésről vagy a svájci zászló hangulatjelét az öngyilkosságra való utalásként. Bár ezek a kódok nem tűnnek kifinomultnak, Imran Ahmed, a Center for Countering Digital Hate vezérigazgatója azzal érvel, hogy a platformok azonosítani tudnák őket, ha nagyobb erőfeszítéseket tennének.
Ahmed szervezete 2022-ben végzett egy tanulmányt, amely egy 13 éves lány tapasztalatait szimulálta a TikTokon. Mindössze két és fél percen belül az algoritmus megkezdte az önkárosító tartalmak kiszolgálását, majd nyolc percen belül az evészavar tartalmat. Átlagosan 39 másodpercenként javasoltak káros anyagokat.
„Az algoritmus tudja, hogy az evészavar és az önsértő tartalom különösen függőséget okoz a fiatal lányok számára” – mondta Ahmed. Elutasította a TikTok azon állítását, hogy a káros videók több mint 98,8 százalékát megjelölték és eltávolították, és kijelentette, hogy a platform erőfeszítései nem elegendőek a probléma mértékének kezelésére.
A tudósok azonban óvakodnak attól, hogy a mentális egészségügyi válságokat kizárólag a közösségi médiának tulajdonítsák. Grégoire Borst, a Paris-Cité Egyetem pszichológia és kognitív idegtudomány professzora megjegyezte, hogy nehéz közvetlen ok-okozati kapcsolatot megállapítani a közösségi média használata és a mentális egészségügyi problémák között. Idézett egy lektorált tanulmányt, amely azt mutatja, hogy a tinédzserek jólétében bekövetkezett eltéréseknek csak 0,4 százaléka tudható be a közösségi médiának.
Borst arra is rámutatott, hogy a legtöbb tinédzser jelentősebb kár nélkül használja a közösségi médiát. Azok azonban, akik már most is kihívásokkal néznek szembe – mint például a zaklatás vagy a családi instabilitás – érzékenyebbek a káros tartalmak negatív hatásaira. „Amikor a tinédzserek már rosszul érzik magukat, és torz képeknek vagy káros társadalmi összehasonlításoknak vannak kitéve, az ronthatja mentális állapotukat” – mondta.
A TikTok kínai megfelelőjével, a Douyinnel való összehasonlítás tovább szította a kritikát. A Douyin szigorú tartalomszabályozást ír elő a 14 éven aluli felhasználók számára, beleértve a kötelező „ifjúsági módot”, amely napi 40 percre korlátozza a képernyő előtt töltött időt, és csak jóváhagyott oktatási és felemelő tartalmakat biztosít. Boutron-Marmion azzal érvel, hogy a hasonló biztosítékok hiánya más régiókban rávilágít arra, hogy a TikTok előnyben részesíti a profitot a biztonsággal szemben.
A nagyobb kérdés
A TikTok France elleni per a közösségi média algoritmusainak a mentális egészségre gyakorolt hatásával kapcsolatos szélesebb körű globális aggodalmakat tükrözi. Hasonló jogi lépések indultak az Egyesült Államokban, ahol a családok olyan platformokat vádoltak meg, mint a Meta Instagram és Facebook, valamint a Snapchat és a TikTok, hogy hozzájárultak a tizenévesek öngyilkosságához.
Franciaországban a kormány is felismerte a közösségi média algoritmusainak lehetséges veszélyeit. Az Emmanuel Macron elnök megbízásából 2024 áprilisában készült jelentés bizonyos függőséget okozó algoritmusok betiltását és a 15 év alatti kiskorúak közösségi médiához való hozzáférésének korlátozását javasolta. Ezeket az intézkedéseket azonban még nem hajtották végre.
Függetlenül attól, hogy a TikTok algoritmusa „agymosást” jelent-e, vagy a probléma máshol van, a kérdés továbbra is fennáll: hogyan tudja a társadalom megvédeni legsebezhetőbb tagjait a digitális korszakban?
Kövesse az összes üzleti hírt, a legfrissebb híreket és a legfrissebb híreket a Live Mint oldalon. Töltse le a Mint News alkalmazást a napi piaci frissítésekért.
Business NewsNewsWorldTikTok beperelték Franciaországban, amiért „tinik agymosását öngyilkosságba vitte”; A ByteDance cáfolja az állításokat MoreLess
