A Roblox, a Discord, az Openai és a Google elindít egy Nonprofit szervezetet, amelyet Roost vagy Robust Open Online Safety Tools elnevezésű, és azt reméli, hogy „méretezhető, interoperábilis biztonsági infrastruktúrát készít az AI -korszakhoz”.
A szervezet azt tervezi, hogy ingyenes, nyílt forrású biztonsági eszközöket biztosít az állami és magánszervezetek számára, hogy saját platformon használják, különös tekintettel a gyermekbiztonságra. A Roost bejelentő sajtóközleménye kifejezetten felhívja a terveket, hogy „eszközöket kínáljanak a gyermekek szexuális visszaélés anyagának (CSAM) felismerésére, áttekintésére és jelentésére”. A partnervállalatok finanszírozást nyújtanak ezekhez az eszközökhöz, és a műszaki szakértelem is azok felépítéséhez.
A Roost működési elmélete az, hogy a generatív AI -hez való hozzáférés gyorsan megváltoztatja az online tájat, így a „megbízható és hozzáférhető biztonsági infrastruktúra” szükségessége még sürgetőbb. És ahelyett, hogy egy kisebb vállalat vagy szervezet a semmiből hozza létre saját biztonsági eszközeit, a Roost ingyenesen akarja biztosítani számukra.
A gyermekek online biztonsága volt a kérdés, mivel a gyermekek és a tini online adatvédelmi védelmi törvény (COPPA) és a Kids Online Safety Act (KOSA) elkezdték a kongresszuson keresztül lépni, bár mindkettő nem ment át a házban. Legalább a Roostban részt vevő vállalatok, különösen a Google és az Openai, szintén már ígéretet tettek arra, hogy megakadályozzák az AI eszközöket a CSAM előállításához.
A gyermekbiztonsági kérdés még sürgetõbb a Roblox számára. 2020-tól kezdve az Egyesült Államok kilenc és 12 év közötti kétharmada a Roblox játékot játszik, és a platform történelmileg küzdött a gyermekbiztonság kezelése érdekében. A Bloomberg BusinessWeek arról számolt be, hogy a vállalatnak 2024 -ben „pedofilproblémája” volt, ami több politikai változást és új korlátozásokat váltott ki a gyermekek DM -je körül. A Roost nem fogja eltűnni ezeket a problémákat, de megkönnyítené a velük való foglalkozást bármely más szervezet vagy vállalat számára, amely a Roblox helyzetében találja magát.
Ez a cikk eredetileg az Engadget-en jelent meg a https://www.enggadget.com/big-tech/roblox-discord-openai-and-google-found-new-child-safety-group-194445241.html?src=RSSS
