A Roblox New Age -ellenőrző funkciója AI -t használ a serdülőkori video -önportrék szkennelésére

A Roblox New Age -ellenőrző funkciója AI -t használ a serdülőkori video -önportrék szkennelésére

Az eligazítás során Kaufman a Robloxot “az egyik legbiztonságosabb helynek nevezte, hogy az emberek találkozzanak és időt töltsenek barátaival és családjával”.

Kirra Pendergast, a Safe On Social – a világ minden tájáról működő online biztonsági szervezet alapítója és vezérigazgatója – elosztja a legfrissebb Roblox biztonsági intézkedéseket, ezáltal “a kiskorúak felelősségével a kockázatok azonosításáért és kezelésében, ami ellentmond mindent, amit tudunk az ápolás dinamikájáról”. Az olyan funkciók, mint például az automatikus tanulási életkor becslési eszközei, nem kategorizálhatják a felhasználókat idősebb vagy fiatalabbnak; A kód digitalizálása személyesen, azt mondja: “Tegyük fel, hogy a QR -kód személyi digitalizálása lényegében biztonságos.”

“A ragadozók gyakran használják a valós ápolási taktikát” – magyarázza Pendergast. “A QR-elemzés nem ellenőrzi a bizalom kapcsolatát. A ragadozó online bizalmat hozhat létre, majd manipulálhatja a gyermeket egy offline QR-kód digitalizálásában, ezáltal érvényesítve a Roblox rendszerben a bizalmi kapcsolatot.

Ezenkívül a Pendergast szerint a bizalmi kapcsolatok csak a macskára vonatkoznak, amely “nagy felületeket hagy ki, ami a legjobb esetben törékeny akadályt jelent”.

Arra a kérdésre, hogy egy személyi QR -kód hogyan védi a kiskorúakat a valós ápolási taktikától, Kaufman egy sajtó megjegyzést tükröz, hogy nincs “pénzgömb”. Ehelyett, mondja, sok rendszer működik együtt. “Ezek a rendszerek politikánkkal, közösségi szabványainkkal kezdődnek” – magyarázza Kaufman. “A mi termékünk, amely automatizált dolgokat készít, a partnerségünk, a színfalak mögött vannak. Tehát egy sor olyan dolgunk van, amelyek a helyükön vannak az emberek biztonságának biztosítása érdekében. Nem csak a QR -kód, vagy nem csak az életkor becslése, hanem az összes dolgok is a koncerten.”

Kaufman azt mondja, hogy a Roblox “tovább megy”, mint a többi platformon, ha nem engedi, hogy a 13-17 éves gyermekek meghatározatlan kommunikációval rendelkezzenek, anélkül, hogy bizalmi kapcsolatokon mennek keresztül. “Hisszük, hogy valóban meghatározzuk a világ szabványát abban, hogy mit jelent biztonságos és nyitott kommunikáció a tizenéves közönség számára.”

A Roblox eligazítás szerint a frissítések a tipikus Roblox fejlesztési folyamat részét képezik, és ezeket nem “egy adott esemény befolyásolta” vagy megjegyzések. “Ez nem reakció valamire” – mondta Kaufman. “Ez része annak a hosszú távú tervünknek, hogy a Robloxot a lehető legbiztosabbá tegyük.”

Kaufman azt is elmondta Wirednek, hogy a játék fokozott irányításának és megbeszélésének a vállalat szempontjából nem volt látványos hatása. “Amit ezzel a hirdetéssel csinálunk, az is megpróbálja meghatározni a sávot arra, amit a gyermekek számára megfelelőnek gondolunk” – mondta.

A technológiát mint generatív AI -t tekintve azt mondja: “Lehet, hogy a technológia megváltozott, de az alapelvek mindig ugyanazok. Az AI -t is valódi lehetőségnek tekintjük, hogy képesek legyünk néhány olyan dolgot megtenni, amelyet nagy léptékben teszünk, amikor a moderálásra gondolunk. Az AI ennek középpontjában áll.”

Az eligazítás során azt mondta, hogy Roblox szerint a szülők és az oktatók számára fontos, hogy “párbeszédet építsenek” gyermekeikkel az online biztonságról. “Az a kérdés, hogy megbeszéléseket folytasson arról, hogy hol töltik az időt az interneten, kik a barátaik és mit csinálnak” – mondta Kaufman. “Ez a vita valószínűleg a legfontosabb dolog az emberek biztonságának biztosítása érdekében, és befektetünk az odajutás eszközeibe.” Hozzátette, hogy a Roblox tisztában van azzal, hogy a családok eltérő elvárásokkal bírnak a megfelelő online viselkedésről. “Ha a szülők döntést hoznak arról, hogy mi alkalmas gyermekük számára, akkor lehet, hogy nem felel meg a döntéseknek, amelyeket meghozhatunk, vagy meg tudnám hozni a saját családomat” – mondta. “De ez rendben van, és tiszteletben tartjuk ezt a különbséget.”

Leave a Reply

Your email address will not be published. Required fields are marked *