Az ellenőrizetlen feltöltők kizárása: mi változott azóta a moderálásban?

„Azonnali hatállyal kizárólag a hivatalos tartalompartnerek és a Model Program tagjai tölthetnek fel tartalmat a Pornhub-ra” – így hangzott a 2020 decemberi hivatalos közlemény. Ez alapjaiban változtatta meg a platform működését: korábban bárki létrehozhatott egy ingyenes fiókot, és ellenőrzés nélkül tölthetett fel képeket és videókat.

A korábbi verifikációs folyamat mindössze annyiból állt, hogy a felhasználónak egy szelfit kellett készítenie, amin a felhasználóneve és a „pornhub.com” felirat szerepelt egy papíron – ez egy rendkívül alacsony küszöbű, könnyen megkerülhető azonosítási módszer volt. A platform bejelentette, hogy egy alaposabb verifikációs folyamatot vezet majd be 2021-ben.

A vállalat 2020 áprilisában (tehát már a Kristof-cikk publikálása előtt) megbízta a Kaplan Hecker & Fink LLP jogi céget, hogy végezzen független felülvizsgálatot a tartalom-megfelelőségi funkcióról, a jogi standardoknak való megfelelésre és minden beleegyezés nélküli tartalom, gyermekek szexuális bántalmazását ábrázoló anyag (CSAM) kiküszöbölésére fókuszálva.

A vizsgálat célja az volt, hogy azonosítsa a szükséges lépéseket egy „iparágvezető” tartalom-megfelelőségi program eléréséhez – ez a lépés (a botrány kirobbanása előtti megbízás) arra utal, hogy a vállalat már korábban is tudatában volt a problémáknak, még mielőtt a nyilvános botrány kirobbant volna.

Az új politika részeként a platform bejelentette, hogy alkalmazni fogja a CSAI Match-et (a YouTube gyermekek szexuális bántalmazását ábrázoló képanyag elleni technológiáját), a Content Safety API-t (a Google mesterséges intelligencia-alapú, jogellenes anyagfelismerő eszközét), és a PhotoDNA-t (a Facebook és a Google által is használt, automatikus képfelismerő technológiát).

Ezek az eszközök automatikusan képesek felismerni, ha egy feltöltött kép vagy videó megegyezik egy már ismert, adatbázisban szereplő jogellenes tartalommal – ez egy jelentős technológiai előrelépés a korábbi, kizárólag emberi jelentésekre és manuális moderálásra épülő rendszerhez képest.

A platform elindította a „Trusted Flagger Program”-ot, amiben világszerte több tucat non-profit internet- és gyermekvédelmi szervezet közvetlen hozzáférést kapott a moderálási csapathoz – bármilyen, egy megbízható jelentő (trusted flagger) által azonosított tartalmat azonnal letiltanak. Az Egyesült Államokban ezek a szervezetek a Cyber Civil Rights Initiative és a National Center for Missing & Exploited Children (NCMEC).

2021-től a platform éves átláthatósági jelentést is közzétesz, ami részletezi a moderálási eredményeket, beleértve az NCMEC-nél tett jelentések teljes számát és más, a bizalommal és biztonsággal kapcsolatos kulcsfontosságú adatokat – a vállalat állítása szerint ez az egyetlen felnőtt tartalom-platform, ami ilyen jelentést közzétesz.

2024. január 24-től a platform megerősített verifikációs követelményeket vezetett be – de kritikusok szerint fontos korlátokkal. Elsőként: a verifikációs követelmény kizárólag az ettől a dátumtól feltöltött videókra vonatkozik – a platform NEM távolítja el a korábban, ez előtt feltöltött, nem ellenőrzött tartalmat ez alapján.

Másodszor: kritikusok szerint az új politika alapján megkövetelt verifikációs intézkedések viszonylag gyengék – a platform mindössze egy azonosító okmányt és egy aláírt beleegyező nyilatkozatot kér a társ-előadóktól. Ez azt jelenti, hogy bár jelentős előrelépés történt 2020 óta, a rendszer még mindig nem tökéletes, és a korábbi, potenciálisan problémás tartalom egy része továbbra is elérhető maradhat a platformon.