TL;DR
-rapport: En Tech Transparency Project-rapport sa at Apple og Googles store oppdagelsesfunksjoner fortsatt styrte brukere til å nudifisere apper. Skala: Rapporten sa at kategorien hadde 483 millioner levetidsnedlastinger, $122 millioner i inntekter og 31 apper vurdert for mindreårige. Svar: Apple sa at de fjernet 15 apper, mens Google sa at suspensjoner var i gang og håndhevingsgjennomgang forble pågående. Hvorfor det betyr noe: Apple og Google forbyr allerede seksualisert og dypt falskt innhold uten samtykke, noe som skjerper granskningen av butikksøk og anbefalingssystemer.
En rapport fra Tech Transparency Project (TTP) sier at Apple og Google fortsatt styrer brukere til å nudifisere apper gjennom App Store og Google Play-søk, betalte plasseringer og forslag til autofullføring. I stedet for bare å være vert for programvare bygget for å generere seksualiserte bilder uten samtykke, sier rapporten at butikkene også hjalp brukere med å finne det. Denne innrammingen gjør en moderasjonssvikt til et bredere spørsmål om hvordan de to app-butikkene i utgangspunktet presenterer risikofylte apper.
TTP sa det fant i Apple 128 nusdify apper i Google 128 Play. AppMagic-data som er sitert i den samme rapporten, angir kategorien til 483 millioner nedlastinger i levetiden og 122 millioner dollar i levetidsinntekter, mens 31 apper vurdert som egnet for mindreårige forble tilgjengelige.
Google sa at vurderingen pågår og at flere navngitte apper allerede er suspendert. Apple fjernet 15 apper og Google fjernet syv etter at funnene ble delt. Til sammen gjør disse detaljene det vanskeligere å avvise episoden som en moderasjonsfeil.
Hvordan Store Search utvidet problemet
Disse detaljene presser historien utover et kjent modereringsforløp. Hvis TTPs konto er nøyaktig, var problemet ikke bare at skadelige apper kom inn i Apples og Googles butikker, men at søk, annonser og anbefalinger fortsatte å hjelpe brukere med å finne dem etter at plattformene allerede hadde publisert regler mot seksuelt innhold og dypt falske overgrep. Rangering, promoterte plasseringer og autofullføringssignaler former alt det folk ser før en senere fjerning trer i kraft.
For brukere og foreldre skaper dette et annet tillitsproblem. Søkebokser, promoterte resultater og autofullføringsforslag er ment å begrense risikoen, ikke gjøre skadelige apper til en lett tilgjengelig kategori. TTPs tall beskriver en stor kommersiell klynge med massenedlastinger, inntekter og lave aldersklasser i stedet for noen få obskure titler som slipper gjennom gjennomgangen.
Det er poenget Katie Paul presset på da hun diskuterte funnene.
“Det er ikke bare det at selskapene faktisk ikke klarer å faktisk vurdere dem på riktig måte, og faktisk fortsetter å tjene på appene og brukerne til å henvise til appene. seg.”
Katie Paul, Tech Transparency Project-direktør (via Bloomberg)
Hva Apple og Google sa, og hva deres regler allerede forbyr
Apples egne retningslinjer sier at materiale ikke er tillattporno-app Store eller”apper. Separate Apple-regler sier også at annonser må være alderstilpassede, en bemerkelsesverdig standard i en historie som delvis er sentrert på promoterte plasseringer.
Google Play lister opp apper som hevder å kle av folk som brudd på retningslinjene. Separate Google-regler hindrer dypt falskt seksuelt innhold uten samtykke, noe som gjør motsetningen vanskelig å gå glipp av hvis TTPs eksempler er nøyaktige. Google sa at retningslinjene deres forbyr seksuelt innhold, at flere apper som er navngitt i rapporten var suspendert, og at håndhevelsen fortsatt var under vurdering.
Hvorfor App Store-ansvarlighetspresset fortsetter å vokse
Presset på kategorien er ikke lenger begrenset til butikkmoderering alene. Minnesota and the U.K. vurderer forbud rundt AI-nudifiseringsapper. Det bredere bakteppet øker innsatsen for Apple og Google hvis eksterne forskere fortsetter å finne brudd på retningslinjene gjennom vanlige funnfunksjoner.
Nudify og deepfake-apper har allerede presset noen regjeringer til å foreslå lover. Apple og Google står nå overfor et mer varig spørsmål enn om de kan fjerne apper etter eksponering: kan funksjonene folk stoler på for å finne programvare slutte å styre brukere mot skadelige apper før en annen ekstern rapport tvinger en opprydding?
