Google har begynt å aktivere dens”sensitive innholdsvarsler”-funksjonen i Android Messages-appen, og levert på en mulighet som først ble detaljert i oktober 2024. Dette systemet bruker kunstig intelligens som kjøres lokalt på brukerenheter for å oppdage potensiell nakenhet i bilder, automatisk å gjøre dem som skal gjøre dem og gi dem. Backend-komponenter distribuert måneder før, og kommer midt i bredere bransjeinnsats for å bekjempe skadelig online innhold og øke AI-drevne cybertrusler.
Funksjonen introduserer en to-overgått tilnærming for å håndtere potensielt eksplisitte bilder i appen, som støtter moderne rike kommunikasjonstjenester (RCS)-meldinger ved siden av tradisjonelle SMS/MMS. Når et innkommende bilde blir flagget av AI-enheten, ser det ut til å være uskarpt i samtalen. Mottakeren ser alternativer for å lære mer om potensielle skader som Vis,” I følge 9to5google . Hvis det vises, gjenstår et alternativ for å”fjerne forhåndsvisning”og slå på bildet på nytt. Et parallelt advarselssystem ber brukere som * sender * et bilde identifisert som potensiell nakenhet, .
For å sende bildet, må de trykke på”neste”og deretter eksplisitt bekrefte ved å sveipe”ja, send”eller avbryte ved å velge”Nei, ikke send”. Foreløpig gjelder denne deteksjonen bare for bilder og analyserer ennå ikke videoer.
behandling og personvernforsikringer
Sentralt i funksjonens design er dens avhengighet av lokal prosessering for å opprettholde brukerens personvern. The image analysis is handled by a system component known as Android System SafetyCore, a service providing “privacy-preserving on-device support for Android safety features,” I henhold til Googles støttedokumentasjon . Denne komponenten begynte å rulle ut via Google System-oppdateringer i november 2024, ved siden av G
Google understreker at bildeklassifiseringen kjører”utelukkende på enheten din og resultatene ikke delte med Google.”Videre tydeliggjør den offisielle dokumentasjonen at SafeTycore”bare er aktiv når en applikasjon integreres med SafeTycore og spesifikt ber om at innholdet blir klassifisert. Bilder blir ikke klassifisert med mindre de blir sendt via Google-meldinger med den sensitive innholdsadvarsler om å installere.” brukerreaksjoner og systemrulling uten å være i/h3.
Den brukervendte sensitive innholdsvarslingsfunksjonen i meldinger blir for tiden tilgjengelig for de i
Android Go er en lettere versjon av operativsystemet designet for maskinvare på inngangsnivå. SafeTycore-appbeskrivelsen i februar 2025 bemerket også en”gradvis utrulling i 2025″,”samsvar med den nåværende aktiveringstidsrammen. Funksjonen krever at enheter har minst 2 GB RAM. Brukere kan finne kontrollen som kan veksle i meldinger ved å navigere til innstillinger> Beskyttelse og sikkerhet> Administrere følsomme innholdsvarsler. Som med mange AI-klassifiseringssystemer erkjenner Google at funksjonen , potensielt å flagge trygge bilder eller mangle eksplisitte. hvordan funksjonen oppfører seg som standard avhenger av brukerkontokonfigurasjonen. For de fleste voksne som bruker ubegrensede telefoner, er advarslene av som standard og må være aktivt aktivert (opt-in). For tenåringer (13-17) hvis kontoer ikke blir overvåket gjennom Family Link, er funksjonen aktivert som standard, men kan slås av i Google-kontoinnstillingene. for barn hvis kontoer er overvåket via href=”https://blog.google/products/android/new-android-features-march-2025/”target=”_ blank”> telefoner i mars 2025 . Googles tilnærming deler likheter med Apples sensitive innholdsvarslingsfunksjon Tilgjengelig på iOS og MacOS, som indikerer en bredere bransjens retning for å gi brukere med verktøy for å administrere potensielt uønskede design. Administrere advarsler og tilgjengelighet