Google is begonnen met het inschakelen van de functie”Sensitive Content Warnings”in de Android-berichten-app, die een mogelijkheid levert die eerst in oktober 2024 wordt gedetailleerd. Maanden eerder gedistribueerd, en arriveert te midden van bredere industriële inspanningen om schadelijke online inhoud te bestrijden en door AI-gedreven cyberdreigingen te vergroten.
De functie introduceert een tweevoudige benadering van het hanteren van potentieel expliciete afbeeldingen binnen de app, die moderne rijke communicatiediensten (RCS) messaging naast traditionele SMS/MMS ondersteunt. Wanneer een binnenkomende foto wordt gemarkeerd door de AI op de apparaat, lijkt deze vervaagd in het gesprek. De ontvanger ziet opties voor meer informatie over de potentiële schade die aan dergelijke inhoud is gekoppeld of de afzender blokkeren.
Volgens 9to5Google . Indien bekeken, blijft er een optie om”Voorbeeld te verwijderen”en de afbeelding opnieuw te vervullen. Een parallel waarschuwingssysteem vraagt gebruikers die * een afbeelding verzenden die is geïdentificeerd als potentiële naaktheid, >
Om de afbeelding te verzenden, moeten ze tikken op”Volgende”en vervolgens expliciet bevestigen door te vegen”Ja, verzenden”, of annuleren door”Nee, niet verzenden”te selecteren. Momenteel is deze detectie alleen van toepassing op afbeeldingen en analyseert het nog geen video’s.
verwerking en privacy-garanties
Centraal in het ontwerp van de functie is de afhankelijkheid van lokale verwerking om de privacy van de gebruikers te behouden. De beeldanalyse wordt afgehandeld door een systeemcomponent bekend als Android System SafetyCore , Een service die”privacy-preserving op en kwijtschakeling is,”href=”https://support.google.com/android/answer/14160844″target=”_ blank”> Volgens de ondersteuningsdocumentatie van Google .
Deze component is begonnen met uitrollen via november 2024, naast een andere app genaamd”Android System Key Verifier”(Intensed for Future Contact Identity Verificatie). G
Google benadrukt Die beeldclassificatie loopt”exclusief op uw apparaat en de resultaten zijn niet gedeeld met Google.”Furthermore, the official documentation clarifies that SafetyCore “is only active when an application integrates with SafetyCore and specifically requests that content be classified. Images aren’t classified unless they’re sent through Google Messages with the Sensitive Content Warnings feature turned on.”
User Reactions and System Rollout
Despite these privacy assurances, the earlier, often unnoticed installation of the SafetyCore component heeft sommige gebruikersproblemen verhoogd , met een aantal prematuely labelende het gebrek aan initiële transparantie over het gebrek aan initiële transparantie over het gebrek aan initiële transparantie over het gebrek aan initiële transparantie over het gebrek aan initiële transparantie over het gebrek aan initiële transparantie over zijn doel was officieel actief. De component werkt uitsluitend op het apparaat, een punt dat wordt weergegeven door technische analyses.
De functie Gebruikers-Facing Sensitive Content Warnings binnen berichten komt momenteel beschikbaar voor die in de Boods Beta Program . De originele aankondiging van Google gaf een bredere uitrol aan”Aange-apparaten van Android 9+, waaronder Android GO-apparaten met Google-berichten in de komende maanden.”
Android GO is een lichtere versie van het besturingssysteem dat is ontworpen voor instaphardware. De Beschrijving van de SafetyCore-app in februari 2025 merkte ook een”geleidelijke uitrol in 2025″op,”afgestemd op het huidige activeringstijd. De functie vereist dat apparaten ten minste 2 GB RAM hebben. Users can find the control toggle within Messages by navigating to Settings > Protection & Safety > Manage sensitive content warnings.
As with many AI classification systems, Google acknowledges that the feature may occasionally misclassify images, mogelijk veilige afbeeldingen markeren of expliciete ontbreekt. Voor de meeste volwassenen die onbeperkte telefoons gebruiken, zijn de waarschuwingen standaard uitgeschakeld en moeten actief worden ingeschakeld (opt-in). Voor tieners (13-17) wiens accounts niet worden begeleid via Family Link, is de functie standaard ingeschakeld, maar kan worden uitgeschakeld in hun Google-accountinstellingen.
Voor kinderen wiens accounts worden begeleid via Family Link (Google’s Parental Control Service), de speelservice) (Google’s Parental Control Service), de speelservice) (Google’s Parental Control Service). Ouder of voogd kan het uitschakelen via de Family Link-app.
Dit waarschuwingssysteem voor naaktheid arriveert als onderdeel van een bredere push door Google om de veiligheid binnen berichten met AI te verbeteren. De aankondiging van oktober 2024 omvat ook verbeterde scam-detectiemogelijkheden die zich richten op specifieke patronen zoals nep-baan-of leveringsmeldingen, die href=”https://blog.google/products/android/new-android-features-march-2025/”target=”_ blank”> telefoons in maart 2025 . De aanpak van Google deelt overeenkomsten met Apple’s gevoelige inhoudswaarschuwingsfunctie Beschikbaar op iOS en macOS, wat duidt op een bredere industrierichting om gebruikers te bieden om te beheren hulpmiddelen om potentieel ongewenste expliciete inhoud te beheren op hun apparaten.