Google heeft een substantiële upgrade onthuld van de spamfiltermogelijkheden van Gmail, naar verluidt een van de meest aanzienlijke defensieverbeteringen in jaren. Het nieuwe systeem, genaamd RETVec (Resilient & Efficient Text Vectorizer), is ontworpen om’vijandige tekstmanipulaties’te bestrijden, een geavanceerde vorm van spam die gebruik maakt van diverse karakters en lettertypen om traditionele filters te omzeilen.
Inzicht in vijandige tekstmanipulaties
Agressieve tekstmanipulaties in spam-e-mails omvatten het gebruik van homoglyphs, speciale tekens, emoji’s en typefouten, die potentieel kunnen worden omzeild door conventionele spamfilters. Dergelijke berichten gebruiken tekens uit een breed scala aan Unicode-standaarden die lijken op het gewone alfabet brieven, maar worden niet als zodanig geclassificeerd door de AI-modellen die eerder werden gebruikt voor spamdetectie.
De kern van het probleem zijn berichten die voor het menselijk oog als gewone tekst verschijnen, maar een verwarrende Unicode-reeks zijn tekens die niet overeenkomen met de verwachte patronen. Het gebruik van een nul ter vervanging van een’O’, vetgedrukte wiskundige symbolen in plaats van echte letters, of ongebruikelijke onderstreepte tekens, kan bijvoorbeeld het vermogen van het model om spam nauwkeurig te herkennen en te filteren, ondermijnen.
De werking van RETVec
RETVec is gebouwd op een nieuwe karakter-encoder die in staat is om alle UTF-8-tekens en woorden efficiënt te coderen, wat direct de beperkingen van eerdere systemen aanpakt. Google onthult dat RETVec werkt op basis van het principe van visuele “overeenkomst” in plaats van te vertrouwen op een vaste woordenschatgrootte of een opzoektabel voor homogliefen, wat veel middelen kostte. Dit stelt het nieuwe systeem in wezen in staat de bedoelde betekenis van een tekst te interpreteren op een manier die veel lijkt op hoe mensen lezen.
Volgens Google voert RETVec deze taken uit met een relatieve compactheid, met slechts 200.000 parameters. De implicaties van deze efficiëntie zijn aanzienlijk, waardoor de mogelijkheid mogelijk wordt gemaakt om deze technologie op lokaal niveau in te zetten apparaten in de toekomst. Bovendien gaat de efficiëntie in het ontwerp niet ten koste van de prestaties. Uit interne tests van Google blijkt dat het vervangen van de eerdere tekstvectorizer van Gmail door RETVec de spamdetectiepercentages met 38% verbeterde en het aantal valse positieven met 19,4% verminderde, terwijl het aantal valse positieven met 19,4% werd verlaagd. model-TPU-gebruik met 83%.
Open sourcing RETVec speelt in op de bredere strategie van Google om de algehele internetbeveiliging te verbeteren. Het sluit aan bij de ethos van het bedrijf om een samenwerkingsomgeving te bevorderen waar ontwikkelaars kunnen bijdragen aan en deze technologie kunnen gebruiken voor het bestrijden van homoglyph-aanvallen op verschillende platforms, niet alleen op Gmail.
RETVec is al geïntegreerd in Gmail en werkt eraan om de inbox van gebruikers te beschermen tegen geavanceerde spamaanvallen. De voortdurende vooruitgang van Google op het gebied van spamfiltertechnologie is een bewijs van hun voortdurende inzet voor verbetering van de beveiliging en de gebruikerservaring.
Voortdurende anti-spanmaatregelen van Google in Gmail
Google heeft dit jaar de antispammogelijkheden van Gmail uitgebreid. In oktober veranderde het bedrijf zijn regels rond bulkafzenders om spam te bestrijden. Op grond van de nieuwe richtlijnen zal Google een specifiek spampercentage opleggen, waaraan afzenders van bulk-e-mail zich moeten houden. Hoewel Gmail momenteel een spamoutput van minder dan 0,3 procent aanbeveelt, zetten deze nieuwe regels deze aanbeveling om in een concrete regel, gericht op het verminderen van de hoeveelheid spam die de inbox van gebruikers verstikt.
