Microsoft har annonsert en ny AI-drevet modereringstjeneste som har som mål å skape tryggere og mer inkluderende nettsamfunn. Tjenesten, kalt Azure AI Content Safety, er en del av Azure AI-produktplattformen og tilbyr en rekke AI-modeller som kan oppdage og flagge upassende innhold på tvers av bilder og tekst.
I følge Microsoft kan modellene forstå tekst på åtte språk: engelsk, spansk, tysk, fransk, japansk, portugisisk, italiensk og kinesisk. De kan også tilordne en alvorlighetsgrad til det flaggede innholdet, som indikerer til moderatorer hvilket innhold som krever handling. Tjenesten kan beskytte mot partisk, sexistisk, rasistisk, hatefullt, voldelig og selvskadende innhold, sier Microsoft.
Azure AI Content Safety er basert på den samme OpenAI GPT-4-teknologien som driver Microsofts chatbot i Bing Chat og GitHubs Copilot AI-drevne kodegenererende tjeneste. Microsoft sier at de har jobbet med løsninger for moderering av nettinnhold i over to år og har forbedret modellene for å ta hensyn til kontekst og kulturelle forskjeller.
Azure AI Content Safety er integrert med Azure OpenAI Service, Microsofts fullt administrerte tjeneste som gir bedrifter tilgang til OpenAIs teknologier med ekstra styrings-og samsvarsfunksjoner. Men Azure AI Content Safety kan også brukes på ikke-AI-systemer, for eksempel nettsamfunn og spillplattformer. Prisen starter på $1,50 per 1000 bilder og $0,75 per 1000 tekstposter.
[innebygd innhold]
Skape en tryggere nettopplevelse
Microsoft sier at Azure AI Content Safety ligner på andre AI-drevne toksisitetsdeteksjonstjenester som Perspective API, vedlikeholdt av Googles Counter Abuse Technology Team og Jigsaw. Microsoft hevder imidlertid tjenesten deres er mer omfattende og gjennomsiktig enn konkurrentene.
Microsoft håper Azure AI Content Safety vil hjelpe nettplattformer med å fremme mer positive og respektfulle interaksjoner mellom brukerne. Tjenesten er nå tilgjengelig via Azure-portalen. Hvis du vil vite mer om Microsofts AI-kunngjøringer på Build 2023, vil følgende lenker ta deg direkte til den relevante historien:
