De regering-Biden heeft de technologiesector en financiële instellingen opgeroepen om het escalerende probleem van door AI gegenereerde beledigende seksuele beelden aan te pakken. Nieuwe generatieve AI-tools hebben het gemakkelijker gemaakt om realistische, niet-consensuele expliciete beelden te creëren, die vervolgens breed worden gedeeld op sociale media en chatrooms. Slachtoffers, waaronder beroemdheden en minderjarigen, worden geconfronteerd met grote uitdagingen bij het verwijderen van deze afbeeldingen zodra ze online zijn.
Oproep tot vrijwillige samenwerking
De regering zoekt vrijwillige samenwerking van bedrijven om maatregelen te implementeren die gericht zijn op het beteugelen van de creatie, distributie en het genereren van inkomsten met niet-consensuele AI-beelden. Deze oproep is niet alleen gericht op AI-ontwikkelaars, maar ook op betalingsverwerkers, financiële instellingen, cloudserviceproviders en poortwachters van mobiele app-winkels. Het doel is om de financiële prikkels achter seksueel misbruik op basis van afbeeldingen te ontmantelen, met bijzondere aandacht voor websites die expliciete afbeeldingen van minderjarigen adverteren.
Arati Prabhakar, Biden’s belangrijkste wetenschappelijk adviseur en directeur van het Witte Huis Office of Wetenschaps-en technologiebeleid, benadrukte de snelle verspreiding van niet-consensuele beelden, aangedreven door AI-tools , wat een diepgaande impact heeft gehad op vrouwen en meisjes. Ze benadrukte de dringende noodzaak voor bedrijven om snel actie te ondernemen.
Wetgevende steun nodig
Hoewel de regering aandringt op vrijwillige toezeggingen, erkent zij ook de noodzaak van wetgevende steun. Jennifer Klein, directeur van de Gender Policy Council van het Witte Huis, benadrukte dat hoewel de toezeggingen van bedrijven essentieel zijn, het Congres ook actie moet ondernemen. De huidige wetten criminaliseren het maken en bezitten van seksuele beelden van kinderen, zelfs als deze door AI zijn gegenereerd. Er is echter weinig toezicht op de tools en diensten die het creëren van dergelijke beelden mogelijk maken.
De inspanningen van de regering bouwen voort op eerdere vrijwillige toezeggingen van grote technologiebedrijven om waarborgen voor nieuwe AI-systemen te implementeren. Bovendien heeft Biden een uitvoerend bevel ondertekend om de ontwikkeling van AI te begeleiden om de openbare veiligheid te waarborgen, waarbij bredere AI-problemen worden aangepakt, waaronder de nationale veiligheid en door AI gegenereerde beelden van kindermisbruik.
Reactie en uitdagingen van de industrie >
De particuliere sector heeft gereageerd met toezeggingen van bedrijven als Microsoft, die de waarborgen hebben versterkt nadat door AI gegenereerde beelden van Taylor Swift online circuleerden. Scholen worstelen ook met AI-gegenereerde deepfake-naakten van studenten, vaak gemaakt en gedeeld door medetieners.
Het document van de overheid roept cloudserviceproviders en mobiele app-winkels op om applicaties te beperken die zijn ontworpen voor het maken of wijzigen van seksuele afbeeldingen zonder toestemming. Het onderstreept ook de noodzaak dat overlevenden de mogelijkheid hebben om niet-consensuele afbeeldingen gemakkelijk van online platforms te verwijderen.
Federale aanklagers hebben al actie ondernomen tegen personen die AI-tools gebruiken om expliciete afbeeldingen van minderjarigen te maken. Een man uit Wisconsin is bijvoorbeeld aangeklaagd voor het gebruik van Stable Diffusion om dergelijke afbeeldingen te genereren.
