Amsterdam en experts roepen op tot verbod AI-uitkleedsoftware
AMSTERDAM - De gemeente Amsterdam en expertisebureau over online misbruik Offlimits pleiten voor een wereldwijd verbod op zogeheten nudify-tools. Deze AI-tools maken het mogelijk om van gewone foto's seksueel getinte beelden te maken, zonder toestemming van de rechthebbende of de persoon op de foto.
Volgens het expertisebureau worden deze toepassingen steeds vaker ingezet voor sextortion, cyberpesten en misbruik van minderjarigen. Offlimits en de gemeente Amsterdam roepen daarom het kabinet en de EU op om deze technologie expliciet te verbieden en online ontoegankelijk te maken.
Uit onderzoek van Offlimits blijkt dat bijna 40 procent van de jonge mannen tussen de 18 en 25 jaar ooit strafbare of gewelddadige seksuele beelden heeft gezien. 15,6 procent geeft aan beelden van seksueel misbruik van minderjarigen te hebben gezien, realistisch of virtueel, waaronder AI-gegenereerde beelden. Ook uit onderzoek van Pointer onder ruim zestig middelbare scholen blijkt dat pesten met AI-gegenereerde naaktbeelden voorkomt: 24 procent van de scholen herkent dit, en 10 procent geeft aan dat dit vaker dan vijf keer per jaar gebeurt.
'Schandalig'
"Amsterdam investeert in digitale weerbaarheid, maar kinderen kunnen niet opboksen tegen een online omgeving die dit soort misbruik faciliteert", stelt de Amsterdamse wethouder Alexander Scholtes (ICT en Digitale Stad). "Het is onacceptabel dat we door het gemak van nudify-tools seksuele intimidatie en misbruik steeds laagdrempeliger maken. Daarom ondertekent ook Amsterdam dit manifest: wat legaal is, maar aantoonbaar schade veroorzaakt, moeten we durven verbieden."
"Nudify-tools worden vooral gebruikt om vrouwen en meisjes digitaal te ontkleden", aldus Offlimits-directeur-bestuurder Robbert Hoving. "Het is schandalig dat deze laagdrempelig toegankelijk zijn voor jongeren. Het risico is met nieuwe technologische ontwikkelingen ook veranderd: daders hoeven geen 'echte' beelden meer te hebben, maar kunnen ze doodeenvoudig met AI genereren. De gevolgen voor slachtoffers zijn groot en hebben dezelfde effecten als misbruik met echte beelden."
Ondanks dat het maken en verspreiden van deepfake-naaktbeelden in Nederland strafbaar kan zijn, zijn nudify-websites en -tools nog altijd eenvoudig op internet te vinden.
25-09
Nederland - ‘Herkennen signalen van dwingende controle is nodig om femicide te stoppen’ Overige
23:45
Maak gebruik van de RNI voor meer zicht op arbeidsmigranten
23:08
Jeugdeducatiefonds krijgt vaker hulpvragen voor dakloze kinderen
23:08
Nederlands toezicht op AI-verordening bekend
23:08
NDS-Raad stopt, kabinet wil ´bredere en flexibelere advisering´
23:08
Zorgorganisatie Gorinchem: geen aanwijzingen van ronselen stemmen
23:08
Overstappen naar andere sector? Let goed op!
23:08
Tijdelijke maatregel: geen e-mailalerts rijksoverheid
23:08
`Gemeenten moeten regels kamerverhuur versoepelen`
23:08
Kamer zet streep door verlenging DigiD-contract bij overname
23:08
Kostendelersnorm schaadt gezondheid oudere migranten
23:08
VNG: gevolgen wegstemmen asielwet lijken beperkt
20:54
Aansluitstop stroomnet Flevopolder-Gelderland-Utrecht grotendeels...
19:54
Minister-president Jetten naar informele Europese Raad in Cyprus
16:24
Vogelgriep neemt af, landelijke ophok- en afschermplicht grotendeels...
13:24
Koninklijk Paar opent Nederlands Paviljoen Biënnale Venetië
12:59
Bouwen aan de samenleving in Flevoland
11:54
Regeling voor kwijtschelden WIA-voorschotten in consultatie
11:50
Consultatie Uitvoeringswet AI-verordening van start
11:43
Negen gemeenten in Zuid-Holland Zuid slaan de handen ineen om inclusief...
10:32
Internetconsultatie elektronisch aanvragen rijbewijs geopend



