EU onderzoekt X en Grok om AI-naaktbeelden kinderen en vrouwen

BRUSSEL - De Europese Commissie gaat onderzoek doen naar socialmediaplatform X en chatbot Grok, die AI-naaktbeelden van vrouwen en kinderen genereert. Dat zou in overtreding zijn van de Europese techregels. Zowel Grok als X is eigendom van Elon Musk.

De chatbot kwam in opspraak omdat deze per uur duizenden afbeeldingen maakte van mensen die zonder hun toestemming werden ontkleed en verspreid via X. Daarbij gaat het met name om afbeeldingen van vrouwen, maar ook kinderen werden door de chatbot ontkleed en geseksualiseerd.

Onder de Europese Digital Services Act (DSA) is X een zogenoemd groot onlineplatform, dat daarmee extra verantwoordelijkheid heeft om de verspreiding van illegale beelden tegen te gaan. Ook moet het platform de fundamentele rechten van minderjarigen beschermen.

Eigen onderzoek

"Seksuele deepfakes van vrouwen en kinderen zonder toestemming zijn een gewelddadige en onaanvaardbare vorm van vernedering", stelt Eurocommissaris Henna Virkkunen (Technologische Soevereiniteit). "Met dit onderzoek zullen we vaststellen of X aan zijn wettelijke verplichtingen onder de Digital Services Act (DSA) heeft voldaan. Of dat het de rechten van Europese burgers, waaronder die van vrouwen en kinderen, heeft geschonden als nevenschade van zijn dienstverlening."

Er loopt sinds 2023 ook een ander onderzoek naar X vanwege het mogelijk overtreden van de DSA. Dat onderzoek kijkt of X genoeg doet tegen het verspreiden van illegale content, zoals terroristisch beeldmateriaal. In december kreeg X een boete van 120 miljoen euro vanwege onder meer misleidende blauwe vinkjes, die zouden suggereren dat een X-account van een echt persoon is terwijl dat gekocht kan worden.

Mogelijk verbod

Meerdere landen, zowel binnen als buiten de EU, hebben al eigen onderzoeken ingesteld naar Grok en X. Het Nederlandse kabinet zei eerder deze maand een verbod te overwegen voor AI-tools die naaktbeelden genereren.

De Autoriteit Consument & Markt (ACM) laat weten dat Nederlandse gebruikers van X en Grok die problemen ondervinden met het melden van illegale inhoud bij platforms, dit ook bij de toezichthouder kunnen doen. De ACM deelt deze informatie dan met andere nationale toezichthouders en de Europese Commissie. "Zij kunnen daardoor effectief optreden", stelt de waakhond.

◄ Dit is waarom je wel in de trein, maar niet in de bus of tram mag eten...

ACM wijst op het afnemen van concurrentie in Nederland: `Een zorgwekkende... ►