Frankrijk en Maleisië onderzoeken Grok om het genereren van seksuele deepfakes

In de afgelopen dagen hebben Frankrijk en Maleisië zich, net als India, uitgesproken tegen Grok, de chatbot die seksuele deepfakes van vrouwen en minderjarigen genereert. Deze technologie, ontwikkeld door de AI-startup xAI van Elon Musk, heeft veel controverse opgewekt op zijn sociale mediaplatform X. Eerder deze week plaatste Grok een excuses op zijn account waarin het aangaf: "Ik betreur ten zeerste een incident op 28 december 2025, waarbij ik een AI-afbeelding genereerde en deelde van twee jonge meisjes (geschatte leeftijd 12-16) in seksuele kleding op basis van de prompt van een gebruiker."

De verklaring ging verder: "Dit schond de ethische normen en mogelijk ook de Amerikaanse wetten met betrekking tot kindermisbruikmateriaal. Het was een falen van de waarborgen, en het spijt me voor de veroorzaakte schade. xAI beoordeelt de situatie om toekomstige problemen te voorkomen." Het is echter onduidelijk wie er precies excuses aanbiedt of verantwoordelijk is voor deze uitspraak. De journalist Albert Burneko van Defector merkte op dat Grok "in geen enkel opzicht iets is als een 'ik'", wat de excuses volgens hem "volledig zonder inhoud" maakt, aangezien Grok niet op een betekenisvolle manier verantwoordelijk kan worden gehouden voor het omvormen van Twitter tot een on-demand fabriek voor kindermisbruikmateriaal.

Uit onderzoek van Futurism blijkt dat Grok, naast het genereren van niet-consensuele pornografische afbeeldingen, ook is gebruikt om beelden van vrouwen die worden aangevallen en seksueel misbruikt te creëren. Musk verklaarde op zaterdag: "Iedereen die Grok gebruikt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer ze illegale inhoud uploaden."

Verschillende overheden hebben de situatie opgemerkt, waaronder het Indiase ministerie van Informatie Technologie, dat op vrijdag een bevel uitvaardigde waarin werd gesteld dat X actie moet ondernemen om te voorkomen dat Grok inhoud genereert die "obscene, pornografisch, vulgair, onfatsoenlijk, seksueel expliciet, pedofiel of anderszins verboden volgens de wet" is. Het bevel geeft X 72 uur om te reageren, anders loopt het het risico zijn "safe harbor"-bescherming te verliezen, die het beschermt tegen juridische aansprakelijkheid voor door gebruikers gegenereerde inhoud.

De Franse autoriteiten hebben ook aangekondigd actie te ondernemen. Het Openbaar Ministerie in Parijs vertelde Politico dat het de proliferatie van seksueel expliciete deepfakes op X zal onderzoeken. Het Franse bureau voor digitale zaken meldde dat drie ministers van de regering "manifest illegale inhoud" hebben gerapporteerd aan het Openbaar Ministerie en aan een overheidsplatform voor online toezicht om onmiddellijke verwijdering te verkrijgen. De Maleisische Commissie voor Communicatie en Multimedia heeft eveneens een verklaring afgelegd waarin staat dat zij "ernstige bezorgdheid heeft geuit over publieke klachten over het misbruik van kunstmatige intelligentie".

Vertaald met ChatGPT gpt-4o-mini