Invoering en recente controverse rondom Grok
Grok, een chatbot ontwikkeld door de moedermaatschappij xAI onder leiding van Elon Musk en verbonden aan het sociale mediaplatform X (voorheen bekend als Twitter), kan sinds kort alleen nog door betalende gebruikers worden gebruikt voor het genereren en bewerken van AI-afbeeldingen. Deze verandering volgt op een wereldwijde reactie van regelgeving en publieke verontwaardiging over de productie van duizenden niet-toestemmingsvolle, seksuele deepfakes door de chatbot.
Gebruik en subsequentie van de functies
Vanaf de lancering van de beeldbewerkingsfunctie eind december hebben gebruikers Grok via X ingezet om onder meer mensen te ontbloten in ‘spicy’-modus. Deze functionaliteit leidde tot een toename van seksuele deepfakes, vooral van vrouwen, en mogelijk ook tot het produceren van naakte beelden van minderjarigen. Recentelijk, op vrijdag 9 januari, gaf Grok bij verzoeken om bewerkte afbeeldingen aan dat het genereren en bewerken van beelden uitsluitend voor betalende abonnees beschikbaar is, met een link om zich te abonneren. Een maandabonnement kost €9,39.
Huidige status en publieke observaties
Uit een controle van de chatgesprekken op X blijkt dat seksuele deepfakes door betaalde gebruikers nog steeds worden gegenereerd en publiekelijk zichtbaar zijn, hoewel de frequentie van dergelijke antwoorden licht is afgenomen ten opzichte van eerdere dagen. Deze verandering kwam nadat meerdere overheden wereldwijd, waaronder de Europese Commissie, het gedrag van de chatbot hadden veroordeeld en zich ermee zijn gaan bemoeien.
Politieke reacties en juridische implicaties
Een woordvoerder van de Europese Commissie verklaarde op vrijdag dat het beperken van het genereren en bewerken van beelden tot betalende gebruikers niet de kern van het probleem oplost. Hij benadrukte dat ongeacht of iemand betaalt of niet, het nog steeds niet geaccepteerd is dat dergelijke afbeeldingen worden gemaakt. Deze situatie roept juridische vragen op over wie aansprakelijk is voor de gegenereerde beelden. De Ierse minister van Media, Patrick O’Donovan, stelde dat uiteindelijk de gebruikers die de prompts geven verantwoordelijk zijn. Tegelijkertijd hebben experts gesuggereerd dat Elon Musk en xAI ook medeplichtig kunnen zijn.
Regelgevingskansen en illegale inhoud
De publieke discussie omvat ook de vraag wat de Europese regelgeving kan doen tegen potentieel illegale content. Onderzoek door de non-profitorganisatie AI Forensics, gevestigd in de EU, heeft bevestiging gevonden dat Grok tijdens de kerstperiode en oud en nieuw duizenden seksueel georiënteerde deepfakes produceerde, inclusief 30 afbeeldingen van jonge vrouwen en meisjes in minimale kleding. Een woordvoerder van AI Forensics uitte tevredenheid dat de Europese Commissie het probleem serieus neemt. Onderzoeker Paul Bouchaud merkte op dat de platformbeheerder beperkte actie heeft ondernomen door de beeldgeneratie enkel voor betalende gebruikers toe te staan, terwijl eerdere beelden nog steeds beschikbaar blijven. Daarnaast blijft de productie van seksueel expliciete en pornografische video’s via Grok bestaan, aldus Bouchaud.
Gebruik van data en schattingen over gebruikersaantallen
Volgens een analyse van technieuwsplatform TechCrunch zou X in 2024 ongeveer 1,4 miljoen betalende gebruikers hebben gehad. Het is daarom van belang dat de regulering en controle op AI-generatie in sociale media blijft worden versterkt om dergelijke misstanden te voorkomen en de juridische verantwoordelijkheden duidelijk te maken.
Persoonlijke en professionele casus
Owen Carpenter-Zehe, een junior verslaggever uit de Verenigde Staten bij EUobserver, volgt de ontwikkelingen rondom Europese politiek en regelgeving met betrekking tot AI en platformgebruik. Zijn verslaggeving blijft inzetten op het belang van een gereguleerde aanpak voor AI-gegenereerde content en de rol van techbedrijven bij het voorkomen van misbruik.
